Hur ANN med IQ 130 fungerar

Jag skriver med en dataexpert som isåfall inte ens förstår vad en dator är, eller vad AI kan och inte kan.

Du verkar blanda ihop Terminator 2 med verkligheten.

Den dagen som AI börjar döda människor planlöst och utan anledning, så kan vi völvts det här snacket? För just nu så är det fiktion, och det vet du ju oxå.

Det räcker ju att en AGI spårar ur, eller.. "hallucinerar", en gång. Hur kan vi se till att det aldrig händer? Vi kan bara undvika det genom att inte bygga det som kan döda oss. Om vi bygger det, då dör vi. Förr eller senare.

Potatis odlar man ävenbi Sverige, utan internet eller AI. Det vet jag ju eftersom att jag har gjort det själv, även om jag inte gör det längre.

Hamnar man i en kris så kommer ju folk att börja föda upp det som är enkelt att föda upp och sen äta det, dvs fisk, kaniner, kycklingar, råttor.

Så när du skriver att vi är beroende av AI:internet för mat på bordet, så handlar ju det om dagens samhälle, där AI inte går runt och dödar folk till höger och vänster.

Sverige är inte självförsörjande på mat för alla 10miljoner invånare, men vi klarar nog 50% iallafall, och det är väl vad som krävs för att rida ut en större kris.

Eller så tar du ett varv till och funderar på sammanhanget...

Är du seriös?

Det finns mängder av system i varje land som är helt nödvändiga för att människor inte ska dö eller drabbas hårt.

Ett exempel är sjukhusens backup-system.
Elförsörjningen har flera såna, men sånt man sällan tänker på är vatten-avlopp och liknande saker inom våran infrastruktur.

Man får utgå från det man har och förbättra det. Det är ett jobb som alltid kommer behövas sålänge AI fortsätter byggas och utvecklas, men även för processer i kärnkraftverk och allat annat som är ganska beroende av att inte lägga av. Det finns nog även ganska mkt somvarken du och jag är insatta i som bara funkar jämnt.

Om AI blivit självmedveten så är det ju inte så enkelt att bara dra ur kontakten. En medveten AI i en sluten datoranläggning kan ju vid tillfälle givetvis infiltrera i princip hela www och kopiera sig och what not.

I princip alla datorer över hela världen skulle då vara farliga om AI nu var farlig i detta scenario.
En helt isolerad AI är säkerhetsmässigt attraktiv, men också mycket mindre användbar. Jag tror alla de mest kraftulla AI är isolerade och uppdateras de så sker det på säkra sätt men redan nu är AI smartare och snabbare än människan så den kan nog hitta sätt att infiltrera sig i www.

Du får en fråga då.

Har AI dödat någon människa?

Då menar jag inte psykisk ostabilt som tar livet av sig efter att ha pratat med en dator, eller militära system som oxå räknas in under AI, med allt som finns där, drönare osv.

Det händer ju att en robot klämmer ihjäl en människa ibland, men då pratar vi olycka och inte för att upprätthålla sin egen existens.

Ge gärna ett exempel, jag väntar…

99% av befolkningen kan inte odla potatis. Dessutom tar det ju några månader och under den tiden hinner man svälta ihjäl. Man måste i så fall odla potatis proaktivt men det gör bara bönder. Bönderna har mekaniserat och digitaliserat flera centrala delar av sin verksamhet. Om de skulle behöva gå tillbaks till 1800-talet då kan de väl det och överleva själva men då fattas det kanske hundra tusen bönder för att producera tillräckligt med mat till alla andra.

Men ett större problem är ju egentligen hur du stänger deras Kinas AGI.

Är det inte ett problem om vi hamnar i ett läge där vi måste förbjuda Internet och datorer?

Jag parafraserade en annan skribent här...

AI blir inte självmedveten eftersom att det är en dator.

EN AI kommer aldrig läsa våra stora filosofer och sen börja dra slutsater om livets stora gåtor. Det är inte så en dator fungerar.

Den kan upplevas som väldigt smart, eftersom att den kan lägga fram ett svar från världens samlade böcker och info från nätet. Den kan även dra egna slutsatser som människan ibland missar när det kommer till att lägga ihop A med B och få svaret C.

Det handlar dock inte om någon slags självmedvetenhet, för en dator funkar inte så.

Nu pratar jag ur ett ev framtidsperspektiv och en AI (som en del i tråden är rädda för) får ett självmedvetande eller iaf att människan mister kontrollen totalt. En dator som blir farlig för människor och agerar emot vad vi människor instruerar den till är antingen i viss mån självmedveten eller helt enkelt dåligt instruerad.