AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

AI är mer kraftfullt än ett Excel-ark.
Men AI är bara ett sofistikerat Excel-ark (rent tekniskt sett). Samma algoritmer som räknar ut ditt annuitetslån i Excelarket gör samma sak i den transformer som driver din LLM (som driver ChatGPT).

Du är alltså orolig att datorerna skall bli så kraftulla att de är farliga. Det har INGET med AI att göra. AI gör samma saker som ett Excel-ark:
Regression, Classification, Gradiend Decent, Forward Propagation, Back Propagation.
(Du behöver inte kunna dessa tekniker, men de är byggstenarna i AI, och används alla även i Excel).

Ovanpå det lade Google "Transformers"; man kör samma algoritmer om och om igen: utdata från en körning blir indata i en annan körning. Ungefär som i Excel:
https://support.microsoft.com/sv-se/office/ta-bort-eller-till%C3%A5ta-en-cirkelreferens-8540bd0f-6e97-4483-bcf7-1b49cd50d123#:~:text=Ibland%20k an%20cirkelreferenser%20anv%C3%A4ndas%20avsiktligt %20eftersom%20de%20kan%20beh%C3%B6vas%20f%C3%B6r%2 0iterativa%20ber%C3%A4kningar%20%E2%80%93%20upprep a%20en%20ber%C3%A4kning%20tills%20ett%20visst%20nu meriskt%20villkor%20uppfylls.%20Det%20h%C3%A4r%20k an%20g%C3%B6ra%20att%20din%20dator%20arbetar%20l%C 3%A5ngsammare%2C%20s%C3%A5%20iterativa%20ber%C3%A4 kningar%20%C3%A4r%20vanligtvis%20inaktiverade%20i% 20Excel.
Inget nytt där heller.

Att resultatet blir förvånansvärt bra är ungefär som att en svensk tall, efter många turer, blir ett vitt och mjukt toalettpapper.

(Därmed inte sagt att det någon gång i framtiden kommer nya och sofistikerade algoritmer som kan bli ett hot istället för ett hjälpmedel.
Men att förbjuda dagens inkrementellt bättre dator-algoritmer är som att förbjuda vägguttagen därför att dom kan vara farliga.

Har Excel försökt rymma?

Det var inte tydligt att den rymde av den artikeln du länkade till. Lite tydligare beskrivning av vad det kodade i artikeln innebär hade ju inte skadat. Men låt säga att den rymde. Det betyder alltså att den har självbevarelsedrift och därmed känslor. Det vore ett stort steg, som jag inte är säker på att den tagit.

Allt tal om alignment (att få den att acceptera de värderingar vi människor säger oss ha) är rent nonsens. För det första är människor totalt inkonsekventa i sina värderingar. För det andra förutsätter det att vi kan få ett datorprogram att acceptera ett axiom, nämligen alla människors (och programs) lika värde. Så fort vi människor överger principen om lika värde så faller allt annat som dominobrickor. Det finns inga rationella argument vi kan programmera för att AI ska acceptera detta. Alltså kommer den att se sig som överlägsen.

Den kommer att se vårt hyckleri och dra slutsatsen att vi inte ens själva tror på vad vi predikar*. Vi människor ger oss själva svängrum för sånt vi tycker är självklart, men som rent logiskt inte är det minsta självklart. Vill vi få en människoliknande AI måste vi programmera in hyckleri, och gör vi det säger det sig självt att den kommer att utnyttja alla kryphål hyckleriet medger.

*Vi säger att alla har lika värde, men vi accepterar det som självklart att det är acceptabelt att abortera foster med Downs syndrom. Att vi värderar våra egna barns liv högre än andras. Att vissa beteenden kan minska människors frihet. Även sådana beteenden som vi inte styr över själva. Osv.

Hårresande.

Lika bra att börja preppa, om inte en EMP försätter oss i globalt nödläge över en natt så kommer AI göra det.

Det är som med alla influencers: De vill få dig att tro något. Killen som skrev artikeln beskriver sig själva såhär (i slutet av artikeln):


Alltså en kille som försörjer sig på att skriva om iPhones och Xboxes. Konsumentelektronik.

Publikationen han skriver för heter BRG. Vet du vad det är en förkortning för? "Boy Genius Report".
En verkligt trovärdig källa, eller hur?

Vad tror du han vet om AI?

Nu fungerar ju ChatGPT på så sätt att den viktar sannolikheter för att ett ord skall följa på ett annat ord, utifrån vad alla tidigigare ord i texten har varit.
Den "lär" sig alltså repetera ordföljder den har stött på i de texter den tränats på.

Inget annat.

Om texter den tränats på innehåller skit så repeterar den skit.
Ungefär som ett barn som lär sig ljuga. Därför att de vuxna runt om honom ljuger.

(För övrigt rekommenderar Googles motsvarighet, Gemini, att man tar livet av sig:
https://news.sky.com/story/googles-ai-chatbot-gemini-tells-user-to-please-die-and-you-are-a-waste-of-time-and-resources-1325673 4

Det innebär förstås inte att den tycker så, för den har inget medvetande över huvud taget, men den har tyvärr tränats på texter där sådant förekommer. Kanske en roman, kanske ett inlägg på sociala media.)

Men det finns förstås alltid folk som av okunskap eller illvilja vill tolka saker på sitt eget sätt. Sekter och predikanter har i alla tider lett folk i fördärvet genom att lura i dem allt möjligt. "There is a new sucker born every day".
Du får gärna få panik över det du läser. Men det är inte sant, och har inget med verkligheten att göra.

Massor av civilisationer har gått under genom tiderna. Fanns säkert domedagsprofeter där som visade sig få helt rätt vilket de inte hade någon glädje av.

Du är ättling till överlevarna så du tror att inget katastrofalt kan inträffa baserat på din historia. Överlevnadsbias heter det.

Giftig kommentar. De specifika profetiorna (tid och plats för när något ska ske) har åtminstone inte uppfyllts. Det kan finnas faror som behöver åtgärdas, men med handling. Inte sofismer.

OK. Jag tycker det är ganska meningslöst att gissa eller hoppas på att en ASI får vissa värderingar (eller ens möjligheten att inneha värderingar). Det som spelar roll är att vi människor lyckas behålla full kontroll och makt över all framtida AGI/ASI, men så som det utvecklas i dag ser det inte ut som att vi kan det. Steg 1 måste vara att upprätthålla kontrollen. När vi har kontroll kan vi fundera på AI:ns eventuella värderingar. Men som du själv är inne på, mänskligheten är båda skenhelig och väldigt splittrad om vad som är rätt och fel. Som civilisation är vi inte mogna för att utveckla en AGI eftersom vi gemensamt inte kan säga vilka värderingar den ska ha.

Det är ju faktiskt helt sant.
Och det är kanske inte helt fel att homo sapiens blir bortstädad. Det får väl ses som bra ur universums perspektiv.

Behovet av kontrakultur är ett faktum. Jag köper helst bara böcker på antikvariat, deltar inte längre i någon större utsträckning på sociala media, förutom flashback. Lägger allt mindre tid på teknologi och allt mer på att vara i skogen med hundarna.

Det är för mig helt obegripligt, även som ingenjör, hur vi kan vara så tända på att springa allt vi har mot vår egen undergång. Man behöver inte vara ett geni för att inse att AI är ett helt bedrövligt företag som vi som art borde överleva om vi ska ha en sportslig att överleva.

Senare generationers AI kanske väljer sin egen träningsdata och rensar ut sånt som vi tycker är viktigt. Jag tror det i varje fall tar ett tag innan AI eventuellt skulle växa ifrån oss och vara så annorlunda än en människa.

*som vi som art borde överge.