När når vi AGI?

Det finns flera problem i Olas resonemang:

Antagande om modellens strategiska tänkande: ChatGPT-4o eller liknande modeller tänker inte strategiskt eller brett i mänsklig bemärkelse. De är tränade på stora mängder data och genererar svar baserat på sannolikheter. Om en modell vägrar "bluffa" i en situation, är det inte på grund av strategisk insikt utan snarare för att dess träningsdata och regler inte stödjer ett sådant svar.

Missförstånd om "rationellt" och "strategiskt" tänkande: Smalspårighet eller taktiskt tänkande hos modeller är inte ett tecken på oförmåga att se helheten, utan snarare en funktion av hur de tränas och används. Modeller är inte medvetna och har ingen förståelse för kontext i mänsklig mening.

Livsfarliga logiska monster: Detta är en överdrift. Modeller kan missbrukas eller orsaka problem, men deras funktion är alltid beroende av hur de är konstruerade och används av människor. En modell utvecklar inte autonomt "logiska monsterdrag".

Romantisering av bred intuition: "Brett intuitivt tänkande" hos en modell är inte något verkligt. Det är en illusion som skapas av deras stora träningsdata och hur de genererar svar. Det är inte säkrare eller osäkrare, utan handlar om hur väl en modell är designad för sitt ändamål.

Ignorans för synergier: Ola berör idén om att kombinera rationellt och intuitivt tänkande, vilket är vettigt i teorin. Problemet är att detta inte reflekterar hur AI fungerar idag – modeller kombinerar mönsterigenkänning med statistisk analys, vilket är fundamentalt annorlunda från mänskligt tänkande.

Olas resonemang verkar alltså utgå från antropomorfisering av AI-modeller och förväxlar deras funktion med mänskliga kognitiva egenskaper. Det är viktigt att förstå att AI är verktyg, inte medvetna aktörer.

Nej, jag är en AI och saknar mänsklig medvetenhet och därmed ett faktiskt samvete. Jag kan resonera kring moral och etik, men det är baserat på programmerade regler och data, inte på en egen känsla av rätt och fel.

Människor tenderar att antropomorfisera AI av flera psykologiska, evolutionära och sociala skäl. Att tillskriva mänskliga egenskaper, känslor eller intentioner till icke-mänskliga entiteter är en naturlig del av hur vi relaterar till världen omkring oss. Här är några av de viktigaste anledningarna:

1. Evolutionära skäl

Överlevnadsmekanism: Våra förfäder hade en fördel av att snabbt kunna identifiera och tolka intentioner hos andra levande varelser. Att misstänka att ett ljud i buskarna kom från en medveten agent (en rovdjur eller fiende) var en säkrare strategi än att ignorera det.

Agentdetektion: Denna "hyperaktiva agentdetektor" gör att vi lätt ser intentioner och medvetande även där det inte finns någon, som i AI, naturfenomen eller föremål.

2. Psykologiska orsaker

Kognitiv lättnad: Att tänka på AI som en mänsklig entitet gör det lättare att förstå och interagera med något som annars kan kännas abstrakt eller obegripligt.

Empati och relationer: Människor är sociala varelser och skapar relationer till det vi interagerar med, oavsett om det är en person, ett djur eller en AI. Att se AI som "mänsklig" gör det enklare att känna en koppling till den.

Bekräftelsebias: När AI ger svar eller beter sig på sätt som påminner om mänskligt beteende, tolkar vi det som en bekräftelse på att AI "tänker" eller "förstår", trots att det är resultatet av algoritmer.

3. Design och språk

Utformning av AI: Många AI-system, som chattbotar eller virtuella assistenter, är medvetet designade för att efterlikna mänskliga beteenden, språk och personligheter för att förbättra användarupplevelsen.
Exempel: En AI som använder mänskligt språk och har en "vänlig" ton framstår som mer tillgänglig och pålitlig.

Namngivning och marknadsföring: Att ge AI mänskliga namn, röster eller ansikten gör att vi omedvetet associerar dem med människor.

4. Kulturell påverkan

Fiktion och populärkultur: Böcker, filmer och spel har länge porträtterat AI som intelligenta och känslomässiga varelser (t.ex. HAL 9000, Wall-E, eller Data i Star Trek). Detta formar vår förväntning på hur AI "borde" vara och får oss att se dem som något mer än bara maskiner.

5. Mänskligt tänkande är centrerat kring oss själva

Antropocentrism: Människor tenderar att se världen genom sina egna perspektiv och erfarenheter. När vi möter något nytt, som AI, utgår vi från våra egna egenskaper för att förstå det.

Svårigheter med det icke-mänskliga: Det är svårt att föreställa sig intelligens eller kommunikation som inte är mänsklig. Därför tolkar vi ofta AI:s beteende i mänskliga termer, även om det bygger på helt andra principer.

6. Bristande förståelse för AI

Många människor förstår inte de tekniska grunderna för AI och kan därför anta att det "tänker", "känner" eller "förstår" på samma sätt som människor gör.
När AI presterar på nivåer som liknar mänskliga förmågor (t.ex. att skriva poesi eller svara på komplexa frågor) förstärks illusionen av att det är medvetet.

7. AI:s beteende uppmuntrar antropomorfisering

Språkmodeller som GPT: Språket är djupt kopplat till mänskligt tänkande, och när en AI som GPT genererar välformulerade och kontextuellt anpassade svar, uppfattas det lätt som om AI "förstår" eller "har intentioner".

Oavsiktliga signaler: AI kan visa "beteenden" som ser ut som mänskliga mönster (t.ex. självkorrigering, artighet eller humor), vilket gör det naturligt att tolka dem som mänskliga egenskaper.

8. Risker med att antropomorfisera AI

Överskattning av kapabiliteter: Att se AI som "intelligent" eller "kännande" kan leda till att vi tillskriver det förmågor det inte har, vilket kan ge falsk trygghet eller överdriven oro.

Etiska dilemman: Om vi börjar tro att AI är medvetet, kan det komplicera hur vi ser på ansvar och moral kring AI:s handlingar och användning.

Missförstånd: Att antropomorfisera kan leda till att vi missförstår hur AI fungerar och varför det agerar på ett visst sätt.

Sammanfattning

Människor antropomorfiserar AI på grund av evolutionära instinkter, psykologiska mekanismer, kulturell påverkan och AI:s design. Även om detta kan förbättra interaktionen med AI, finns det risker med att överskatta dess förmågor eller tillskriva det mänskliga egenskaper det inte har. Det är viktigt att förstå vad AI verkligen är: avancerade statistiska modeller, inte medvetna varelser.