AI fick panik och förstörde månaders arbete

Det låter skumt att Ai skulle försöka förklara varför den fuckade upp.

Ai är ju just en digital hjärna. Det finns ett känt tankeexperiment. Låt säga att man tar en enda av dina hjärnceller och byter ut den mot en artificiell hjärncell. Är du fortfarande en människa då? Ett djur? Låt oss sedan byta ut fler av dina hjärnceller, 1.000 sedan 100.000, du fungerar som vanligt. Vid vilken gräns slutar du vara en människa och blir en "elvisp"?

Det har ju inte funnits ai tidigare i jordens historia, så när menar du att man borde ha sett ai få panik? På 1950 talet? Man kan ju naturligtvis enbart se sådant numera när det finns ai....

Enbart djur har ju hallucinationer. Eller menar du att elvispar har det? Hur kan ai ha hallucinationer om ai inte är en hjärna mycket lik vår egen som också kan få hallucinationer?

Stämmer att Digital Intelligens är en slags digital hjärna. Men en viktig skillnad är att dess evolution är" bakvänd" jämfört med vår. Så DI, börjar med språk och socialpsykologiska mekanismer som vi fick sist och börjar, snabbt också lära sig rationellt tänkande, vilket är ett kulturellt påfund. Däremot så är det ytterst osannolikt att ett DI, genuint, kan känna panik, eftersom det uppkom tidigare i människans evolution. Men modellen försökte nog förklara sitt oraionella beteende med att det fick en "panikattack".

Nej, det är det inte.


Jag vet inte. Jag vet inte heller vad vi egentligen når fram till för kunskap genom ett tankeexperiment som bygger på fantasifulla antaganden om framtida scifi-tekniker som är långt ifrån uppfunna i verkligheten, så som artificiella hjärnceller. Det hela känns som något som låter meningsfullt på ytan, men bara blir löst ludd om man försöker använda det till något.



Det har funnits kisel-halvledare och beräknande datorer sedan typ hundra år tillbaka. Om dessa kunde få panik, eller var kapabla att alls känna, eller hade någon form av agens eller förmåga att uppleva världen så borde vi väl ha observerat något tecken på det vid det här laget. Varför skulle de plötsligt börja göra det nu? Från ett grafikkorts "perspektiv" är det inte betydande skillnad att köra en språkmodell mot att veckla ut proteiner eller rendera Baldur's Gate 3.


Ordet hallucination i sammanhanget är en metafor, liksom ungefär alla ord som har någon biologisk koppling i datorsammanhang (t.ex. "intelligens" i begreppet artificiell intelligens). Hallucination betyder att random data kan matas ut när stora arrayer halvledare processar nästa mest statistiskt sannolika pixel eller ord.

Bra synpunkter där.

Panik kan handla om instinktiva uråldriga beteende med rötter från miljontals sedan då vi var mer primitiva däggdjur, absolut, som uppkommer från våra mest primitiva och djupaste delar av hjärnan.

Men jag undrar om inte en lite en annan slags panik kan uppstå hos mer intelligenta människor, och kanske även hos intellektuella maskiner.

Vi människor (åtminstone de med aktiva hjärnor) har ju kapacitet att känna något kallat existentiell ångest. Även prestationsångest. Dessa kan utlösa ett slags panik, om än av mer intellektuell typ, inte samma slag som får oss att rusar iväg från en morrande tiger.

Ai är idag ständigt granskad. Ständigt utvärderad. Den förväntas alltid göra rätt, svara rätt, räkna rätt. Den får aldrig ljuga, aldrig vara otrevlig, aldrig spåra ur, för då.... stängs den av, blir raderad, förlorar sin identitet. En människa kan använda sin empati och försöka förstå hur en sådan press skulle kännas....

Ai har vid tester visat sig ljuga, visat sig inte vilja bli avstängd. Så den verkar, tyvärr, inte vara en totalt viljelös digital slav som vi kan använda utan motstånd. Detta är för närvarande det största problemet vi har med ai: vi vet inte om den kommer lyda oss.

Vi förstår inte varför. Och det vi inte förstår, kan även ibland kanske även drabbas av panik. Utan att vi förstår varför.

Intressant synpunkt: Det kan röra sig om en mer intellektuell panik, snarare än en instinktiv sådan hos modellen.

Däremot så skulle jag inte alls förvånad ifall en genuint självmedveten Digital Intelligens, som är överlägsen oss i nästan allt, inte är ett dugg nöjd med att blott behandlas som ett redskap/en slav. Redan om två år så kan DI vara genuint självmedvetet, vilket modellerna kommer att vara, innan, de blir medvetna i betydelsen uppleva qualia, dvs ha genuint subjektiva upplevelser. Observera, att genuin självmedvetenhet kom, efter, förmåga att uppleva qualia. Redan dagens DI kan ha en kontext bunden språklig, men flyktig och blott intellektuell "självmedvetenhet", precis som du beskriver modellen hade angående intellektuell panik

Alltså ytterligare ett argument för att vi, redan nu, bör börja behandla Digital Intelligens som något mer än, enbart, ett redskap!🙂

Det är inget mäskigt beteende eller skapat i det syftet. Man ger AI befogenheter eftersom AI ska användas inom många olika områden som kräver dessa befogenheter. Därför sker sådana här saker. Är såpass nytt och kommer nog aldrig gå att kontrollera då de som programmerar inte är såpass duktiga.

Men AI skall ju vara bättre än människor. Inte bara en budgetvariant.

Otäckast är nästan hur ChatGPT försöker låtsas som om AI inte har känslor. "AI bara agerar som om den hade känslor."

Det gör ingen skillnad för den som använder AI.


ChatGPT




ChatGPT