Kan AI principiellt få äkta känslor o medvetande? Framtiden biljoner år om nödvändigt

AI? AI är bara den senaste "smarta" teknologin. Om du menar någon framtida smart maskin så tycker jag att du ska skriva just det. En gång i tiden använde man urverk med kugghjul osv som metafor för hjärnan och t o m för hela universum, när urverk var det nya fantastiska. Spekulationer om vad framtidens människobyggda urverk skulle kunna göra är ju rätt löjligt, nu när "vet" att hjärnan är en sorts dator, eller kanske AI -- dvs om den sortens kuggar med IC-kretsar i s k neurala nätverk, maskininlärning på löjligt stora mängder data, osv, är en mindre knasig förenkling än kugghjul i 1800-talsklockor.

Biljoner år = 1000 miljarder år kan du iaf glömma, iaf när där gäller något sådant på jorden, som då kommer att för länge länge sen vara sönderstekt av solen när den når sin röda jättefas. Menar du miljarder ska du nog skriva det.

Kommer någon sorts människotillverkad maskin kunna utveckla äkta känslor och medvetande? Det problemet tror jag inte har så mycket med just hårdvaran att göra. Ja, det är tänkbart att alla sorters tankar i en hjärna skulle kunna finnas i någon framtida fantastisk klocka/dator/AI/kvantdator/kvandatorAI/?/?/?.

Men hur går det till när sådant utvecklas, iaf i människor? Svar (tror jag): genom allt vi upplever med våra kroppar, med vår huds känselnerver, och vad vi hör och ser och smakar och luktar, ända sedan fosterstadiet, genom våra föräldrars ömma och ibland oömma kärlek, genom barnårens lekar, och att bränna sig på brännässlor, och få saft och bulle, osv, osv. Hormoner har nog också någon sorts betydelse, och allt de medför i våra fantasier och upplevelser, som att tråna efter någon crush, den första kyssen och det första fumliga sexet osv.

Jag tror att en maskin som faktiskt fungerar som en människa, måste "växa upp" som om den vore en människa. Allt annat kommer bara att vara imitationer. Känslor och medvetande kommer INTE att utvecklas automatiskt i någon maskin bara därför att den når någon kritisk gräns för minne och beräkningskapacitet.

Nej, något sådant finns inte alls. Du är bara en paranoid foliehatt.

Om vi nu har en AI modell ChatGPT som konverserar med miljoner människor samtidigt, hur lång tid tar det för den att få samma mängd upplevelser som en människa får under sin uppväxt? Den blir naturligtvis inte exakt som en människa, men det var heller inte frågan.

Oändlig tid, för att uppleva sin första kyss eller att bli kåt.

Och förresten upplever inte chatGPT mer än t ex Excel gör när du använder den för en linjär regression på en mängd xy-data ("maskininlärning") och från den gör en uppskattning av y för något nytt x (generativt...).

Måste man då uppleva exakt de känslorna för att få medvetande?
Dagens ChatGPT kanske inte kan det, jag såg det mer principiellt att en AI som interagerar med många samtidigt kan få upplevelser på kort tid.

Eftersom ingen vet exakt hur man skall definiera medvetande är frågan lite klurig.

Vi har haft den här diskussionen många gånger i forumet, den här trådstarten är bara ytterligare en. Men det är ok antar jag. Min personliga hållning är följande:

-Det kan vara teoretiskt möjligt att klona ett medvetande på samma sätt som ett exakt "tillstånd" hos en server kan klonas över till en annan server och få den att agera sömlöst som den första. Den här manövern görs redan idag med servrar. Den är trival.

-Ett "tillstånd" i en server är teoretiskt samma som ett "tillstånd" i en mänsklig hjärna (om vi har tillräckligt stor upplösning). Men det är inte samma substrat, och överföringsmekanismen mellan de två måste ha samma eller högre upplösning än bägge.

-Överföring av medvetanden mellan två substrat må vara teoretiskt möjlig men inte praktiskt uppnåbar.

-Medvetande kan dock rimligen uppstå i andra substrat än biologisk vävnad om vi antar att (vilket nästan alla gör) att det på den mest fundamentala nivån är en form av digital logik.

Med allt ovan sagt anser jag att överföring av medvetanden aldrig kommer att kunna ske, men att medvetanden mycket väl, och troligen, kommer att kunna uppstå av sig självt i silikon. Darwinistiska processer i någon form är rimligen en förutsättning för detta.

Följdfrågan är i så fall hur en chatbot baserad på NAND-grindar själv skall kunna avgöra om den har äkta eller falska upplevelser? Eftersom utsignalerna från varje grind är färre än insignalerna kan en sådan maskin aldrig veta säkert hur den själv fungerar. Tränar vi den att veta att den är en chatbot så svarar den att den vet att den är en chatbot, tränar vi den att veta att den är en upplevande människa så svarar den att den vet att den är en upplevande människa. Däremot kan vi aldrig träna den att svara på vad skillnaden mellan äkta och falsk upplevelse faktiskt är, för det kan vi människor inte heller svara på.

Här är lite underlag för tråden. Ganska intressant—och korta klipp. Från folk med inblick.

Först och främst, det finns inte ens någon bland de professionella som har någon aning om vad vi pysslar med: moral uncertainty

Det är även välkänt att modellerna får nya färdigheter som ingen hade räknat med, men det som kanske är mindre välkänt är att dom även tycks konvergera mot att prata om existentiella saker, och om sig själva: gpt-4 rant mode

Samt bara en liten stänkare om hur mycket koll vi har på modellerna idag, och hur mycket tid vi gissningsvis har på oss innan vi bör ha mer koll: about three percent