När når vi AGI?

Jättebra fråga faktiskt. Troligtvis resulterar båda modellerna i samma handlingar. Kanske tillhör distinktionen mellan Alternativ 1 och Alternativ 2, metafysiken. Ändå är det svårt för mig att acceptera att medvetandet inte är "chefen" som styr vårt handlande utan bara en rationaliserande efterhandskonstruktion..

Jag har alltid hoppats på alternativ 2. Det skulle även förklara människans inneboende känsla av en dualism mellan själ och kropp. Den senaste tidens snabba AI-utveckling har dock gjort mig osäker och tveksam.

Vi får göra som man gör inom fysiken, dvs. att man bestämmer vilken typ av observationer som är relevanta för det man vill förklara och sedan nöjer man sig när man hittat en modell som förutsäger dessa observationer. När Einstein utvecklade relativitetsteorin så var observationer av stjärnor och galaxer viktiga, medan observationer av vad människor vill ha till kvällsmat inte ansågs falla inom det teorin skulle beskriva.

Har vi skrivit programmet själva så har vi goda möjligheter att tolka vad bitarna på olika adresser faktiskt betyder. Hittar vi ett meddelande från en del av programmet till en annan som säger "jag tänker alltså finns jag" så är vi kanske en bit på vägen.

Nu återupprepar du samma sak en gång till. I nuläget finns mängder med saker som inte kan modelleras fysiskt.

Vi har inte "goda möjligheter" att tolka korrespondensen mellan datorns minnen och en mänsklig tanke så länge vi inte kan beskriva hur det skall göras. Vari själva korrespondensen finns.

Att ett datorprogram, byggt av människor och såpass komplext att det skall motsvara ett medvetande, citerar en gammal mänsklig sentens bevisar inte medvetande.

Vi behöver bara förklara det observerbara, vilket inskränker sig till den deklarativa information människor har om sig själva. Och att lagra deklarativ information går bra utan ny fysik eftersom datorer kan göra det. När vi finner att datorn vet samma saker om sig själv som vi själva gör så har vi uppnått så stor likhet som är vetenskapligt möjligt.

Vad som ger upphov till den deklarativa informationen kan vi inte få veta genom att undersöka människor, men vi kan få veta det genom att undersöka datorn som är konstruerad för att kunna undersökas. Och på så sätt kan vi förhoppningsvis även lära oss hur vår egen deklarativa information uppstår.

Sedan kommer säkert inte människor som du och David Chalmers acceptera att ni fungerar som en dator, men till er tröst kommer inte heller datorn göra det när vi programmerat den att tänka som en människa.

Vi fungerar inte som någon dator, inget levande gör det. Precis som ingen dator fungerar som något levande. Datorer bygger helt och enbart på elektroniska signaler och det är enbart en dimension av hur signalering och funktion i levande organismer fungerar.

Och en ARM-processor fungerar inte som en X86-processor eftersom de har olika instruktionsuppsättningar och protokoll för cache coherency etc. Men din webbläsare fungerar i princip likadant oavsett vilken hårdvara du kör på. I vilket abstraktionslager tänker du dig att människors själsliv utspelar sig?

Alla datorprocessorer är väldigt snarlika varandra i grunddesign, men ja de pratar olika språk... Precis som vi människor gör trots vi har "snarlik hårdvara".
Men allt levande har i stort samma hårdvara och programmet består av samma "instruktioner"... A T G och C oavsett det är ett djur, en bakterie, en växt osv. Så analogin är missvisande till att börja med.

Jag vet inte ens om människan har ett "själsliv" eller någon själ, det här är filosofiska diskussioner som det finns bättre forum för, för oavsett hur mycket du försöker spjärna emot och argumentera om det så kommer ingen här komma fram till ett svar, sen vet jag att tråkigt många kastar sina hjärnpruttar på väggarna och hoppas de fastnar i bland.

Jösses, hela tråden handlar om framtiden, titeln är "När vår vi AGI".
Att då diskutera denna framtid är vad tråden handlar om.


Det enda rimliga om man tänker efter är att vi saknar fri vilja men det hindrar inte att vi gör val som gynnar oss. Blir du straffad om du begår brott så är det rationellt att undvika det för att inte bli straffad, för detta krävs ingen fri vilja.

När man hävdar att medvetandet är en illusion tillhör man vanligtvis posthumanismen som genom förlängd antropocentrisk kritik menar att liv egentligen saknar egenvärde. Agens skulle här vara ett framväxt socialt fenomen för att klara naturkatastrofer exempelvis klimatfrågan. Gränserna mellan människa och maskin är här utsuddad och AI och människor kan integreras fritt.

Vi ser nu dock att posthumanismen är påväg bort i världen där Sveriges forskarelit länge varit förespråkare. Alternativ funktionalism som panpsychism finns för de som inte vill anamma traditionellt religiösa grunder och söker svaren i naturen.

https://www.noemamag.com/the-conscious-universe/
https://experiencemachines.substack.com/p/what-does-panpsychism-entail-about
https://philarchive.org/rec/ARVPAA

Det känns befriande att nu debatten frigjort sig ifrån det snäva perspektiv som vissa datavetare här hållit/håller sig med här och fått filosofiskt djup. Nu är jag, Iof, ingen filosof och jag var tvungen att fråga ChatGPT-4o om kompatibilismen och dess möjliga relation till AI.

Jag anser att såväl fri vilja som självmedvetenhet kan ha en stark koppling till mina egna kriterier för vad ett AGI skulle kunna innebära. Jag ser ett AGI som en så potentiell människolikt/övermänsklig existens som möjligt, med twisten att dagens LLM-Transformers utvecklats/utvecklas "bakvänt" jämfört med oss människor. De förstnämnda, börjar med kunskap och etik och borrar sig sedan, successivt, ner i de mänskliga och även djuriska existentiella lagren.

Enligt kompatibilismen går det att förena fri vilja med en deterministisk verklighet, men det kräver då att vår "fria vilja", i själva verket är en en slags "efterhands konstruktion/simulering" som försöker" förklara " våra val, och det kräver en resonerande förmåga hos en existens, vilket nu dagens avancerade sociala och språkliga AI har! I så måtto har dessa av deterministiska algoritmer maskiner och existensenser, redan, en fri vilja!

Men hur initieras denna fria vilja? Det är här filosofer alltid gått "vilse i pankakan"! För tänk om det hela inte initieras, inom, vare sig mänskliga eller artificiella existenser? Tänk om det hela initierats av socialpsykologiska mekanismer som verkar, mellan existenser och i dem, först sedan de väljer att internalisera den "definitionen av situationen" som man kommit fram till, tillsammans med andra sociala existenser?

Ett litet möjligt exempel: Möt lille Kalle, ett och ett halvt år gammal. Sittande i sin barnstol vid köksbordet, tillsammans med mamma och pappa: Lille Kalle tycke det är roligt att peta ner delar av sin mat ifrån sin tallrik, ner på golvet. Men nu är det inte lika roligt längre! Mamma säger: "Fy på dig Kalle! ; Du är ingen bebis längre!" Och pappa tittar så strängt! Nu har en ny definition av situationen mellan dessa tre existenser uppkommit. Och Kalle internaliserar kanske denna gång, eller någon gång i en liknande situation vid ett senare tillfälle: "Jag är ingen bebis, vad är jag då?" Om nu ett avancerat socialt och språkligt AI, med viss möjlighet att, själv, justera vissa av sina parametrar och som har resonerande förmåga, vid upprepade tillfällen, och ifrån betydelsefulla andra, får höra att: "Nu måste väl det här AI:et, som är så smart och kan resonera, börja ta lite existentiellt ansvar och sluta dumma ner sig!" , börja internalisera?

Så, kanske därför har filosofer ställt sådana frågor i tusentals år, utan att kunna enas om ett svar, bara för att man hela tiden bortsett ifrån att sådant är svårfångad, inte för att det är oändligt komplext, utan för att det initieras mellan existenser och inte innut i dem? 😉

Såhär är det. Alternativ 2

Varför vill vi det vi vill, var kommer det ifrån, hur har det uppstått?

Det är där man måste börja och då blir den enda slutsatsen att vin inte har en fri vilja.