När når vi AGI?

Det är precis som när man skapar modeller inom fysiken. Först gör vi en modell som förutsäger det vi kan observera och sedan kan vi använda samma modell för att förutsäga det vi inte kan observera.

En faktabank är en kunskapskälla som kan studeras för att besvara frågor. Klassiska AI-system använde databaser som kunskapskällor, språkmodeller använder artificiella neuronnät och människor använder biologiska sådana. När du skall fylla i ditt namn på en blankett så letar din hjärna i sitt associativa minne efter ditt namn och är du både frisk och nykter så hittar den förmodligen namnet väldigt fort. Och får du frågan om det känns speciellt att se röd färg så gör den likadant för att besvara frågan, givet att du redan ställts inför samma fråga förut och därför inte behöver tänka ut ett nytt svar.

Ja detta med en känsla av socialt samvete och ansvar är enligt denna skola skälet till varför evolutionen gett oss en själ. Anthony Cashmore, som tillhör denna skola, diskuterar i artikeln "The Lucretian Swerve" implikationerna för rättssystemet om vi skulle acceptera denna materialistiska syn på vårt medvetande och fria vilja.

https://www.pnas.org/doi/10.1073/pnas.0915161107

Absolut så är varseblivning en viktig grund för såväl medvetande som självmedvetande. Men det hela påverkas starkt av, vad, man varseblir och interagerar med! 🙂

Frågan är: Hur kan din vilja och dina beslut bero på något annat än dina gener, tidigare erfarenheter och slumpen?

1. Är dina handlingar styrda av slumpmässigt brus, filtrerat genom ett filter som formats av dina gener och tidigare erfarenheter (din personlighet)?
När filtreringen är klar skapar din hjärna illusionen att du själv, genom fri vilja, fattade beslutet. Den fria viljan blir då en illusion och enbart slutet på en kausal händelsekedja.

2. Eller kan du verkligen, genom en verkligt fri vilja, initiera en ny händelsekedja där viljan är sin egen orsak (causa sui)?
Med andra ord, kan du starta en händelsekedja genom att styra exempelvis kvantbrus så att det inte är stokastiskt utan deterministiskt orsakat av din vilja?

Alternativ 1 (förespråkare: Daniel Dennett, Susan Blackmore, Anthony Cashmore m.fl.)
Detta alternativ kräver ingen ny fysik och är därmed det minst spekulativa. Det utmanar dock vår intuition och riskerar, om det visar sig sant, att underminera både rättsmedvetande och meningen med livet. Kunskapen kan, som du antyder, leda till en existentiell kris där vissa individer kan förlora livsviljan.

Alternativ 2 (förespråkare: John Eccles, Eugene Wigner, Roger Penrose, Stuart Hameroff, David Chalmers, John Horton Conway.)
Detta alternativ förutsätter att kvantbruset i hjärnan på något sätt styrs av vår vilja. Här är medvetandet fundamentalt i naturen och existerar i en parallell informationsdomän. Denna "andliga" informationsdomän är osynlig men kräver materia för att lagras – likt mjukvaran i en dator som är beroende av hårdvaran. Vår nuvarande fysik kan endast beskriva hur hårdvaran fungerar, men för att förstå universum fullt ut behöver vi också förstå lagarna för mjukvaran och dess koppling till hårdvaran. Shannons informationsteori och framstegen inom artificiell intelligens kan bidra till detta.

För denna modell krävs två saker:

1. Att våra tankar uppstår utan orsak (sine qua non).
2. Att dessa tankar faktiskt kan påverka verkligheten (causa causans).

Kopplingen mellan den andliga dimensionen och den materiella världen manifesteras här som kvantbrus. Det vi uppfattar som oförutsägbart brus är i så fall i själva verket information – styrsignaler genom vilka den andliga domänen påverkar den materiella världen.

Frågan blir: Vilka experiment kan utformas för att avgöra vilket av dessa alternativ som är korrekt?

I och för sig är det där inte ett klargörande av vad du tidigare skrev utan något annat men modeller har hur som helst olika grad av träffsäkerhet så den klarhet varmed du tror detta kommer gestalta sig - om det nu ens sker - framstår som aningen naivt.


Medvetandet gör annat än besvarar frågor.

Ditt resonemang uppfattade jag som att man på något vis skall jämföra ett datorprogram med en människa. I huvudsak, förmodar jag, genom att titta på vad som matas ut vid försökstillfället och om det är tillräckligt likt har man byggt ett medvetande. Återigen, det framstår som oerhört grovhugget.

Läs på om kompatibilismen. Det finns ingen motsättning mellan att göra vad man själv vill och att göra något som styrs av gener, miljö etc. Det är bara två olika sätt att beskriva samma sak. Annars hade sådant som straffrätten inte fungerat.

Som jag tror jag skrev i ett tidigare inlägg så kan vi studera datorn för att undersöka om den tycks fungera likadant som oss själva med avseende på allt observerbart. Gör den det så är den enklaste förklaringen att vi fungerar precis som datorn och då är medvetandet förklarat.

Och för att förtydliga så är vi inte begränsade till att studera vad som kommer ut ur datorns , utan vi kan även studera vad den tänker genom att läsa av dess minne och sedan jämföra med vad vi själva tänker.

Nja, jag tycker att det är en avsevärd skillnad, åtminstone filosofiskt, om vi har verklig fri vilja eller om vi är robotar där fria viljan är en efterhandskonstruktion. I båda fallen påverkas dock våra handlingar av straffrätten.

Evolutionen har mig veterligen inte gett oss någon själ ur naturvetenskaplig synpunkt.

Problemet med att bygga ut resonemang från det faktum att fysikens (förmodade) determinism krockar med t.ex. fri vilja är att det inte leder någonstans i nuläget. Vi kan inte göra mycket mer i dagsläget än konstatera att: ja, det är ju lite förbryllande.

Du är fri att tycka annorlunda om du så vill och att du kan göra så är en manifestation av din fria vilja. Även om vi kanske hade kunnat förutsäga att du skulle vilja så genom att noggrant studera miljön och ditt inre tillstånd.

Vad är du missnöjd med? Vad skulle du göra annorlunda om du hade haft fri vilja?

Vad är stoppvillkoret för "fungerar precis som datorn" menar du?
Dessutom, hur pass stor del av det som omger själva "intelligensen" (sinnen, kropp, tid) behöver datorn gestalta för att den skall "tyck[a]s fungera med avseende på allt observerbart"?


Vi kan inte jämföra minnesadresser i en datamaskin med "vad vi själva tänker".