När når vi AGI?

Den här Bob Doyle verkar vettig och bra. Hans informations filosofi är till och med en hållbar religion i frågan. Han är typ "panpsychist" libertarian. Imponerande verk. Max Tegmark är en ju bara en fjant i jämförelse.

AGI är teoretiskt genomförbart i emulerad form utan autonom agens. ASI är fiktion.

Ja, Bob Doyle är både kunnig och pedagogisk men jag är även imponerad av Max Tegmark, t.ex. i denna intervju:

https://youtu.be/_-Xdkzi8H_o

Jag är bland annat intresserad av Max Tegmarks forskning att kondensera sambanden mellan indata och utdata från neurala nätverk till enkla fenomenologiska formler genom att analysera nätverkens viktningskoefficienter.

Tror inte på honom alls. Han tycker typ hjärnor är matematiska input output maskiner.

Jag avfärdar inte heller Max Tegmark. Han arbetar också med formlen Phi i Integrated Informations Theory, (IIT). Dessutom har han en hypotes om "vårt matematiska universum... 🙂 Lika så avfärdar jag inte G. Hinton. Dessa två herrar är två alarmister som vi faktisk ksn lära utav!

Men detta för oss också till dina invändningar emot Stephen Wolframs ruliad-hypotes. Du upplever den som" reduktionistiskt",och "kall", vilket jag förstår att ett första intryck av den ksn ge. Men, utan att starta en ny OT debatt i denna tråd så vill jag bara påpeka några ssker:

"Beräkningar" behöver inte betyda samma sak eller samma metoder som vi använder inom matematiken.

Om verkligen, allt, skulle vara beräkningar så är både våra djupaste känslor och drifter, samt de mest fantastiska upplevelserna av qualia, underbara beräkningar!

Och om dessa beräkningar sker på en högre abstrsktionsnivå och både omfattar allt och är grunden för allt, och kan ses som en högre metanivå, så kalibrerar den allt, (likt olika metanivåer inom organisationsteori).

Då känns genast inte Stephen Wolframs ruliad-hypotes lika "reduktionistiskt och kall"

Lägg där till Occams rakkniv i jämförelse med Bob Doyles hypoteser.

Men det viktiga, i denna tråd, är ändå att diskutera en hollistiskt strategi för att skapa en hållbar framtid med AGI/ASI. Jag. planerar inte att nämna Stephen Wolframs ruliad-hypotes mer förrän ChatGPT-4o och jag checkat av vad botarna befinner sig på vårt möjlighetsspektrum i början av april i år.

Artificiell intelligens har fått sitt namn för att modellerna försöker efterlikna hur vi tror att hjärnan fungerar. Problemet är att, även om det är troligt, så vet vi inte säkert att neurala nätverk modeller fungerar som vår hjärna.

Vetenskapen vet också mycket lite om hur olika centra i hjärnan kommunicerar för att skapa tankar och beteenden.

För att AI ska utvecklas till AGI krävs antingen att vi lär oss mycket mer om hur hjärnan fungerar och att modellerna byggs därefter, eller att modellerna utvecklas utan att försöka efterlikna hjärnan.

Ingen kan förutspå vad som kommer hända. Jag tror att AGI kommer att hända, men det ligger, i så fall, mycket långt i i framtiden.

Det är skrämmande hur dåliga resultat man kan få från språkmodeller.

Jag skulle tro att man kommer att få nöja sig med ett dataprogram som uppvisar medvetande-likt beteende.

Det universella medvetandet, det som är liv, är något som bara är, det är inget som kan skapas eller dö. Det verkar i allt som finns men resultatet blir bara det som vi känner igen som liv i biologiska maskiner och inte i datorprogram eller det vi känner igen som döda ting.

Liv är inte heller något som garanterar medvetande, långt därifrån. Det finns ingenting som tyder på att någon annan levande varelse som vi känner till har ett medvetande.

Det tyckte i alla fall ett gäng vetenskapsmän som 2012 gick ut med en manifest där de deklarerade att, förutom människan, även alla däggdjur, fåglar och 10 armade bläckfiskar har medvetande.

https://www.animal-ethics.org/10th-anniversary-of-the-cambridge-declaration-on-consciousness/

Alla får tycka vad de vill, även vetenskapsmän. Men skilj på vetenskapsmän som tycker något och vetenskapsmän som leder något i bevis med en vetenskaplig metod...

Max Tegmark, gjort absolut 0 för AI, tjänar pengar på domedagsböcker utan någon som helst grund.

Geoffrey Hinton, gjort sig känd på att stjäla andras idéer utan att så mycket som ge minsta tillkänna givande för dessa, orättmätligt vunnit både ACM award och Nobelpriset. På senare år blivit alarmist eftersom det sannolikt var mer lukrativt än att att tröska på en avdelning som inte kom någonstans, påstår sig ångra tiden han lagt på ML men ändå går in nya ML företag som CuspAI osv.

Ja god dag.

Jag håller med. Men har vi t.ex någon vetenskapsfisk som kan leda i bevis att du är medveten? Med en vetenskaplig metod vill säga. Troligtvis inte. Så vad säger det om dig? För en fisk alltså.

Fast om du klarar spegeltestet så finns det ju hopp. För det gör även fiskar.

Men gör AI?

Ja, som lekman inom området bör man lyssna på och försöka förstå vad samtliga dessa forskare menar innan man bildar sig en egen uppfattning vad medvetande och fri vilja är och hur vi ska avgöra om AI har medvetande eller kan få det. Det är uppenbart att "the hard problem" om medvetande är svårt.

Något som gör att jag tror denna fråga tillhör metafysiken är att samma diskussion pågått under mer än 2500 år när det gäller djurens medvetande. Du hänvisade i ett tidigare inlägg till Cambridge Declaration on Consciousness.


Pythagoras som levde på 500-talet f.Kr. var vegetarian och en stark förespråkare för djurens rättigheter. Han trodde på själavandring (metempsykos), där själar kunde återfödas i både människor och djur. Här är några tänkvärda citat tillskrivna honom:

• Allting har en själ.
• Så länge människor slaktar djur kommer de att döda varandra. Den som sårar ett levande väsen sårar sig själv.
• Se på djuren, och du ska se reflektionen av själen. Ingen rättvisa existerar om vi förtrycker dem som också kan känna smärta och glädje.
• Människor som dödar djur för att äta kommer aldrig att vara fria från plåga och fruktan, för de bär skulden av andras lidande.
• Förstör inte det som ni inte kan skapa; livet är heligt för alla varelser.

Den sympatiske och vise Plutarchos skrev under första århundradet "Om djurens intelligens" där han menar att det är orimligt att helt skilja människans förmågor från djurens. Han ger exempel på djurs beteenden som tyder på att de har förmåga till tänkande och empati. Plutarchos var även han vegetarian. I essän "Om att äta kött" skriver han:


Hur ska vi då förhålla oss moraliskt till maskiner som uppvisar AGI? Om det nu är en metafysisk fråga så kommer det ge oss människor ett dilemma. Du refererade i en annan tråd till ett intressant papper som ger en föraning om framtidens debatt:

https://arxiv.org/abs/2411.00986