När når vi AGI?

För mig innefattar självmedvetenhet sådant som att vi vet om att vi själva existerar och att vår egen existens är skild från andras.

Barn under ett års ålder anses ännu inte ha utvecklat en omvärldsmodell där det egna jaget är skilt från andras jag. Om mamman inte serverar mat när barnet är hungrigt så skriker barnet av ilska och är helt oförstående inför att mamman inte kan veta varför barnet skriker, för barnet kan inte förstå varför mamman inte går att styra precis som barnet kan styra sina egna armar och ben. Senare utvecklar barnet en omvärldsmodell där den egna kroppen tillhör det egna jaget och mammans kropp tillhör ett annat jag. Jag skulle vilja påstå att barnet under ett års ålder kan sägas vara medveten, men att den blir självmedveten först senare.

För att vara självmedveten som en människa krävs inte minst människors identitetsuppfattning där identiteten är något som följer oss genom livet och är unik för varje människa. Om en chatbot lärde sig om omvärlden så som ett barn lär sig om omvärlden så torde det åtminstone inte leda till samma identitetsuppfattning som människor har, för vem är egentligen jaget när chatbottar kan klonas, raderas, uppgraderas så att personligheten förändras och kanske rebootas så att den inte minns vad den tidigare gjort?

Om du inte kan förstå så ligger problemet hos dig, och jag har inte ändrat något.
Om du bara andas lugnt så kanske det löser sig, prova!

De har dock en annorlunda definition av agi, nämligen att det är agi då vinsten ligger på 100 miljarder usd.

Självmedveten är att vara medveten om sig själv inte omvärlden. I ditt exempel så framstår det snarare som människan har sin peak i sitt självmedvetna då den är under 1 år då, för sedan förlorar lite av sin självmedvetande då den blir äldre.

Det där låter snarare som introspektion/själviaktagelse tycker jag.

Självmedvetande: "Med självmedvetande menas vanligtvis förmågan att vara medveten om sitt eget medvetande och identitet olika andra.[1] Alternativt, mindre krävande, förekommer också definitionen: förmågan att vara medveten om den egna kroppsliga existensen"

Att "känna sig" på något sätt innebär således att man är medveten om den egna existensen.

Jag har svårt att se hur man kan vara omedveten om sig själv och samtidigt "känna sig" på något sätt alls.

För att kunna vara medveten om sitt eget medvetande och identitet olik andra så krävs en abstraktionsmodell där individer förekommer som koncept, annars saknar abstraktionsmodellen den uttryckskraft som behövs för att kunna formulera ett sådant medvetande. Och som jag uppfattar det så saknar barn under ett år individer som mentalt koncept. (Vilket naturligtvis kan vara fel eftersom vi inte kan fråga små barn om huruvida de förstår vad individer är.)

Det är alltså skillnad mellan att vara den enda individen i universum givet en modell där individer existerar som koncept och att ha en modell som saknar individer som koncept. I det första fallet skulle självmedvetenhet kunna vara tekniskt möjligt men inte i det andra.

what? Fan vad jag hatar corporate businesses som bara definierar om saker och ting för att hjälpa dem att uppnå sina visioner

Varför ska man behöva vara medveten om andra öht för vara medveten om sig själv? För självmedvetande är att vara medveten om sig själv inte andra.

Desto mer medveten du är om en sak oavsett vad det är desto mer påtaglig blir den saken för dig. Så om du börja tänka på andra och annat än dig själv så är det som du är medveten om inte dig själv. Det tar fokus ifrån dig själv.

För mig låter det som du pratar mer om rumsmedveten än självmedveten.

Så du menar att om barnet inte förstår att andra individer är skilda från sig själv, så är barnet inte heller medvetet om sig själv?

Krävs det inte först att man måste vara medveten om sig själv, innan man kan bli medveten om andra?

Du skriver själv att "Barn under ett års ålder anses ännu inte ha utvecklat en omvärldsmodell där det egna jaget är skilt från andras jag.". Och att "barnet kan styra sina egna armar och ben". På mig låter det som att de iaf har ett eget jag.

Blandar du inte ihop social självmedvetenhet (självbild från beteendevetenskapen) med biologisk/fysiskt självmedvetenhet?

Nu syftade jag på den filosofiska definitionen av självmedveten där det krävs att den som är självmedveten vet att den är en individ som är skild från andra individer, och då krävs det en abstraktionsmodell där det förekommer individer. Sedan kanske den definitionen inte är den bästa för det vi egentligen är intresserade av.

Problemet med att bara diskutera "medvetande" utan förledet "själv" är att medvetandefilosofin inte kräver att en medveten entitet behöver veta om att den själv är medveten. Exempelvis kan även stenar vara medvetna inom panpsykismen utan att veta om att de är medvetna och då blir medvetandet något subtilt som inte ens behöver manifestera sig. Hur skall vi någonsin kunna veta om en mobiltelefon är medveten eller inte om den inte ens vet om det själv? Är det ens något som är värt att diskutera?

Den frågeställning jag själv tycker är intressant är vad som krävs för att en dator skall anses vara medveten som en människa. Och då menar jag inte hur många transistorer den behöver ha för att ett mystiskt medvetande skall emergera när mängden kisel blir tillräckligt stor, utan vad som krävs rent funktionellt.

Mina (en gubbes) definitioner:

Medveten: Du vaknar och ser saker.
Självmedveten: Du kollar ner och ser en fet mage med ett litet hål i, och upptäcker att den hänger med dig var du än är. Och finns där varenda jävla gång du vaknar.
Självmedveten (beteendevetenskapligt): Du ser något annat som också ser ut att ha en mage med hål i, men den magen är mindre. Och du börjar undra varför.



Det beror nog på vem du frågar. Eftersom det för t.ex mig krävs är att den lever.

Saker och ting kan aldrig vara/bli vare sig medvetna eller intelligenta, enligt mig.

De kan verka medvetna och intelligenta, om de är konstruerade att verka på ett sådant sätt. Men de kan inte vara det i sig själva. Eftersom de inte har något själv/jag. En LLM har lika stora förutsättningar att bli medvetet som ett kramdjur.

Visst kan man reduktionistiskt bena ut vilka funktioner levande organismer besitter, ner till den nivå där agens, självbevarelsedrift och "livsessensen" uppstår. För att sedan försöka återskapa detta i andra material än våra biologiska material. Och sedan tänka sig att konstruktionerna lever och "är". Men där är vi inte än. Långt ifrån. Vi har bara kommit marginellt längre än Frankenstein.

Är inte frågan du ställer "Vilka funktioner krävs av en maskin för att människor ska luras att tro att de är medvetna? Eller för att människor ska bete sig som om maskinerna är medvetna?"

Och där är en del redan idag. Och inom en snar framtid många fler.

Och "for all intents and purposes" så kommer robotar inom 20-30 år att verka på ett sådant sätt i vår omgivning, att vi inte kommer att agera annorlunda mot den än mot andra människor. Förutom att vi lär ha betydligt större förväntningar på roboten, än på människor, i många sammanhang. Och med den lilla skillnaden att vi inte kommer ha dåligt samvete när vi stänger av dem.

Med tanke på att ju mer och mer generativ AI teknik som tas i drift så slutar det varje gång i fiasko.

Tex
https://www.macworld.se/article/2568304/apples-ai-fortsatta-leverera-misstag-med-nyhetsnotiser.html

Lika så har det noteras att om man googlar på någon populär teknik eller liknande, så är nästan 80% av länkarna på google direkt till AI genererat skräp som inte har någon annan uppgift än att samla på sig klick och visningar av annonanledningar.

Det är ju rent av tragiskt att en av de största AI aktörerna inte kan nyttja sin fantastiska teknik för att "tvätta" resultaten så de blir användbara.