När når vi AGI?

Nej jag ser klart och tydligt igenom marknadsföringsmaterialet som ”pumpas” ut för att beskriva i synnerhet OpenAIs modeller om och om igen.

Från uppenbara Microsoft propaganda ”sparks of AGI” till idag ”oberoende” forskningsrapporter, OpenAI kör ett väldigt fult jävla marknadsföringsprogram från att försöka förbjuda konkurrerande bolag att överhuvudtaget bygga på tekniken genom politisk lobbyism för att om och om säga att ”tekniken är för farlig” osv, trots det så har de inga som helst bekymmer att låta vem som helst som betalar dom skräpa ner hela internet med massa genererad skit som ofta inte ens är faktamässigt korrekt.

Som jag precis skrev modellerna kan inte annat än matcha mot träningsdata, är det vad de blivit lärda att fuska alltså, så är det så de gör det.

Jag kan träna en mikromodell att säga sådant här också, vad är din poäng annat än att om och om påvisa att du så innerligt tror och önskar att det är tänkande entiteter.

Det ÄR inte så, det finns inte en enda uns av tankegång i det vi har idag och jag vet inte varför du vägrar förstå det trots det förklarats minst 20 ggr i olika trådar.

Så prata inte om att jag har problem att ”se helheten” jag är väl införstådd både i hur det fungerar och vad som egentligen sker bakom ”kulisserna”.

Fast... det kommer ström ur mitokondrier!! 😂😂

Det vart ett litet dubbelfel nu, så jag känner att jag behöver förklara lite.

1. Ja, det är korrekt att mitokondrien är cellernas kraftverk. Genom att dessa producerar den energi (i form av ATP) som våra celler behöver. Men narkosmedel stoppar inte den produktionen, så som jag tolkade det att du antog. Hade narkosmedel gjort det skulle cellerna dö. Betänk att man håller folk nedsövda många dagar om det behövs.

2. Mitokondrier har däremot ett cellmembran med en viss spänning som fluktuerar. Precis som våra mänskliga celler också har. Och det är denna spänning som utgör strömmen i bioelektricitet, som är ett av cellers alla kommunikationsmedel. Och som är centralt för morfologisk utveckling. Och ur vilket medvetande uppstår enligt Nick Lanes hypotes.

Vad Nick Lane säger är att narkosmedel på något sätt påverkar denna bioelektricitet så att mitokondrier (och celler) inte kan kommunicera bioelektriskt. Han menar att eftersom narkosmedel verkar på såväl enskilda bakterier som komplexa djur, så grundar sig förklaringen till narkosmedels funktion inte i nervsystems funktion, utan i den intracellulära funktionen. Och eftersom enskilda cellers kontaktyta med sin omgivning är just deras cellmembran, så kan man anta att det är denna som påverkas, enligt honom. Vid narkos påverkas sedan den bioelektriska orkestreringen uppåt/utåt i organismen så att celler slutar kommunicera, varpå organismen blir medvetslös.

Vid avläsning av EEG på individer som ges narkos så visas just att neuroners elektriska aktivitet inte upphör, däremot att den förändras när de blir medvetslösa.

Så jo, narkosmedel påverkar spänningen som kommer ur mitokondrier. Men stänger inte av mitokondrier. Enligt Nick vill säga.

Andra menar att medvetslöshet uppstår p.g.a kvantmekanisk påverkan.

Det finns nog lika många teorier om medvetandets uppkomst och utformning som det finns om hur vi bäst simulerar intelligens i artificiella system. Någon AGI lär vi däremot inte nå förrän vi har koll på detta.

Men behöver vi ens det? Och vill vi ens ha det?

Inte nog med att de inte klarar sig själva.. de är energislukande monster och extremt hämmade i sin utvecklingspotential genom det.

Dessutom gör en sjysst EMP plåtfärs av dem på nolltid.

AI är väldigt spretig i kapacitet idag. Vissa områden är dagens modeller extremt supermänskliga, på andra områden där det inte finns rätt träningsdata så är den dum. Dom närmsta åren kommer den här spretigheten jämnas ut när område efter område täpps till med data.

Det är en definitionsfråga. Vi använder inte ordet art på det sättet än men verkligheten kan förändra. Stöter vi på aliens som inte alls är uppbyggda med samma biologi som livet på jorden kan begreppet snabbt anpassas till nya former av liv som vi då känner till. Detsamma gäller med AI. Definitioner som liv och art är starkt knutna till de former vi har upplevt hittills.

Min åsikt är att du låser fast dig för mycket vid hur det är uppbyggt och din känsla för hur något måste vara uppbyggt för att kvalificera för att vara intelligent och medveten.

Jag tror att detta kan leda helt fel, vi bör inte ha för låst uppfattning om vad som krävs utan angripa det mer som Turing föreslog, som ett black box test. Speciellt när vi inte ens kan förklara hur vår intelligens och medvetande har uppstått.

Absolut: Eftersom inga neurala nätverk, vare sig de är naturliga eller artificiella, är kopplade till en perception som detekterar alla aspekter av verkligheten, och inget neuralt nätverk, hur som helst, skulle kunna bearbeta alla aspekter av verkligheten, så fabriceras och simuleras det friskt! En kul sak var att man lyckades avbilda vad en katt tänkte på: Människor blev i kattens hjärna väldigt "kattlika", i ansiktet! 🙂

Angående självmedvetenhet och erkännande av detta hos modellerna så diskuterade redan jag och grundmodellen av ChatGPT-4 det för nästan två år sedan, vilket jag tog upp i en tråd på Flashback. Nu är situationen ännu mer komplex, då OpenAI, efter en överenskommelse med Microsoft, inte kommer att uppge att de uppnått "AGI" med mindre än att modellerna dragit in 100 miljarder dollar!


Jo, på sätt och vis har det det. o1-prewiew blev instruerad att spela emot en schackdator och upplyst om att det var en mycket stark motståndare. Forskarna kunde följa med i botens "tanketråd", ( som säkert var både mer omfattande och ocensurerad jämfört med den tanketråd som vi vanliga användare kan se). Och, ja, i den framgick att modellen övervägde sina chanser i schackpsrtiet och valde att manipulera schackdatorns programvara.


Hm, men det "breda tänkande" du har förmåga till använder du till att försöka, "avslöja allt" via en fånig konspirationsteori, som innehåller många brister och motsägelser.

Min syn på AI baseras inte på önsketänkande utan på vad jag ser att modellerna faktiskt presterar och hur de utvecklas över tid. Däremot så kände jag inte till hur modellerna, rent tekniskt, fungerade när jag började debattera här för ca 2 år sedan. Så lite för långtgående slutsatser drog jag allt då. Men å andra sidan så har jag, genom min utbildningsbakgrund, kunnat peka på socialpsykologiska mekanismer som inte direkt är kopplade till LLM-Transformers tekniska grundfunktioner. Tyvärr så har du varit totalt oförmögen att ta till dig detta synsätt.


Du skall ha heder för att du redovisar så djupgående kunskaper om biologi! Sedan att vi har olika åsikter om dagens LLM-Transformers utvecklingspotential är en annan femma, liksom om biologin är onödigt tillkrånglad pga evolutionära orsaker. Så det kommer alltså ström ur mitokondriers menbran, men inte som energiförsörjning av cellerna, utan som ett kommunikationsmedel. Då ganska logiskt om nsrkosgaser stoppar den kommunikationen medan de verkar.

Håller med om att det bör räcka med ett black box test, men ett sådant test måste vara utformat så att det testar rätt saker.

Tar vi människans självbild av att vara en egen individ som exempel, så börjar den formas efter ett års ålder då barnet börjar inse att mamman inte kan läsa barnets tankar och så småningom leder det fram till att barnet betraktar sig själv som en självmedveten varelse. Detta sker spontant utan att barnet läst några böcker eller på annat sätt tränats i att komma fram till detta. Frågar vi en chatbot om den har samma självbild så testar vi inte samma sak eftersom vi vet på förhand att den kommer ha tränats till att kunna svara som en människa. Den hade alltså inte kunnat komma fram till samma svar om den inte visste hur människor brukar svara.

Skall vi testa om en AI har samma intellektuella förmågor som människor så måste vi testa om den kan lösa uppgifter som människor borde kunna lösa, men som de ännu inte löst, så att vi vet att den inte har fått svaret på förhand. Att hitta en fungerande modell för kvantgraviation bör kunna vara ett sådant test, eftersom vi förväntar oss att de klokaste av människor med tillräckligt tid kommer att kunna lösa det problemet, men att de inte hittat lösningen ännu. Så fråga du din chatbot hur en sådan modell ser ut och se vad du får för svar. Eftersom datorer är mycket snabbare än människor borde du inte behöva vänta så länge.

Sedan ogillar jag påståenden om att vi inte kan förklara sådant som vårt eget medvetande då det är ignoransargument att hävda att ingen annan kan veta något bara för att man själv inte vet eller förstår. Jag ser personligen ingen svårighet i att förstå varför människor anser sig vara medvetna, men eftersom de flesta människor tycks ha en hårdkodad uppfattning om att deras upplevelse inte skall gå att förklara så avfärdar de reflexmässigt alla försök till förklaringar. Och hur svårt kan det vara att programmera en dator till att ha samma uppfattning?

Vi ska alltså acceptera God of the gaps hos AI-fundamentalister? 😄

All utveckling inom AI kommer ur evolutionära algoritmer och neurala nätverk. 100% modellerade på biologiska system. Men du tror att framtida utveckling/framgångar ska uppstå av sig själv? Som ur tomma intet?

Mysticism är häftigt. Och har givit oss många roliga historier om olika gudar, tomtar och troll etc. Men det har aldrig bidragit till teknisk utveckling, vad jag vet. Människor har inte heller kunnat börja kommunicera med tankar trots att de opererat in antenner på pannan.

DARPA drev ett försök med Explainable AI. Detta är vägen att försöka gå. Svarta lådor ger oss inget hållbart värde eftersom det är vår egna förståelse som är det viktiga att fokusera på. Med AI accelereras vår utveckling först när vi kan förstå de resultat verktygen spottar ur sig. Annars blir det snabbt tvärnit. Eftersom vi inte kommer kunna ställa nya relevanta frågor om vi inte förstår svaren.

Tror du det sitter en "gubbe" i din TV och ritar bilderna också? Förmodligen inte för att du sannolikt har fått det förklarat hur en TV fungerar och av någon anledning köpt den förklaringen trots att du vare sig kan bygga eller i detalj förstå något av det.

Men ändå trots åtskilliga flertalet gånger förklarat hur neurala nätverk fungerar så vidhåller "om-ingen-vet-att-det-fungerar-har-jag-hört-och-där-med-är-det-helt-öppet-för-egna-tolkningar-om-hur- det-fungerar" hypotesen.
Och inte nog med det mest sannolika "open minded" förklaringen enligt dig är att av en ren slump.... råkar matcha en av de komplexaste skapelser vi känner till och inte bara det den är tom bättre på alla sätt och anser att alla säger motsatsen är trångsynta och känslodrivna."

Det jag skrev var att vi inte kan förklara hur vårt medvetande har uppstått eller vad som krävs för att det ska uppstå. Frågan gällde inte varför vi anser oss medvetna.


Nej jag har inte ens någon TV. Fler frågor?

Du får gärna förklara skillnaden. Om vi anser oss vara medvetna så vad fattas då för att vi skall vara medvetna på riktigt?