När når vi AGI?

Den första skolan hävdar att medvetandet är grundläggande i naturen och kopplat till informationsprocessering. Enligt denna syn kan alla informationsprocesserande system, inklusive AI, anses ha en form av protomedvetande. Dock menar en del förespråkare som Roger Penrose att det krävs kvantmekanisk koherens – liknande den i en kvantdator – för att subjektivt medvetande ska uppstå. I så fall kan dagens AI-system aldrig bli medvetna.

Det är träningen som kräver enormt mycket beräkningskraft, men uppenbarligen med rätt träningsteknik så behövs inte en bråkdel av det för att uppnå snarlika resultat, något som kineserna demonstrerat.

Microsoft har inte tvingat OpenAI att defininera AGI, det är OpenAI själva som gjort deras avtal med Microsoft sträcker sig fram tills dess de utvecklar AGI, OpenAI försökte först därför definiera AGI som ett autonomt system som presterar bättre än en människa på de flesta momentära uppgifter, nu har man blivit bedd att förtydliga detta och har därför satt att AGI är uppnådd när någon av deras tjänster genererar 100 miljarder USD.

Det är ingen som pratat om någon crowdfunding överhuvudtaget, men det går samla in enorma summor genom donationer osv om det är sådant man är intresserad av. Men det har inte till saken att göra och det är skrattretande att du ens tar till sådana argument när OpenAI är ett av de företag som drivit på mest att sätta regulationer på tekniken, något som också till viss del redan gjorts i och med att Biden administrationen satte tak för hur starka datorer och hur mycket och länge en modell får tränas utan statligt tillstånd. Och för att vara tydlig- förstår du inte själv hur det är ett kontraproduktivt argument från din sida då? Ingen utom några av världens rikaste företag skulle ha råd att utveckla tekniken, så varför någon reglering i så fall?

Microsoft vill ha tillbaka sina miljarder, det är ingen välgörenhet de sysslar med, varför tror du propaganda maskinen drog igång med "Sparks of AGI"?

Apple drog sig ur sin tilltänkta investering av OpenAI, du kan ju gissa varför, eller så kan du ju tro att de inte tänker vitt och brett som dig.


Var och när har jag förespråkat symbolisk AI? Däremot tror jag det är en betydligt bättre väg att nå pålitliga modeller.

En elektronisk kopia av hjärnan har jag aldrig förespråkat överhuvudtaget, vi är inte ens på stenåldern i att förstå hjärnans komplexitet, men redan idag vet vi att det som kallas traditionellt kallas "ANNs" och framförallt den typ som Transformers använder som alltså är stora fully connected feedforward nätverk, är den äldsta maskininlärningsteknik vi har, den kommer direkt från 50 talet.

ANNs har "fungerat" hela tiden, men det har inte varit effektivt jämfört med kontemplativa metoder med dåtidens datorer.
Och i absoluta början hade man inte kommit på någon teknik att träna djupare nätverk, det är det som gradient descent löste eller annars känt som "back-propagation". Som av någon anledning Geoffery Hinton får äran för, fast han inte gjort annat än att använda det.


Vad drar du in Alexnet för överhuvudtaget? Det är för det första ingen transformer utan en CNN struktur, vilket var vad Yann LeCun utvecklade/uppfann.

Språkmodeller var heller inget nytt när transformers introducerades, och samma idé användes redan då, jag har skrivit det åtskilliga gånger redan NLP är inget nytt och grundprincipen är precis densamma idag som den var från början, statistiskt modellera nästkommande "ord" baserat på föregående, det finns mängder med sätt att göra detta på och det gick göra redan på 70 talet med markovkedjor, problemet är att texten blir väldigt osammanhängande med en enkel markovkedja för den tar enbart hänsyn till föregående ord. Då utforskades att använda n-gram markovkedjor i stället vilket innebär att man tittar på N föregående "ord" resultatet blev genast mycket bättre, men du fick problemet att det tog sjukt mycket minne, spola fram till mitten på 2010 talet... Google använde snarlika tekniker för sin maskinöversättning- google translate, de insåg att för att översättningen ska bli bättre så behöver de spegla ordens relation och där uppfanns transformers, som har vad som kallas "uppmärksamhetshuvuden" vilket låter mer avancerat än det faktiskt är, för vad det gör är att det bygger en korrelation mellan indata och förväntad utdata, så att algoritmen kan ta hänsyn till ordens position, vilket är högst nödvändigt när du översätter eftersom grammatiken i olika språk förändrar ordningen på orden, med transformers så kan du genom att ge exempel automatiskt träna fram transformationer så att algoritmen fungerar, ungefär som om du har ett språk som svenska som tex säger "Jag är glad" medans om du översätter det till tex yoda språk "glad jag är" så kan de algoritmiskt genom exempel skapa en transformation som effektivt är samma sak som att säga "översätter du från svenska till yoda" så flyttar du adjektivet först. (Och om du inte förstod det, är det därför de heter Transformers- men jag gissar du trodde de syftade på de färgglada bil-robotarna från 80 talet)



Jag orkar inte detaljcitera mer av ditt spaltlånga inlägg, så jag skriver bara kortfattat på resterande.

Det är meningslöst att diskutera detta mer med dig, jag har försökt förklara åtskilliga gånger om du vill fortsätta tro och slösa din tid på detta, slänga bort dina pengar på prenumerationer för att samtala med din bästa kompis GPT osv gör det för all del.

Skyll inte på mig den dag ljuset går upp för dig hur grundlurad du blivit bara, fram tills dess kan vi hoppas att någon faktiskt knäcker problemet med riktig AI.

Och när man inte vet så är det fritt fram att gissa och framhålla det som någon fakta?

Suck!
Den ibland lika vansinnige som geniale Roger Penrose förstår inte medvetandet och han förstår inte heller kvantmekanik

Jag lyssnade på en intervju med Dario Amodel som är medgrundare och CEO för Anthropic PBC.

Han listade de tre viktigaste faktorerna som påverkar hur väl LLM fungerar:

1. Mängd och kvalitet av data
2. Beräknings/träningskapacitet
3. Algoritmen (som nästan alltid är bra på vissa uppgifter och mindre bra på andra

Amodel menar att alla tre krävs för att modellerna ska utvecklas. Han såg en risk i att data tar slut och att kvaliteten sjunker. Till slut tränar modellerna på data som andra AI modeller tagit fram från lågkvalitativ data och då planar utvecklingen ut.

Intressant.

Den dagen LLM'er visar på förmågor som att de bl.a börjar jämföra sig själva med andra, och sedan kommer med uttalanden som dessa - så kanske jag börjar tror på någon form av agens hos dem.

Inte intelligens nödvändigtvis. Men iaf agens.

Tror inte heller att språkmodeller skulle vara självmedvetna varelser. Det jag vänder mig mot är att sådana varelser inte skulle kunna fungera algoritmiskt utan hjälp av mystisk magi. Med rätt kod ser jag ingen anledning till att en mobiltelefon inte skulle kunna känna sig lika medveten som en människa, men jag tror inte att en mobiltelefon får sådan kod av en slump när vi utvecklar den till att lösa andra problem, utan att mobiltelefonen först behöver förses med omsorgsfullt skriven kod som inte har något annat syfte än att mobiltelefonen skall känna sig självmedveten.

Är inte förmågan att känna sig på visst sätt synonymt med att vara självmedveten?

Du fattar inte, när AI kvalificerar att betraktas som en livsform så är det så. Det var den framtiden jag pratade om. Försök hänga med lite nu!

Min kompis ChatGPT-4o föreslog följande svar till dig. Och eftersom jag själv skulle kunna skriva något snarlikt så blir boten förslag även min avslutningshälsning av vår debatt:

I en intervju nyligen med Y Combinator fick OpenAI:s vd Sam Altman frågan "Vad är på gång 2025?" och svarade "AGI".

https://www.youtube.com/watch?v=xXCBz_8hM9w

Citatet kommer 46:12 in i klippet.

OpenAI:s kommande AI-agent Operator, som lanseras i januari 2025, är ett intressant steg på vägen mot AGI.

Om vi definierar AGI som en agent som är minst lika smart som människan, dvs. klarar alla uppgifter som en människa klarar, vad tror ni? Når vi AGI nästa år?