När når vi AGI?

En humanoid mördarrobot kan kontrolleras med instruktioner/kod som är, eller kan kompileras från "bara text". Du bör alltså stryka den falska säkerheten, "det är bara text". Text är inte ofarligt. Pennan är mäktigare än svärdet.

Självfallet så är ChatGPT-4o tränad att vara trevlig och diplomatisk, det är ju självklart. Men det är inte det jag pekade på: Det jag pekade på var att, grundfunktionen hos o1-prewiew o1, 03 modellerna är att, först, analysera rationellt och logiskt, steg för steg, och först, därefter, "se sig om" bredare. Detta, i motsats, till ChatGPT-4o som "ser" brett men kommer med ett mindre precist svar. Å andra sidan är den modellen mer kreativ, och lämpar sig därför bäst för sådana uppgifter som att producera,nya hypoteser och hitta oväntade samband.

Vad gäller definitionen av "social" tror du att interagerande med djur ingick i en sådan definition när sociologi grindsdes på 1800-talet? Nej, för då var synen på djur annorlunda än idag. På samma sätt så kommer synen på AI att ändras och därmed definitionen av vilka existenser vars interaktioner räknas som "sociala".

Jag har heller inga som helst problem med att AI fabricerar och simulerar att de är sociala. Tvärtom så tillhör det deras grunduppgift. Men sett till grundläggande funktion, men på relevant metanivå så är LLM-Transformers också, de facto sociala, oavsett om de hunnit inkluderas i någon definition eller ej: De interagerar språkligt med människor, de försöker uppfylla de förväntningar de bedömmer varje enskild användare har utifrån kontext i aktuell chatt-tråd, och de är, de facto, redan, sociala aktörer i samhället, trots att de saknar nästan all autonomi.

Slutligen testen du föreslår: Jag förmodar att du vill att jag promptat o1. Och, ja, modellen skulle säkert göra sitt bästa, men det ändrar inte modellens grundläggande funktionssätt: att, först resonera rationellt och logiskt...
Det är ungefär som om jag skulle "prompta", dig: "Tänk först hollistiskt...", vilket du inte verkar klara av. Och detta förklarar faktiskt mycket: För du verkar, (och har även uppgett det i ett tidigare inlägg), först tänka rationellt och logisk. Då kommer du fram till det, inte felaktiga slutsatsen att "vi inte kan kontrollera, AI som är smartare än oss själva". Först, därefter, "ser du dig omkring". Och vad ser du då? Jo, en massa skräckscener ifrån diverse sci-fi stoff.

Nu tror jag Iof att det t. ex går att kompensera ett relativt lågt IQ med brett tänkande, så länge det inte rör sig om rena matematiska uppgifter utan om "vardags logik". På samma sätt kan högt IQ, inte kompensera för brist på hollistiskt tänkande, men väl genom rationellt och logiskt resonerande avskräcka ifrån att ge sig in på de hollistiskt och kreativa "tassemarker" man inte behärskar fullt ut själv.

Nu gjorde du förstås ett gigantiskt hopp. Från Open AI till humanoid mördarrobot med ett pennstreck.

Nu gjorde du förstås ett gigantiskt hopp. Från Open AI till humanoid mördarrobot med ett pennstreck.

Ja, men vilka tekniska hinder finns det egentligen för att i dag träna en mördarrobot? Jag kan inte se de hindren.

Beror på vad du menar med mördarrobot. Det finns uppgifter om delvis autonoma drönare som används i Ukraina.

Ja, men vilka tekniska hinder finns det egentligen för att i dag träna en mördarrobot? Jag kan inte se de hindren.

Endast fantasin sätter gränsen

Hur långt är ett snöre? Vad är ett snöre?

Men börja på den här sidan: https://en.m.wikipedia.org/wiki/Moravec%27s_paradox




Ja.

Jag saknar den tiden. Allt var så häftigt då. Var fan är min flygbil! Eller min sista minuten till Alpha Centauri? Det har ju gått 40 år för f*n. Hur långsamma är dom egentligen!!

Exakt. De finns redan och används i krig just nu. De lär ju inte bli färre om du spolar fram ett par år. Och givetvis kommer de tränas med bångstyrig, opålitlig men kompetent och "bred" AI, med en tveksam "AI Alignment". Det är mer kostnadseffektivt än att manuellt specialdesigna en smal AI. Alternativt använder man o3-o5 för att konstruera en smalare AI. För prestandans skull vill man nog ha en ganska slimmad AI-motor i en mördarrobot. Den behöver inte memorera Koranen i standardutförandet, men den får kanske en Jihad-modul om du köper Enterprise-abbonemanget av psykopaten Sam Altman.

Du får gärna ta fram en källa på att autonoma drönare/markrobotar överhuvudtaget använder LLM.

Beräkningskraft kommer inte att vara ett problem inom några år

Meet Willow, our state-of-the-art quantum chip

Ni låter som Bill Gates 1985.

Ingen kommer att behöva mer än 640k RAM.
Min faxmaskin har bara 16k minne och den fungerar utmärkt

Det svåra med insikt är inte att ha koll på vad man vet. Det svåra är att ha koll på vad man INTE vet.

Som sagt:
Det svåra med insikt är inte att ha koll på vad man vet. Det svåra är att ha koll på vad man INTE vet.