När når vi AGI?

Men det är ju just det du inte förstår, schack AIs förstår inte spelet, de söker fram rätt svar vilket är jätteenkelt att göra när du kan specificera och beräkna exakt vad som är ett bra drag eller inte.

Den lyxen har du inte i många verkliga situationer utan vad som är ett bra eller dåligt drag är något som skiljer på individnivå och utifrån etiska och moraliska aspekter, dvs det finns inget objektivt rätt eller fel i många situationer.

Det är också det som är så vidrigt att läsa här trots det förklarats åtskilliga gånger att språkmodeller inte är sociala och hjälpsamma, de följer sin system prompt som generellt säger ”du är en hjälpsam assistent” och därför följer token genereringens statistiska mönster vad den sett utifrån hur en hjälpsam människa statistiskt borde svara, hade de skrivit ”du är en sadistisk bilförsäljare” så följer tokengenereringen det mönstret, det har inget med vare sig intelligens, medvetande, sociala egenskaper eller omdöme att göra utan ren sannolikhetsfördelning utifrån klassificerat källmaterial.

Det är ingen här som sagt att det är omöjligt att skapa riktigt konstgjord intelligens, det som däremot sagts om och om igen är att inga av de tekniker vi har idag leder till det, de här resonerande modellerna är inte annorlunda modeller i sig, det är postprocessning utanför modellen som förbättrar prestandan på vissa uppgifter men det sänker i stället prestandan på annat, så utvecklingen med dessa går inte bara framåt. Dvs chatgpt o1, o3 är sämre än GPT 4o på vissa uppgifter, bättre på andra.

Nej det är inte så schackmotorer fungerar, speciellt inte efter att AI klivit in. Det går inte att "specificera och beräkna exakt vad som är ett bra drag eller inte", med ett sådant försök skulle de aldrig bli så starka som de är idag.

Tvärtom har inte minst Alpha Zero visat upp en långt högre förståelse för schack än någon människa någonsin haft, den har därför inspirerat de bästa mänskliga schackspelarna så att de nu har fått ökad förståelse för schack. Människor kommer dock inte i närheten av AI.

Men när du ska lära dig ett brädspel inom mycket snäva regelramar så är det mycket mer kontrollerbart än vad verkligen är, därav fungerar maskininlärning uppenbarligen bra. Lite överdrivet är verkligheten oändligt mer komplicerad än ett parti schack. AI kan mycket väl bli en "idiot savant" på smala områden. Det är därför jag tror att den mest framkomliga vägen mot AGI är att bygga modulärt med många moduler som kan en liten sak bra. Att bygga en heltäckande algoritm är helt enkelt för komplicerat.

Det är därför det är AI som används inom schack och inte AGI. Inte desto mintre är det frågan om intelligens och inte bara algoritmer och förprogrammerade regler som BeneathTheSurface trodde. Det går inte att beräkna alla varianter och utifrån det sluta sig till vad som är bäst eftersom det finns fler varianter än atomer i universum inom schack. Den komplexiteten är alltså så extrem att den inte skiljer sig från händelser i vår vardag.

Jag uppfattar att reglerna är hårdkodade, även om AZ lärt sig vilka drag som har störst framgångschans i en viss given ställning. Man har lärt AZ detta genom att låta den spela mot sig själv förstår jag det som, men även med regelbundna matcher mot andra schackdatorer för att se utvecklingen.

Schackreglerna är givna ja, annars blir det inte schack om man inte behöver följa reglerna.
Men ingen har lärt AZ vad som är bra drag, strategier eller vilket värde pjäser ofta har. Ingenting var förprogrammerat. AZ lärde sig vad som var bra genom att spela mot sig själv i 4 timmar. Efter det slog den alla människor och alla andra schackmotorer.

Sedan dess har nu förstås flera schackmotorer infört AI för att ha en chans och bäst är Stockfish.

Du saknar läsförståelse, jag har inte sagt att algoritmer inte används.
Jag har däremot fokuserat på att slå hål på era påståenden om att LLM inte kan utveckla intelligens.

Jag sökte på ord som ”autonom” och ”mekanisk” utan träff i tråden. Jag kan ha missat eller har alla glömt den lilla detaljen?

Är inte ett problem att dagens AI-entiteter är stora fasta datorer, helt beroende av sin ”husse” för att få energi och för att kunna kommunicera? I bästa fall kanske man kan få till en ”robot” med trådlös uppkoppling och batterier som kan efterlikna en människa i grova drag någon eftermiddag innan batterierna är slut, men troligen inte utan uppkoppling till en större dator med energislukande AI-modeller som stöd.

”Bättre än människa” borde väl börja med riktig autonomi med en energiförbrukning som liknar en människa eller lägre? Det är ju inte i närheten på långa vägar energimässigt, viktmässigt, autonomimässigt eller flexibilitetsmässigt.

Det är långt kvar om man som jag ser intelligens som en egenskap som finns i en autonom självreflekterande organism, inte enbart något som matar ut sentenser genom något användargränssnitt och i övrigt är någon slags datamaskin på ett labb.

Svaret är att man aldrig kommer nå det, för att om man tittar på vad betydelsen varit så har vi nått det för relativt länge sen (~nått år sen?). Men när man når det säger folk bara "nej, det är inte det JAG tycker är AGI". Så man skjuter bara fram målstolpen hela tiden. Så svaret är: aldrig.

Från början är AGI alltså bättre kognitiv förmåga än en människa. Men nu pratar man (se inlägget innan mitt, te.x.) om att AGI ska betyda bättre överlag än människa på allting som finns. Te.x borde ju en AGI isf kunna flyga, kanske göra rymdresor, vara en mycket bättre krigare än en människa, bättre på att dyka, bättre älskare osv osv osv. Det kommer man inte nå.

Diskutera inte varandra.
OT raderat
/Mod

Svaret finns i texten. Jag tycker att förklaringen av hur det fungerar gör det uppenbart att ingen riktig intelligens kan komma fram då den inte "lär" sig något utan helt enkelt memorerar "facit" samt mönstermatchning. Det är helt omöjligt för oss att försöka övertyga dig om alla dina kontringar är "du ger inget svar" trots att förklaringen finns i vårt svar.

Det var nån galenpannan som haft sitt barn instängd i en byrå under hela barnets livslängd, barnet var tre år men totalt outvecklad för den hade aldrig varit i kontakt med andra människor.

Med detta sagt, allt det du nämnde ovan är något som människor får träna upp, dom föds inte med dessa förmågor.

Även människor behöver träningsdata för att bli fungerande människor i ett samhälle, således är det inte så stor skillnad mot AI, även AI behöver träningsdata och kommer troligen inom en snar framtid kunna tränas på att ha ett medvetande och allt annat som kännetecknar en människa.