Konsekvenser för synen på AI om Stephen Wolframs Ruliad-hypotes skulle stämma?

Det du skriver om dagens LLM är, de facto, pseudovetenskap! Modellerna aktiveras av en användares prompt och dess hela, aktuella "värld" består, enbart, av aktuell chat-tråd och i förekommande fall Custom Instructions, samt nu de minnen användare vill att Chatt-GPT-4 skall komma ihåg. En sådan modell kan, omöjligt "smida lömska planer, vara medveten, och, naturligtvis saknar dessa modeller autonomi. Men det är dagens modeller, jag utesluter ingenting för framtiden.

I övrigt så nämner du säkerhetsproblem som man redan jobbar med.

Nej okej, jag tycker mig sett att du skrivit du nämner "Wolframs ruliard" i vart och vartannat inlägg där av mitt intryck att du verkat haka att upp dig på den, jag säger inte det är fel med det eller att hypotesen är felaktigt.

Det jag försöker påpeka är att det är fullständigt irrelevant eftersom matematik är något vi människor utformat utifrån vår observation av verkligheten, det finns inget egen syfte med matematik, det är ingen naturlag, vi människor har definierat hur matematik fungerar och det finns välkända och uppenbara luckor i det som man helt enkelt får acceptera när man använder det.

jag kanske inläser sådant som du inte skrivit i ditt inlägg, det jag tycker mig inläsa mellan raderna är att du antyder är att hans ord ger viss "förhoppning om" att artificiellt liv, medvetande osv skulle ligga inom horisonten av nuvarande system eftersom de bygger på beräkningar och således "är på rätt väg", medan jag försöker vara övertydlig är att _beräkning_ är den enda metod vi har tillhands oavsett den är rätt väg eller inte och den har historiskt fungerat bra för varenda process som vi förstått oss på.

Men det kan så klart vara så att jag totalt missuppfattat situationen.

Det är väl snarare att du verkar tro att jag svalt Stephen Wolframs ruliad-hypotes, okritiskt, med hull och hår. Det har jag inte. Jag vet skillnaden mellan en hypotes och en teori, (I vetenskaplig mening). Men jag tycker ändå att hypotesen är intressant, och att implicationerna för framtida AI skulle kunna vara mycket stora, om Den visar sig att hypotesen stämmer.

Jag har tidigare citerat ChatGPT-4 angående skillnaden mellan beräkningar och matematik. Jag hade, nämligen inte tidigare gjort någon skillnad mellan detta. Jag citerar nu boten utan SPOILER och frågar dig, som datavetare: Är boten helt fel ute här och hallucinerar hej vilt, eller ligger det något i detta:

"Skillnaden mellan "Beräkning" och "Matematik"
Skillnaden mellan beräkning och matematik är både konceptuell och praktisk. Matematiken fokuserar traditionellt på abstrakta strukturer, bevis och teorier, och använder ofta kontinuerliga modeller och symbolisk manipulation. Beräkning å andra sidan, handlar om processen att utföra specifika operationer på data, oftast i en diskret och stegvis form. Medan matematik kan ses som ett språk för att beskriva mönster och relationer, är beräkning mer ett verktyg för att generera och bearbeta information baserat på definierade regler."

Observera att jag använt boten som ett verktyg, inte som en" sanningsägare". Med rätt input kan jag, ibland, ha nytta av LLM. Ja, i enstaka fall även med fel input, då samma ChatGPT-4 avslöjade sin självcensur/"proto-försvarsmekanism". Med vettig input så har jag lärt mig mycket om LLM:s reella stora begränsningar som de förmågor denna teknik ändå har. Liksom jag lärt mig mycket ifrån dig och andra skeptiker.