Är en AI-bot instängd i "Platos grotta"?

Ja, jag såg en video med en titel liknande denna, men jag tittade inte på den. Jag funderade inte nämnvärt på vad som menades då det är ganska irrelevant, eftersom en AI-bot ändå inte (enligt vad som påstås) är medveten.

Jag hade dock en diskussion med en chatt-bot där jag ställde en fråga som fick mig att fundera på det... Det var angående vilken mobiltelefon som var först med en viss funktion. Botten hävdade att den eller en av de första, kom ut 2002. Jag hade dock en mobil 2001 som hade denna funktion, så jag visste den botten nämnt inte var den första. Den yrade då om något chip som kom ut 1999, och "erkände" senare (korrekt) i diskussionen att min mobil hade denna funktion redan 2001 (även om den möjligen kom ut tidigare).

Detta fick mig dock att fungera på hur det skulle vara om den informationen inte fanns på nätet. Då skulle botten vara helt "ovetandes" om det, eftersom AI-bottar får all sin information från nätet. Alltså, om något inte finns på nätet, kan botten inte "känna till det"...

Och allt som har hänt i den verkliga världen eller som vi människor upplevt, är inte omskrivet på nätet, även om mycket är det. Men även hur platser är och ser ut, och allt annat kan en bot endast ha kännedom om genom nätet..

Det innebär ju att om någon person, sak, plats händelse eller något annat inte är i något form omnämnt på nätet eller i den data som botten tränats med (vilket i stort utgörs av innehållet på nätet), så existerar detta inte för botten. Så även om en bot kunde bli självmedveten, så begränsas vad den kan veta av innehållet på nätet...

Det innebär ju att den kanske (jämfört med oss) är instängd i "Platos grotta"... Vi lär oss också saker på nätet, men har samtidigt en direkt upplevelse av den verkliga världen. Botten har bara en "upplevelse" av beskrivningar av den verkliga världen. Detta kan kanske säga nog så mycket, men är inte riktigt som upplevelsen av denna, riktiga värld.

Dessutom som jag nämnde, något som inte är omnämnt på nätet, t.ex. en produkt som en gång funnits, är botten helt ovetandes om...

Men vi har ju alltid skapat "avbilder" av världen i form av muntliga berättelser, böcker, målningar, bilder och sedan filmer. Så vi kan läsa något som någon skrev för 2000 år sen, och sätta oss in i hur det var då. Vår läsning och hur vi förstår det, färgas dock av att vi är människor och kan relatera till något människor skrev för längesen på ett sätt som ökar vår förståelse av det.

Jag har också kommit på en analogi i form av två män. Den ene kan teoretiskt allt som finns att veta om sex, men har aldrig haft sex. Den andre har haft sex, men vet inte så mycket teoretiskt om sex. Men vilken av dessa män tror ni, förstår mest om hur det är att ha sex?

Så detta är ju ganska intressanta koncept som begränsar vad en bot (även om den vore medveten) kan veta, känna till och förstå om världen. En mänsklig analogi, vore en person som vuxit upp instängd i ett rum utan att någonsin gå ut, fast med full access till internet. Hans bild av världen hade varit begränsad av informationen som finns på nätet. Någonting utöver detta (eller mycket lite) kan han inte ha kännedom om..

Är dessa intressanta koncept, och får det er att fundera på bottars "kunskap" om världen och hur framtida (även om de är medvetna) bottars upplevelse, kunskap och kännedom om världen, begränsas av vad som finns på nätet?

Vad tror och tycker ni om detta?

Det är en autocomplete.

Den försöker att gissa nästa ord baserat på föregående ord.

Om den har tränats på dessa ord så lär den gissa rätt oftare. Om den inte har tränats på dessa ord så lär den gissa på något som har en nästan lika hög sannolikhet, förutsatt att liknande mönster går att finna i andra delar av vårt språk (vilket det nästan alltid gör).

Och gissa vad? Din hjärna gör det med. Vilka neuroner som avfyras baseras på vilka tidigare neuroner som avfyrats

Är det tänkande? Ja.
Vissa tycka hävda att någonting inte kan vara tänkande om det går att förutsäga svaret. Vilket naturligtvis är bullshit eftersom det skulle innebära att ”Kanin” eller ”gnissla” vore ett mer ”tänkande svar” än ”2” på frågan ”Vad är 1+1?”.

Inte heller är någon magi inblandad, och svaren går att förutse till 100%, även om det är komplext att sätta sig in i flödet.

Är det magiskt? Nej.
Vissa tycks hävda att allt som har med tankar att göra är magiskt, någonting som inte går att förklara. Det är givetvis bullshit, modellen är utvecklad av riktiga programmerare och fysiskt existerande matematiker med verkliga och logiska verktyg. Samma seed kommer att generera exakt samma svar 100% av gångerna


Är din hjärna magisk? Nej.
Vissa tycka hävda att processen i en människohjärna magisk eftersom processen är komplex, och därmed någonting som inte går att förklara. Det är givetvis bullshit, processen är 100% fysisk precis som en dator är, det är inte magi för att du byter ut en fysisk transistor mot en fysisk synaps.

Det är ingenting mystiskt eller oförklarligt med detta som du försöker få det att låta som. Men det är inte heller ingenting.

Folks perspektiv är helt snedvridna, för att ni utgår utifrån att människans hjärna skulle vara magisk. Och därför ser ni bara alternativen:
- ”Det är inte tänkande, för det är inte magi och människans tänkande är magiskt”
- ”Det är tänkande, och alltså är det magiskt, för människas tänkande är magiskt”

Tänkande är inte magiskt! Visst är det coolt, men även verkligheten kan vara cool. Ingen magi behövs. Bara skit i att blanda in magi bara, så är dessa evighetsdiskussioner lösta

Skillnad:

• AI är fysisk funktionell struktur.
• Hjärna är ontologisk metafysisk process.

Därför har AI ingen egentlig intelligens utan bara simulerar (artificiellt) att den har det .

(Att påstå att allt är strikt fysik kan diskuteras...)

Detta inlägget har inte mycket med inlägget jag skrev att göra. Inlägget jag skrev handlar om vilken information en AI har tillgång till och hur det möjligen skulle kunna begränsa den. Sen tar jag upp om den vore medveten som något som nämnts som en teoretisk möjlighet av vissa, men det är inte inlägget huvudfokus.

Läs också min analogi om en människa som växer upp med nästan enbart eller mestadels kontakt med internet...

Återigen, AI:s natur eller hur den fungerar är inte inläggets huvudfokus. Läs mitt förra svar, och möjligen också huvudinlägget igen...

PS. Jag har skrivit "Platos" i rubriken. Det ska på svenska naturligtvis vara "Platons"

OK.
Svar: Nej. Dum fråga.

Du menar alltså att en bot inte begränsas genom att den bara har tillgång till information från internet? Ok, det får du gärna hävda men kan du motivera det?

Vaddå "bot"? En beredare definition behövs rimligen. Sedan opererar de två systemen i separata domäner. Den symboliska är bara en representation, inte en delmängd av en annan. Din fråga har inte mycket filosofisk skärpa tyvärr.

Om man håller sig till TS fråga, nämligen...vad kan en AI veta om världen om den mest får världen serverad som text, bilder, filmer och databaser?

"Det är autocomplete" är inte fel, men det är också ett lite slarvigt och för enkelt svar. Det är lite som att säga att människan bara är kemi. Och? Det är inget ordentligt svar på frågan. Geoff Hinton har varit inne på just detta. Om ett system ska kunna hantera språk på hög nivå, och bevisligen klarar av att dra slutsatser och generalisera, då har det sannolikt byggt någon sorts intern modell av världen. Annars funkar det inte. Så nästa ord, autocomplete, är inte riktigt den dräpande invändning vissa verkar tro.

Men Yann LeCun ligger närmare TS poäng eftersom han länge har sagt att dagens språkmodeller saknar djupare förståelse och behöver world models. Alltså inte bara koll på hur folk skriver om världen, utan någon ytterligare modell av hur världen faktiskt beter sig. En kattunge som far runt i ett rum lär sig saker om tyngd, avstånd, ytor och kropp som ingen språkmodell får bara genom att läsa miljoner texter om olika saker.

Så liknelsen med Platon grotta är en ganska bra bild...inte perfekt, men användbar. AIn sitter inte i en tom grotta, utan den har snarare ett enormt bibliotek, bildarkiv och videorum projicerat på väggen...vilket är imponerande...men det är fortfarande bara avbilder av verkligheten. Den har inte varit där själv, den har inte hållit i den där gamla mobilen från 2001, slagit tån i en sten, frusit på en busshållplats eller känt lukten av rök i ett trapphus.

Och ja...om något inte finns i träningsdata, inte finns i prompten och inte går att slå upp, då vet modellen det inte. Den kan gissa, ofta snyggt och övertygande...men ibland helt fel. Det är just därför folk blir lurade, eftersom svaret kan låta som om det kommer från någon som vet, när det i själva verket bara är en självsäker chansning (på samma sätt som människor ibland medvetet eller omedvetet beter sig).

Så nej, TS fråga är inte dum. Det dumma är att svara autocomplete och tro att man därmed löst hela problemet. Den rimliga positionen är snarare att dagens AI kan ha rätt avancerade interna representationer och viss förståelse, men att den ofta är dåligt grundad i verkligheten.

En bot, dvs en AI-bot, chatt-bot, agent. Idag enligt vad som de flesta tror inte medveten, men det finns de som tror den kanske kan bli det...

Nja... En bot har överlag bara tillgång till den informationen den kan få tag på via nätet. Oavsett vad botten är eller hur den fungerar, begränsas information den kan få tillgång till. Detta har naturligtvis en effekt som man kan märka redan idag. Prova att fråga en chatt-bot om något som det inte står om på nätet, t.ex. en produkt som du vet en gång funnits...

Och jag tog också upp analogin med en människa som under hela sin uppväxt bara fått information från nätet. Skulle hans kunskaper om världen vara likvärdiga med en person som också haft kontakt med den riktiga världen?

En AI kan aldrig vara grundad i verkligheten, det är en ontologisk omöjlighet. Dum fråga eller ej så är det ett filosofiskt korrekt svar.

Detta kan vara en platonisk jämförelse av två människor med olika tillgång till verkligheten men felet du gör är att du jämför en AI (bot) med människa. Därför blir det dumt och ofilosofisk.