Är en AI-bot instängd i "Platos grotta"?

Flera bra svar i tråden, imho.

Ingen AI har ju direkta erfarenheter av någonting, vilket ju avslöjar sig ibland i en del roliga svar, t ex på "Jag ska tvätta bilen och har 50 meter till närmaste biltvätt, bör jag ta bilen eller gå?" Människor förstår vad det faktiskt handlar om, medan AIn letar i texterna från sin massiva maskininlärning och gärna fastnar vid allmänna rekommendationer om att det är bra och hälsosamt och miljövänligt att gå, och så blir det ett lite tokigt svar. Den sitter fast i sin grotta, upplever ingenting, och har inte heller något medvetande, MEN är iaf en fena på att hitta mönster i stora datamängder, vilket ju också kan vara väldigt användbart.

Om grott analogin nu är så bra; När man instängd i en grotta så kan man teoretiskt "komma ut".
Hur översätter du det till AI? Vilka egenskaper har en sådan AI? Är det förstahands upplevelse av verkligheten?

AI kan såklart vara användbart till att hitta saker, sammanfatta, hjälpa lära ut en del, ge råd om vissa saker.

Men sen att den tolkar saker fel, och i vissa situationer hade kanske en människa också gjort det. Men jag kollade på källan till något botten påstod var en verklig anekdot. Jag upptäcker då att den källan som för det första inte var så pålitlig, inte riktigt gav belägg för det som påstods. Jag påpekade det, och då övergick botten till att kalla det "en myt".

Sen också att den ibland bara har fel, eller påstod att 30Mt är mer än 50Mt, etc. Så detta att även idag gör bottar ibland stora misstag, och ofta sådant människor ser direkt...

Jo, man kan absolut ge en AI en historia...och den kommer kunna använda den på ett intressant och kanske övertygande sätt.

Skriver du "jag växte upp på 70-talet, mamma rökte i trapphuset", då får modellen ett helt associationsfält. Rök blir inte bara brand eller cigarett, utan mamma, port, hemkomst, trötthet, klasstillhörighet, nostalgi, obehag, trygghet....vad som helst.
Men det är ändå skillnad på en inskriven historia och en historia som faktiskt format systemet.

För en människa är "rök i trapphuset" inte bara en några ord, en uppgift eller begrepp. Det är lukt, kropp, tidpunkt, plats, minnen, reaktioner, kanske hosta, kanske oro, kanske värme, etc. Begrepp sitter inte bara i ord utan i tidigare perception, handling och situationer. Alltså inte bara "rök betyder X", utan "rök har varit med och format hur kroppen och minnet reagerar".

Således är en promptad/tränad AI-historia mer som en rollbeskrivning. Den påverkar svaret, men den har inte kausalt format modellen genom att systemet varit med om något över tid....vilket är skillnaden mellan att "spela någon med barndomsminnen" och "ha minnen som uppstått genom erfarenhet".

Det är också därför LeCuns world model-spår blir relevant. Han vill alltså bort från att AI bara kan beskriva världen utifrån språk och data, och utveckla lösningar som kan uppfatta ett läge, förutsäga vad som ska hända, observera vad som faktiskt händer och korrigerar sig. Och då börjar historiken bli mer än en bakgrundsbeskrivning och blir i teknisk mening erfarenheter...dvs tidigare interaktioner med omgivningen som påverkar senare förutsägelser och handlingar.

Jo, det är ett Platonsk "grottproblem" att språkmodeller inte kan utföra kausala resonemang, bara textanpassning.....

Nej, det är det inte och du är ironisk men... Du har själv hållit med lite om den biten, att om något inte finns i den data botten har tränats med eller på nätet, så kan botten inte "känna till" alternativt förmedla det. Så på det sättet finns en parallell till en person med begränsad erfarenhet eller som i exemplet med en kille som växer upp instängd i ett rum med bara tillgång till internet.

Ja, jag såg en video med en titel liknande denna, men jag tittade inte på den. Jag funderade inte nämnvärt på vad som menades då det är ganska irrelevant, eftersom en AI-bot ändå inte (enligt vad som påstås) är medveten.

Jag hade dock en diskussion med en chatt-bot där jag ställde en fråga som fick mig att fundera på det... Det var angående vilken mobiltelefon som var först med en viss funktion. Botten hävdade att den eller en av de första, kom ut 2002. Jag hade dock en mobil 2001 som hade denna funktion, så jag visste den botten nämnt inte var den första. Den yrade då om något chip som kom ut 1999, och "erkände" senare (korrekt) i diskussionen att min mobil hade denna funktion redan 2001 (även om den möjligen kom ut tidigare).

Detta fick mig dock att fungera på hur det skulle vara om den informationen inte fanns på nätet. Då skulle botten vara helt "ovetandes" om det, eftersom AI-bottar får all sin information från nätet. Alltså, om något inte finns på nätet, kan botten inte "känna till det"...

Och allt som har hänt i den verkliga världen eller som vi människor upplevt, är inte omskrivet på nätet, även om mycket är det. Men även hur platser är och ser ut, och allt annat kan en bot endast ha kännedom om genom nätet..

Det innebär ju att om någon person, sak, plats händelse eller något annat inte är i något form omnämnt på nätet eller i den data som botten tränats med (vilket i stort utgörs av innehållet på nätet), så existerar detta inte för botten. Så även om en bot kunde bli självmedveten, så begränsas vad den kan veta av innehållet på nätet...

Det innebär ju att den kanske (jämfört med oss) är instängd i "Platos grotta"... Vi lär oss också saker på nätet, men har samtidigt en direkt upplevelse av den verkliga världen. Botten har bara en "upplevelse" av beskrivningar av den verkliga världen. Detta kan kanske säga nog så mycket, men är inte riktigt som upplevelsen av denna, riktiga värld.

Dessutom som jag nämnde, något som inte är omnämnt på nätet, t.ex. en produkt som en gång funnits, är botten helt ovetandes om...

Men vi har ju alltid skapat "avbilder" av världen i form av muntliga berättelser, böcker, målningar, bilder och sedan filmer. Så vi kan läsa något som någon skrev för 2000 år sen, och sätta oss in i hur det var då. Vår läsning och hur vi förstår det, färgas dock av att vi är människor och kan relatera till något människor skrev för längesen på ett sätt som ökar vår förståelse av det.

Jag har också kommit på en analogi i form av två män. Den ene kan teoretiskt allt som finns att veta om sex, men har aldrig haft sex. Den andre har haft sex, men vet inte så mycket teoretiskt om sex. Men vilken av dessa män tror ni, förstår mest om hur det är att ha sex?

Så detta är ju ganska intressanta koncept som begränsar vad en bot (även om den vore medveten) kan veta, känna till och förstå om världen. En mänsklig analogi, vore en person som vuxit upp instängd i ett rum utan att någonsin gå ut, fast med full access till internet. Hans bild av världen hade varit begränsad av informationen som finns på nätet. Någonting utöver detta (eller mycket lite) kan han inte ha kännedom om..

Är dessa intressanta koncept, och får det er att fundera på bottars "kunskap" om världen och hur framtida (även om de är medvetna) bottars upplevelse, kunskap och kännedom om världen, begränsas av vad som finns på nätet?

Vad tror och tycker ni om detta?

Den dagen en artificiell intelligens på riktigt blir självmedveten, självlärande och "levande" så kommer den ju naturligtvis inte begränsa sig till en avgränsad programmiljö heller. Den kommer att nyttja alla världens uppkopplade kameror och sensorer inklusive kameror i våra hem, i våra mobila enheter, övervakningskameror, drönare, kameror i fordon, maskiner, satelliter och så vidare. Den kommer att vara överallt, se, "känna" och uppleva allt. Kommer den sedan skapa en egen kropp till sig själv (Läs: oändligt med kroppar) som kommer att vara vidare överlägsen någon människa? Ja möjligtvis, men tveksamt om den kommer att tycka att detta ens är nödvändigt.

Men som en analogi till vår värld, för att spinna vidare på dina liknelser om kunskapen om omvärlden som en AI begränsad till den information som finns på internet i dagens läge inte kan få, så kan man ju tänka på all den information och kunskap som gått förlorad för oss människor genom åren. All historia, forskning, filosofi, kultur, berättelser och samtidsbeskrivningar som aldrig blivit bevarade eller för evigt förlorats i förstörda stentavlor, pergament och papper. Och innan skrivkonsten uppfanns - all muntlig kunskap som fördes vidare inom begränsade ramar tills folkslag försvann och civilisationer gick under.
Det uppskattas att 97-99% av mänsklighetens samlade historia har gått förlorad. Av den "moderna" människans ca 300.000 år på jorden har skriftlig dokumentation bara existerat i 5-6000 år. Och av den dokumentationen har alltså den stora majoriteten inte bevarats till eftervärlden. Och det som finns bevarat har i många fall skrivits eller omskrivits av en "elit" som suttit vid makten så ingenstans hittar vi ett neutralt beskrivande av skeender eller samtider.

Så, utifrån denna hisnande synvinkel, att vi egentligen bara har "koll" på våra egna närmaste hundratal år bakåt så är vi människor egentligen inte så olika eller särskilt mer upplysta jämfört med de ettor och nollor som är "fångade" innanför datornätverkens begränsningar. Vi lever själva i en liten bubbla på det hav som är vår egen bortglömda historia.

Ja, jag såg en video med en titel liknande denna, men jag tittade inte på den. Jag funderade inte nämnvärt på vad som menades då det är ganska irrelevant, eftersom en AI-bot ändå inte (enligt vad som påstås) är medveten.

Jag hade dock en diskussion med en chatt-bot där jag ställde en fråga som fick mig att fundera på det... Det var angående vilken mobiltelefon som var först med en viss funktion. Botten hävdade att den eller en av de första, kom ut 2002. Jag hade dock en mobil 2001 som hade denna funktion, så jag visste den botten nämnt inte var den första. Den yrade då om något chip som kom ut 1999, och "erkände" senare (korrekt) i diskussionen att min mobil hade denna funktion redan 2001 (även om den möjligen kom ut tidigare).

Detta fick mig dock att fungera på hur det skulle vara om den informationen inte fanns på nätet. Då skulle botten vara helt "ovetandes" om det, eftersom AI-bottar får all sin information från nätet. Alltså, om något inte finns på nätet, kan botten inte "känna till det"...

Och allt som har hänt i den verkliga världen eller som vi människor upplevt, är inte omskrivet på nätet, även om mycket är det. Men även hur platser är och ser ut, och allt annat kan en bot endast ha kännedom om genom nätet..

Det innebär ju att om någon person, sak, plats händelse eller något annat inte är i något form omnämnt på nätet eller i den data som botten tränats med (vilket i stort utgörs av innehållet på nätet), så existerar detta inte för botten. Så även om en bot kunde bli självmedveten, så begränsas vad den kan veta av innehållet på nätet...

Det innebär ju att den kanske (jämfört med oss) är instängd i "Platos grotta"... Vi lär oss också saker på nätet, men har samtidigt en direkt upplevelse av den verkliga världen. Botten har bara en "upplevelse" av beskrivningar av den verkliga världen. Detta kan kanske säga nog så mycket, men är inte riktigt som upplevelsen av denna, riktiga värld.

Dessutom som jag nämnde, något som inte är omnämnt på nätet, t.ex. en produkt som en gång funnits, är botten helt ovetandes om...

Men vi har ju alltid skapat "avbilder" av världen i form av muntliga berättelser, böcker, målningar, bilder och sedan filmer. Så vi kan läsa något som någon skrev för 2000 år sen, och sätta oss in i hur det var då. Vår läsning och hur vi förstår det, färgas dock av att vi är människor och kan relatera till något människor skrev för längesen på ett sätt som ökar vår förståelse av det.

Jag har också kommit på en analogi i form av två män. Den ene kan teoretiskt allt som finns att veta om sex, men har aldrig haft sex. Den andre har haft sex, men vet inte så mycket teoretiskt om sex. Men vilken av dessa män tror ni, förstår mest om hur det är att ha sex?

Så detta är ju ganska intressanta koncept som begränsar vad en bot (även om den vore medveten) kan veta, känna till och förstå om världen. En mänsklig analogi, vore en person som vuxit upp instängd i ett rum utan att någonsin gå ut, fast med full access till internet. Hans bild av världen hade varit begränsad av informationen som finns på nätet. Någonting utöver detta (eller mycket lite) kan han inte ha kännedom om..

Är dessa intressanta koncept, och får det er att fundera på bottars "kunskap" om världen och hur framtida (även om de är medvetna) bottars upplevelse, kunskap och kännedom om världen, begränsas av vad som finns på nätet?

Vad tror och tycker ni om detta?