Ledande AI-forskare: vi förstår inget om AI

Håller ni fortfarande på och käbblar om att LLMs skall ta över världen

Alla har väl fattat vid det här laget att det på sin höjd är hjälpsamt till att använda meningslösa ord eller roliga filter på bilder.

Det faktumet att man "inte vet" hur det fungerar betyder bara att resultatet är skapat av så många sammanhängande operationer att det är omöjligt att återskapa det, och det gör det på många sätt också värdelöst.

Forskare som försöker reproducera sina resultat kan inte det eftersom antalet variabler och utfall blir för stort.

Så det kan vara bra till meningslösa filter och bilder där det inte spelar någon roll.

- - - -

Blir A I en gud?

Då får nog utvecklingen snabbas på... Var kontakt med en kundtjänst för veckan sedan; kontaktformuläret var intaktivt. Såg en chat. Skrev "Kontaktformuläret var dött, så jag provar chatten i stället bla bla (drog mitt banala ärende). Väntade 4-5 minuter tills "Kim enters the chat" - efter ytterligare 4-5 min så svarade "hon"; "vem är det som har dött?" (true story).

Håller ni fortfarande på och käbblar om att LLMs skall ta över världen

Alla har väl fattat vid det här laget att det på sin höjd är hjälpsamt till att använda meningslösa ord eller roliga filter på bilder.

Det faktumet att man "inte vet" hur det fungerar betyder bara att resultatet är skapat av så många sammanhängande operationer att det är omöjligt att återskapa det, och det gör det på många sätt också värdelöst.

Forskare som försöker reproducera sina resultat kan inte det eftersom antalet variabler och utfall blir för stort.

Så det kan vara bra till meningslösa filter och bilder där det inte spelar någon roll.

Håller ni fortfarande på och käbblar om att LLMs skall ta över världen

Alla har väl fattat vid det här laget att det på sin höjd är hjälpsamt till att använda meningslösa ord eller roliga filter på bilder.

Det faktumet att man "inte vet" hur det fungerar betyder bara att resultatet är skapat av så många sammanhängande operationer att det är omöjligt att återskapa det, och det gör det på många sätt också värdelöst.

Forskare som försöker reproducera sina resultat kan inte det eftersom antalet variabler och utfall blir för stort.

Så det kan vara bra till meningslösa filter och bilder där det inte spelar någon roll.

Tycker du låter som en gnällig gubbe. LLM är en rätt slug uppfinning. Kommer garanterat förändra internet inte minst. Google sök är snart ute. Vilket va hela grejen i många år för information.

Vi förstår inte hur AI fungerar, vi förstår inte alls. Säger Dario Amodei, fd chef över forskningen på Open AI, nuvarande chef för konkurrerande AI företaget Antrophic som satsar på att skapa en säker AI.



Så varför förstår vi inte AI och LLMer? Pga de är odlade, framvuxna, inte skapade av oss. Komplexiteten är dessutom otroligt hög, för hög för att den mänskliga hjärnan kan förstå. Precis som vi förstår ytterst lite, kanske max 1%, av vår egen mänskliga hjärna.

När som helst kan någon även bygga en fundamentalt ny slags AI, som inte är en LLM modell utan totalt annorlunda, vilket gör att forskningen börjar om igen från noll vad gäller förstående.

Frågeställning:

Är det vettigt att låta en teknologi mänskligheten inte alls förstår, ta över allt mer kvalificerade uppgifter i samhället?

Kan man lita på något man inte förstår?

Vilka är riskerna med att låta något vi inte förstår, som vi inte förstår vad den har för mål eller värderingar, sköta vår ekonomi, vår sjukvård, vår utbildning, osv allt som visionen är att AI ska fullända åt oss?

Vi förstår inte hur AI fungerar, vi förstår inte alls. Säger Dario Amodei, fd chef över forskningen på Open AI, nuvarande chef för konkurrerande AI företaget Antrophic som satsar på att skapa en säker AI.

Frågeställning:

Är det vettigt att låta en teknologi mänskligheten inte alls förstår, ta över allt mer kvalificerade uppgifter i samhället?

Kan man lita på något man inte förstår?

Vilka är riskerna med att låta något vi inte förstår, som vi inte förstår vad den har för mål eller värderingar, sköta vår ekonomi, vår sjukvård, vår utbildning, osv allt som visionen är att AI ska fullända åt oss?