Ledande AI-forskare: vi förstår inget om AI

Vi förstår inte hur AI fungerar, vi förstår inte alls. Säger Dario Amodei, fd chef över forskningen på Open AI, nuvarande chef för konkurrerande AI företaget Antrophic som satsar på att skapa en säker AI.


Så varför förstår vi inte AI och LLMer? Pga de är odlade, framvuxna, inte skapade av oss. Komplexiteten är dessutom otroligt hög, för hög för att den mänskliga hjärnan kan förstå. Precis som vi förstår ytterst lite, kanske max 1%, av vår egen mänskliga hjärna.

När som helst kan någon även bygga en fundamentalt ny slags AI, som inte är en LLM modell utan totalt annorlunda, vilket gör att forskningen börjar om igen från noll vad gäller förstående.

Frågeställning:

Är det vettigt att låta en teknologi mänskligheten inte alls förstår, ta över allt mer kvalificerade uppgifter i samhället?

Kan man lita på något man inte förstår?

Vilka är riskerna med att låta något vi inte förstår, som vi inte förstår vad den har för mål eller värderingar, sköta vår ekonomi, vår sjukvård, vår utbildning, osv allt som visionen är att AI ska fullända åt oss?

Det är väl alltid riskabelt att lägga alla ägg i en korg.

Svårt att säga när A I når singularitet eller får egna agendor.

Om A I tränar på allt som skrivs eller är digitalt finns det gott om material som inte är smickrande för människor. Hur ställer sig en A I till olika problem människan skapar där problemet också bibehålls av människan?

Om man ser till planetens bästa är ju människan som en ohyra eller parasit. Vad tycker A I om det?

Eller kommer A I briljera och lösa våra problem?

Blir A I en gud?

Kan man lita på något man inte förstår? Tja, i 1 miljon år litade människorna på årstidernas cykler trots att man inte ens förstod att jorden roterar runt solen. Ett tag trodde man till och med tvärt om, att solen roterar runt jorden. Det är alltså resultatet som räknas.
(Hur många förstår hur en bil fungerar? Ändå kör vi runt med dem som om det vore "säkert" att den bromsar när vi vill).
Så svaret på den frågan är väl definitivt: "JA!"

Sedan kommer det väl en tid då AI-algoritmerna börjar få ett eget liv och ett eget medvetande. "Singularity-moment". Men det kan inte ske med de algoritmer vi har idag.
Dagens AI svarar bara på dina frågor. Den tar inte egna initiativ, den utvecklas inte utan vår inblandning, den har inget medvetande.
För 50 år sedan, när kalkylarket kom, tyckte folk att den hade någon form av "intellilgens". För hur kunde den annars veta hur stor månadskostnaden var vid ett annuitetslån (till exempel). Det var liksom lite magi att man matade in några belopp och genast hade den svaret!
ChatGPT och LLM i allmänhet fungerar på samma sätt, bara med mer datorkraft.
Så riskerna är samma som med vilken programvara som helst. Den kan innehålla fel, den kan svara fel, den kan användas där den inte passar att användas.

Slutligen: Kan man låta dessa algoritmer ta över viktiga uppgifter i samhället?
Där blir det lite darwinism: Några kommer försöka, Amish och andra kommer kämpa emot. Vi får väl se vem som vinner.

PS! En dag kommer TS farhågor troligen besannas. men antagligen inte under vår livstid. DS!

Det låter precis som farhågorna med Internet, men digitaliseringen är nu en del av hela vårt samhälle. Vilket inte varit smärtfritt, utan genom evolution har det växt fram utan objektiva fakta eller ett tydligt mål. Det har gjorts fel och regleringar har införts, hur kommer AI skilja sig från den utvecklingen?

Internet är väl en infrastruktur och AI något annat?
Men jag tror AI kommer effektivisera men också göra oss medvetna om att det finns en mystik. Ta bara detta med kvantdatorer, hur fungerar de? Finns det fler dimensioner?

Nja, internet är ju mer än infrastruktur. Och i dagsläget är AI beroende av människans interaktion, den har inget eget medvetande eller egen vilja. Det är en programmerad maskin utan känslor. Tyvärr så ger ju vetenskapliga framsteg effekten av att avmystifiera verkligheten. Och hur kvantdatorer fungerar är en annan historia, precis som fler dimensioner(vilket just nu är en hypotes för att rädda matematiken som ska förklara fysiken).

Varför särskriver du AI? Är du störd, eller?

Vi förstår inte hur den mänskliga hjärnan fungerar heller. Ändå fattas alla beslut i samhället av mänskliga hjärnor. Är det vettigt?

Tack för frågan, jag är nog normalstörd men tack för omtanken det värmer!

Trams! Detta är personer som är tyngt investerade i AI, de hypear upp det vid varje tillfälle. "Soon something BIIIG is gonna drop! This is actually insane! Broo AI is the future"

Exakt. Det är bara det att detta trams, som du säger, är uppbackat av biljoner eller triljoner dollar. De ska nå ut med det till varje pris. AI är på väg att förstöra internet, men det är människor som fattat besluten att placera AI på piedestal. Kolla bara på Youtube vilka videos som hamnar högt upp, AI-skit nästan bara, AI-skit som ingen kommenterar, ingen orkar titta på, men nu har Google bestämt att det ska vara så, och då är det så.

Nej, varför skall vi lyssna på Dario Amodei eller för all del Geoffrey Hinton, vars forskning ligger till grund för hur AI är uppbyggt? Det låter väl dumt.

Helt ärligt, svaren i tråden visar på ett tydligt sätt exakt vad som står i rubriken - vi förstår inte vad AI är eller hur det fungerar, hur det kommer utvecklas osv. Att likna fenomenet AI med en bil eller ett kalkylprogram haltar ganska kraftigt, milt uttryckt.

Vi står sannolikt inför den största revolutionen i mänsklighetens historia. Har man börjat använda sig av AI verktyg förstår man vilken enorm potential som finns. Och då har vi bara skrapat på ytan. Kombinerar man sedan en högutvecklad AI med en kvantdator kan vi nog få svar på det mesta genom extremt kraftfulla beräkningar, simuleringar, slutsatser osv.