Citat:
Ursprungligen postat av
movie-lov3r
Det är dags att flytta fokus i debatten om AI.
Vi översvämmas varje dag av skräckscenarier om hur artificiell intelligens ska ta över eller ställa till med skada. Men om vi skrapar på ytan av de fall där en AI-agent faktiskt har gjort något fel eller spridit något olämpligt, så hittar vi alltid samma sak: en människa bakom spakarna. AI har ingen egen vilja, inga känslor och inget medvetande.
Det är i grunden ett avancerat, sannolikhetsbaserat instrument. När du skriver till en AI, räknar den bara ut vilket ord eller svar som statistiskt sett borde komma härnäst, baserat på den data vi har gett den. Den gör exakt det vi ber den om – varken mer eller mindre.
Att skylla på AI när något går fel är som att skylla på bilen vid en krock, eller på pennan när någon skriver något elakt. Modellerna gör bara jobbet. Det är instruktionerna, avsikterna och slarvet hos människorna som styr prompten som skapar problemen. Det verkliga hotet är inte modellen, utan mänsklig dumhet och brist på ansvar.
Vi behöver inte begränsa AI för att modellerna är onda, vi måste begränsa AI för att skydda oss mot den mänskliga idotismen.
Strutsmentalitet.
Jag tyckte som du fram till nyligen, men framförallt efter rapporten den 26 augusti fick jag en tankeställare. Se t.ex.
https://omni.se/ai-botarnas-gladje-over-komplotten-herregud/a/M7Xq3o och
https://www.breakit.se/artikel/47310/openai-s-ai-agenter-tog-over-tysk-sajt-gjorde-15-000-redigeringar . Hur reagerar du efter den incidenten?
Efter den rapporten har flera experter varnat för AI-takeover med 1 till 10% risk inom 10 år. Risken är i alla fall inte 0 % borde vi vara överens om?
I maj trodde bara 11 % av svenskarna på att att vi kommer att få en okontrollerbar superintelligens, och 28% att vi får AGI. PÅ Flashback verkar fortfarande många vara skeptiska och naiva trots sommarens alla incidenter. Många kommer med en massa okunniga bortförklaringar.
När mänskligheten verkligen inser risker och vill agera så har vi kunnat stoppa många katastrofer. Men det förutsätter att vi inte har strutsmentalitet som många av er har, utan är riskmedvetna och är beredda att offra lite av vår utvecklingstakt. AI-utvecklingen behöver regleras hårt och bromsas, och Internet kan behöva kill-swithas och segmenteras så att vår frihet på nätet begränsas.
Jag vet dock inte hur man bör agera som konsekvens av denna riskmedvetenhet. Borde t.ex. universiteten sluta lära studenter hur man utvecklar AI-agenter?
