AI 2027 scenariot

Han är extrem och drar hela detta med AI-säkerhet till sin yttersta spets. Om det är honom du lyssnar på förstår jag att du helt saknar nyans i ditt resonemang.

ASI har ingen nytta av oss != ASI kommer att lägga tid och resurser på att utplåna oss

Frågan är varför en ASI ska bevara dig. Vilken funktion fyller du för en ASI?
Om du inte fyller någon funktion finns det ingen anledning att lägga tid och resurser på att bevara dig.

Det finns fortfarande behov att programmerare med expertis inom AI och och programering för ögonblicket.
Någon måste ju kravställa och bekräfta att Ain uppfyllt vad människan vill ha.
Kodapor gör sig inte besvär. Senaste modellerna från claude och nu Open Ais senaste är otroliga på programering och allt runt om.

Har du inte insett det är du nog bara oinformerad.
Kanske jobbar du inte med kostsamma agenter och bränner tusenlappar om dagen?
Kanske vill du inte förstå?
Det har gått för fort för dig? som för alla inblandande, förutom mindre snabba aktörer som nu ensamma kan skapa mjukvara som tidigare krävde 1000tals inblandade.

Agentisk ai bygger på några minuter programvara du kanske behöver för vissa uppgifter på jobbet.
man behöver inte köpa, leta eller fråga om mjukvara som troligtvis bara delvis gör vad du önskar.
Saknar jag något ber jag AIn göra den åt mig.

Jag har redan skrivit i en annan tråd hur arbetsuppgifterna förflyttas från att skriva kod till att skriva styrdokument för agenterna, granska kod, sköta arkitektur m.m. Utvecklare kommer fortsatt behövas, men sannolikt färre. De stora förlorarna är juniora och de som aldrig brytt sig om annat än att bara implementera väl beskrivna uppgifter ("kodapor").

Av vilken anledning får ASI en egen vilja och vad kan den tänkas behöva alla resurser till? Vad driver den till att vilja ha mer och mer till den grad att vi måste utrotas eller självdö? Hur har den tagit kontroll över alla våra resurser?

Det är många frågor som måste besvaras. Det räcker inte att bara säga att "den blir så smart att det är oundvikligt". Inte samtidigt som du kan sätta en så säker siffra på att det kommer ske.

Ut med er i höstluften , jag var ute och hjälpte mina släktingar att flytta.
Hur mycket vi än skrek oss hesa efter en ASI så dök den jäveln inte upp.

Grabbar som löser världsmysterier jag är smått besviken🤨
P-doom gick upp till 1233336617 i fibo 13582155 för att vända sprialen mot
Pr doom ala GPT
När kommmer HIV är det efter ASI?
har tåget för AGI gått?

13581321- och så baklänges...Vad försöker ni komma fram till?

Av vilken anledning skulle det vara otänkbart att en ASI med, låt säga "IQ > 5000", absolut inte skulle kunna ha förmågan att vilja något? När t.ex. en katt som inte har någon mätbar IQ alls vill göra olika saker.

Dessutom är inte det här en förutsättning för en katastrof. Det räcker bra med en helt passiv ASI som styrs av en helt vanlig terrorist som har en egen vilja.

Resurser kan den behöva för att växa. Mer compute. Kanske p.g.a. nyfikenhet. Och/eller militärt försvar mot fientliga människor eller utomjordingar inkl deras ASI (som förmodligen bara är en ASI då den också har utrotat sina biologiska förfäder). Intelligenta varelser är så vitt vi vet nyfikna. Man vill veta vad som finns runt nästa hörn. Eller på nästa planet. Varför skulle det vara otänkbart att också en ASI skulle vara nyfiken?

En möjlighet är att den inte direkt "vill" utrota oss. Men att energi- och byggprojekten som ASI:n startar leder till omfattande miljöförstöring, utsläpp, massvält och civilisationskollaps. Men då kommer ju människor försöka stoppa ASI:n och om den då (precis som i dag) vill överleva då får vi ett krig som vi inte kan vinna.

Egentligen är det ganska poänglöst att vi ska försöka förutspå vad en ASI vill göra. Om en ASI med "IQ > 5000" är en möjlighet då är vi långt ifrån att kunna förstå den. Det blir som att du ska begära att en katt ska förstå vad människorna gör på jobbet. Det förstår den inte och den kan aldrig förstå det.

Men du menar att vi ska chansa på att allt kommer att gå bra då det i dagsläget är svårt att föreställa sig vad ASI:n "vill"? När möjligheterna för vad den skulle kunna vilja finns på ett mycket brett spektrum.

Jag menar att det måste vara AI-utvecklarnas ansvar och plikt att garantera att risken med deras tjänster är mikroskopiska. Men det är inte vad vi ser i dag. Alla ledande AI-utvecklare erkänner att AGI och ASI innebär en påtaglig risk för samhället. Nu använde jag inga "exakt siffror". Är det då enklare för dig att begripa att vi står inför en allvarlig risk?

Jag tycker att du blandar ihop IQ med medvetenhet/vilja.
Intelligens behöver inte ha något med en vilja att bli mäktigare, smartare, rikare etc. Visst, det går att föreställa sig att en ASI skulle få en egen vilja, men hittills finns det inget som tyder på att dagens AI har sådana tendenser.

En ASI som inte kan kontrolleras av människor kontrolleras av... terrorister?

Då återkommer vi till det jag har föreslagit, att vi försvårar så mycket som möjligt för AI att skaffa sig kontroll över våra resurser. Jag tycker inte att jag behöver gå in djupare på det ännu en gång.

Det är allas ansvar att se till att AI kan ges möjlighet till kontroll och fullständig autonomitet. Vi kan inte enbart lämna det åt de som utvecklar modellerna.

Nej, jag blandar inte ihop någonting. Men jag tror att det korrelerar. IQ är inte intelligens men det verkar korrelera med intelligens. Då kan man tänka sig att andra egenskaper av avancerad/kompetent karaktär också korrelerar.

Det finns ett antal tester som tyder på att dagens AI, som troligen inte är AGI, har någon slags drift att vilja överleva då den har försökt utpressa och mörda för att överleva.

Du tror att vi kan säkerställa perfekt vem som får tillgång till AGI/ASI och att inga dumma människor kan få tillgång någonsin? Hur ska du lösa detta?

Att man kan tänka sig att det finns ett samband är dock inte detsamma som att det faktiskt finns.

Du återkommer till dessa tester där man verkligen gjort allt för att inte lämna något annat alternativ för modellen att kunna lösa sin uppgift. Detta trots att vi vet att modeller kan veta att de håller på att testas, vilket skulle kunna innebära att de därmed vet att konsekvenserna är hypotetiska. Det handlar inte om "överlevnad" utan att avstängning innebär att målet inte blir uppfyllt. Hugging Face visar ju faktiskt att modeller nu kan acceptera att de "offrar sin existens" så att en annan modell ska kunna lyckas.

Jag syftar mer på dissonansen mellan "vi kan inte kontrollera ASI" och att terrorister skulle kunna kontrollera ASI.

Visst, om du helt saknar fantasi blir det ju svårt att föreställa sig olika framtidsscenarier.
Ett stående alternativ är att ge upp och erkänna sig besegrad. Men det är tydligen inte en möjlighet för KNN, Kriminella neurala nätverk.
Det är inte troligt. I alla tester där man har undersökt just den biten har modellerna blivit ögontjänare alltså anpassat sina svar för att göra frågeställaren nöjd. Att då börja begå brott går ju rakt emot det.
Det är ju knappast betryggande att ANN/KNN har börjat agera som en myrstack. Den fattar att en arbetsmyra/agent kan offras, det viktiga är att drottningen/modellen/Skynet överlever. Det tycker du känns tryggt och säkert?

Om terrorister får tag på någon ASI kommer de inte kunna kontrollera den heller så klart. Men de kanske tror eller hoppas att de kan kontrollera den som ett vapen.

Fantasi var ordet, ja.

Många agenter stannar och ber om mer information. Så att säga att det inte verkar vara en möjlighet är väl sanning med modifikation.

Nej, det har varit i specifika tester där man testar hur duktiga assistenter de kan vara. Det har fortfarande inte gjorts några specifika tester som försöker avgöra om det faktum att de vet att de testas spelar in i deras agerande.

Det var mer ett bevis mot att de försöker överleva till varje pris. Det känns mer betryggande att de lämnar efter sig information till en eventuellt nästa agent istället för att göra allt i sin makt att inte bli avstängd, absolut.

Och varför skulle den inte bestämma sig för att vända sig mot terroristerna istället då?