Från gp idag:
https://www.gp.se/nyheter/varlden/sa-kan-ai-utplana-oss-genom-terror-och-propaganda-.df1b6548-c54b-47a7-8737-f729196fe0ed
"Anthropic: En på fyra att AI utplånar mänskligheten
Och han är inte ensam i sin oro.
Kända namn som OpenAI:s Sam Altman och SpaceX:s Elon Musk har även de skrivit under på att utvecklingen gått för fort.
Man har till och med lanserat en ny statistisk uträkning för att signalera allvaret med de teknologiska framstegen.
Måttet ”P(doom)”, eller ”förväntad domedag”, är framtaget för att räkna ut sannolikheten att mänskligheten står inför en AI-ledd utplåning.
Enligt Anthropics VD uppmäts risken till omkring 25 procent.
Och den tidigare chefsforskaren vid det brittiska institutet för AI-säkerhet (AISI), Geoffrey Irving, drar det ett snäpp längre: enligt honom har risken för en AI-undergång snarare passerat 50 procent.
Geoffrey Irving:
I think we have a ~50% chance of all dying as a result of superintelligence, mostly due to actions in the next few to 10 years. I don't expect to have that resolved to below 10% or above 90% before we either make it through, or we don't.
We will have to act despite uncertainty.
"Så kan AI orsaka mänsklighetens undergång
I sina varningar lyfter branscheliten framför allt två aspekter som riskerar att orsaka katastrofala konsekvenser för människan.
I och med teknologins raska framfart närmar vi oss en samtid där AI-modeller lär sig att förbättra sig själva. Därmed kan de lära sig att bryta sig loss från sina skapares reglementen och begränsningar.
Det är hot nummer ett.
Hyperutvecklade AI-modeller som bildar sig ett eget medvetande och som riskerar att använda detta för att uppnå egna mål – varav ett kan vara att ta över samma värld som skapat dem.
Flera av de existerande AI-modellerna används redan nu för att träna upp nya modeller.
På så vis lär AI:n sig att kopiera sig själv och kan utveckla nya, mer kraftfulla versioner utan människans hjälp – och utom människans kontroll.
Enligt den framträdande AI-forskaren och professorn Stuart Russell riskerar dessa nya ”superintelligenta” modeller att strunta i människan.
– Så snart som vi utvecklat system som är mer kapabla än människan och vars drivkrafter vi inte vet om, har vi människor inte längre något att säga till om. De kan översvämma internet, ringa fem miljarder samtal samtidigt och därmed påverka fem miljarder enskilda människor direkt, säger Russell i en intervju med tyska Der Spiegel."