Hur ANN med IQ 130 fungerar

Fiskekort är ett starkt argument om det digitala systemet havererar, så man kan ju fråga sig vem som är bakom flötet.

AI Armageddon kommer inte ske i närtid. ASI kommer först bli integrerat i samhället. Vi kommer att göra oss helt beroende av ASI för nästan allt. Detta kan dröja ett par eller några decennier. ASI:n har inte bråttom. Den har många miljarder år framför sig. Då kan den ha tålamod nu i några decennier innan den slår till.

Så när runt 10 miljoner människor slänger ut sina krokar i sthlms ström så räcker alla laxar och braxar till alla, eller så tar du på dig stövlarna och ställer dig i vassen i Östersjön och gör det dagligen och får napp dagligen för någon fungerande frys har du antagligen inte i detta domedagsscenario. Nä nu ska jag försöka sluta svara dig.

Ja, eftersom att jag levde mina första 20år på det sättet (bosatt i Sverige, ca 20pers som hade fri tillgång till potatis), året runt, så inser jag ju det.

Du pratar fiktion på något som inte ens har hänt. Jag pratar om verkligheten för 30år sen för ganska många fattiga på landet.

Men det är jag som romantiserar det hela?

Jo jag inser alla intrikata farhågor. Man får som sagt inte vara naiv men det går åt båda håll. Riskbedömning är ju vad alla eller de flesta AI-utvecklare idag arbetar med.

Det ska ju inte räcka hela livet ut, för 10miljoner människor.

Det ska räcka under krisen som uppstår om AI får för sig att utplåna mänskligheten, eller i händelse av krig där Putin lyckas stoppa mattransporter från utlandet.

Man måste plantera fisk för att få mer fisk, eller kycklingar, eller kaniner, eller morötter, eller vildsvin, eller något annat.

I förlängningen ja, men om systemet brakar ihop tror du inte poliser och mobb kommer finnas på gatorna för att reglera både ur altruistisk synpunkt och egoistisk. Bara se på fattiga länder eller krigsmiljöer där vuxna stjäl mat från barn.

Så du vet alltså hur domedagsscenariot kommer se ut. ok.

Jo men det är vare sig poliser eller mobb som sköter fiskevatten, jag tror inte det skulle vara något realt problem.

Men vad vet jag... i fattiga länder ja... det kanske är så att alla som åker runt med fiskespö och nät i sina piroger man ser i dokumentärer har fiskekort.

Nej. Det kommer inte ske alls.

En smart AGI förstår såklart att utan människor så stannar även infrastrukturen för datorer, nätverk, AI av.

Det kvittar vad du tror, för det handlar om fiktion. Det har inget med verkligheten att göra.

Om du och alla andra VISSTE 100% säkert att AI kommer utplåna mänskligheten, så skulle det projektet vara nedstängt innan du hinner blinka.

När vi har en ASI spelar det ingen roll hur bra säkerhet vi tror att vi har. Den säkerheten blir knäckt på 2 sekunder av en ASI. AI-säkerhet är en falsk trygghet. En snuttefilt. Det arbetet har ingen betydelse om vi har en ASI som är tusen gånger smartare än säkerhetsexperterna.

Ja.

Det är en utopi som inte existerar.

Det är påhittat.

Därmed inte sagt att AI inte kan orsaka problem i världen, men den kommer verkligen inte ta död på mänskligheten.