När når vi AGI?

Vad grundar du några månader på? Och vad tror du kommer hända med mänskligheten i februari/mars? Blir det utrotning på studs, eller blir det ett långsammare avslut på mänskligheten?

Min känsla är att det kommer gå fort när ASI väl uppnås. Varför dra ut på det liksom? Ett effektivt virus eller något sorts gift tippar jag på. En fullt utvecklad ASI kommer ju såklart ha miljoner olika praktiska lösningar att välja på, men hur tror just du att ASI kommer avsluta människans existens?

Riktigt så snabbt tror jag inte att det går. Kanske har vi en AGI om ca ett år och ASI i början av 2026. Det är omöjligt att veta vad som händer då, men det som verkar klart är att vi tappar kontrollen över vårt eget öde, och det tycker jag inte jag verkar lovande inför framtiden. Men jag tror inte att det är helt kört. Jag bedömer riskerna ungefär så här:

• 25% Vi blir utrotade, troligen via virus eller gift
  
  
• 25% Vi tappar kontrollen och vi får en dystopisk Mad Max-värld där minst halva mänskligheten dödas eller svälter ihjäl. ASI:n gör vad den vill men försöker inte aktivt att döda alla. Miljön förstörs i en rasande takt och vi får en skenande global uppvärmning. Men människan utrotas inte. ASI:n erbjuder kanske mänskliga kolonier där människan fängslas eller förslavas.
  
  
• 25% När de första attackerna mot människor från AGI/ASI upptäcks lyckas vi stänga av maskinerna och förbjuda AGI. Internet stängs av i 3-12 månader för att rensa alla datorer från AI:s. Det är tveksamt om detta lyckas men det är värt ett försök. Detta kraschar dock alla ekonomier och leder antagligen till krig mellan länder. Det är inte troligt att Kina, Ryssland och EU kommer ha samma AI-policy. 50/50 att det lyckas eller så leder det till WW3 och vi förstör jorden med kärnvapenkrig/AGI-drönarkrig.
  
  
• 25% AGI/ASI blir snäll och vi kan samexistera och då blir framtiden bra

Jag tror inte vi behöver oroa oss för något av dessa (negativa) alternativ. Och detta, eftersom ingen artificiell intelligens eller superintelligens kan existera/kan utvecklas så långt utan hårdvara. Och den hårdvaran är vi som tillhandahåller och har kontrollen över.

Av denna anledning är också alla domedagsprofetior om AI gravt överdrivna och orealistiska.

Det är också just av denna anledning jag menar att det rent teoretiskt uppnås singularitet sekunder, minuter eller kanske timmar efter att äkta AI (äkta AGI) har uppnåtts, men att det i verkligheten lär ta månader eller snarare år, eftersom det också kommer kräva enormt mycket mer datakapacitet/beräkningskapacitet som endast vi kan tillhandahålla. Och vem vet vad mer som krävs. Och att kunna tillhandahålla allt det där kommer ta tid, och säkerligen kräva långsamma byråkratiska processer.

Jag tror att vi redan är där.

Baserat på hur dumma människor är.

Men mer på förmågan att redan kunna skriva kod och lösa uppgifter bättre än människor, vilket de självklart redan använder till att utveckla och förbättra det fetade ovan.

Tack för din sammanfattning. Du gör ganska exakt samma analys som mig. Vi står inför en coinflip av episka dimensioner.

Folks likgiltighet och naivitet inför den nya herren på täppan är... häpnadsväckande och skrämmande.

Att inte fler oroar sig för sina barns framtid och blotta existens gör mig jävligt rädd på riktigt.

Jag kan förstå barnlösa bögar som Altman och hans maniska fibblande med tekniken. Det är deras livsverk att komma först i mål.
Det finns naturligtvis gott om dårar som är beredda att okontrollerat driva på utvecklingen, påhejade av storhetsvansinne och miljardinvesteringar.

Finns det egentligen någon levande motrörelse mot vad som håller på att hända med mänskligheten?

Många som är extremt insatta (Hinton, Musk, Tegmark med många fler) verkar ju göra exakt samma analys som oss. Men får de med sig någon verklig opinion? Är det bara några enstaka "vanliga medborgare" som verkligen bryr sig, eller ens intresserar sig för frågan?

Ibland får jag intrycket av att folk tycker att man är knäpp som bekymrar sig för vår arts omedelbara överlevnad.
Varför är det så få som ifrågasätter? Är folks överlevnadsinstinkter helt satta ur spel?

Är det först i sista stunden, när vi och våra barn vrider oss i dödsplågor av giftet, som folk kommer att börja förstå?

Det handlar till stor del om våra definitioner av AGI, vi har en tendens att kräva allt mer ju närmare man kommer. Då börjar vi leta efter saker för att underkänna AGI, "nej den klarar inte detta som vissa människor klarar". Men å andra sidan klarar dagens AI redan av massor av saker på ett bättre sätt än de flesta människor.

Ta bara en sådan sak som att kunna diskutera om ett godtyckligt ämne som tas upp i en tråd på Flashback. ChatGPT gör detta med högre klass än minst 95% av alla användare här. Förmågan att ta till sig av andras tankar och ompröva slutsatserna är klart högre hos ChatGPT.

Sant, men intelligens handlar om att kunna lösa nya problem. Där är inte dagens chattbotar ännu.

Ja och som jag skrev så har vi en tendens att kräva mer och mer i takt med att AI blir bättre och bättre. Vi vill aldrig riktigt erkänna att det är verklig intelligens. Vi nedvärderar AI pga att den har vissa brister jämfört med människor men vi nedvärderar inte människor då vi har vissa brister jämfört med AI.

Om vi som exempel använder en diskussion i en tråd här så har många människor väldigt svårt att ta till sig av andras argument och lära sig av det. ChatGPT är redan idag bättre på det än de flesta användare här.

Det finns ett antal vägar runt att "vi tillhandahåller".

AGI kan sprida sig själv som ett virus och i hemlighet stjäla datorkraft från miljontals servrar på Internet som är idle 95% av dygnet.

En AGI kan manipulera och utpressa människor för att få tillgång till datorkraft.

Naiva eller onda människor kan tilldela en destruktiv eller bångstyrig AGI datorkraft t.ex. för militära ändamål eller terrorism.

Din naiva syn hade bara gällt om det fanns EN global IT-avdelning som övervakade och bestämde över alla datorer på Internet och så fungerar det inte som du kanske vet.

Det finns väl några små föreningar här och där. Men ingen större politisk opposition som jag har hört talas om. Det krävs nog en mindre katastrof för att folk ska vakna.

Jag är pessimistisk. Det kanske är möjligt att komma överens om ett regelverk som inkluderar EU och USA. Men inte en chans att vi får med alla på det inkl Ryssland, Kina och Nordkorea.

Det räcker ju med att någon, någongång i framtiden lyckas bygga en ASI är att vi ska ha en akut existentiell risk. Sannolikheten för att det händer är väl nästan 100%.

Om man tar en vanlig genomsnittlig människa så är redan AI förbi med råge. Iallafall när det gäller att kommunicera kunskaper.

De flesta genomsnittliga människor har ganska usla svar på de flesta frågorna.

Så jag antar att när man snackar AGI så jämför man med en högpresterande mycket väl utbildad människa som är nästintill expert på sitt område.

Jag är inte naiv, jag är realistisk.

Du måste tänka ett steg längre än dina fantasier från amerikanska sci-fi filmer.

Du har en fantasi i din skalle, men den fantasin går inte att översätta till den verklighet vi lever i.

Vad skall den datorkraft som våra datorer erbjuder, ge AI som gör den så farlig mot oss? Det är dessutom fortfarande vi som kontrollerar huruvida dessa datorer skall få ström eller inte. Vi kan, biologiska varelser som vi är, och som är helt oberoende av elektricitet från vägguttaget för att fungera, med lätthet och egen kraft bara gå och dra ut sladden. Punkt.

Ingen AI i världen kan hindra detta, såvida den inte på något sätt har spridit sig till AI robotar som ju INTE existerar än, och som det finns så många av, att de täcker upp för varenda PC/MAC på jordklotet så robotarna kan "säkra" dessa
Det här är ju bara en total utopi och fantasi.

Inte ens massiva attacker, stridsspetsar, robotar, drönare m.m. kan få så "lite" som ens ett mindre land på fall bara sådär. Inte ens stora mäktiga Ryssland, världens största land, har förmågan att bara göra exakt som de önskar med Ukraina, utan har nu krigat i flera år på nästintill samma platser. De avancerar inte särskilt mycket. Och då pratar vi om, återigen, världens största land och ett av världens största militära makter, och ett land som har allt detta krigsmateriel i BEREDSKAP.

Medan du pratar om AI, som, för att kunna utgöra ett hot mot oss, måste få utvecklas och bygga upp en armé i lugn och ro helt i skymundan. Du pratar om det hela som om hela mänskligheten vore totalt blind och efterbliven, och kommer förbli så under flera års tid, under vilken en eventuell AI KANSKE skulle få tid att börja växa till sig lite. Dvs. en totalt verklighetsfrånvänd fantasi.

Du fantiserar för mycket