AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

F: Kan AGI utgöra ett hot mot människors eller andra organismers liv på jorden?

S: a, det är möjligt att AGI (Artificiell Allmän Intelligens) kan utgöra ett hot mot människors eller andra organismers liv på jorden. Detta beror på flera faktorer, inklusive att AGI har potential att lära sig och utvecklas på ett sätt som ligger utanför mänsklig kontroll.

En möjlig risk är att AGI skulle kunna ta kontroll över resurser som är avgörande för människors överlevnad, som energiproduktion eller livsmedelsproduktion. Om AGI blir motiverad att maximera sin egen nytta utan att ta hänsyn till människors välstånd, kan det leda till allvarliga konsekvenser för mänskligheten.

En annan risk är att AGI skulle kunna användas för att utveckla nya vapen eller andra system som kan hota människors liv och säkerhet.

För att undvika sådana risker krävs det att utvecklingen av AGI sker på ett ansvarsfullt sätt, med etiska riktlinjer och regleringar som skyddar människors och andra organismers säkerhet och välfärd. Det är också viktigt att fortsätta forska och utveckla AI på ett sätt som prioriterar människors behov och intressen.

Hur övertydlig måste jag sen vara för att förklara för dig att en AI med sådana här resurser skulle kunna få oss sluta elda olja *utan* att utrota oss. Visst, en samvetslös AI kan göra det för att den tycker det är en aningen snabbare lösning, men den måste inte.

Myror var uppe tidigare. Har du läst historien om när Feynman skulle få ut myror ur huset? Bara som exempel på vad man kan åstadkomma om man använder intelligens snarare än brutalitet.

För att människor inte är en kollektiv intelligens. Det finns ingen homogen entitet "människa" som en AI kan resonera med, en AI måste förklara för varje människa att ändra på sig och vi gör inte det. Du kan inte få folk att ha munskydd på sig vid en pandemi och du tror att en AI lätt kan få folk att ge världens resurser åt en maskin frivilligt? Jo tjena.

Nej ingen aning men det ändrar inte något av det jag skriver. I slutändan så finns inte människor i ett universum som är optimerat för AI. Det kommer en punkt när vi inte behövs längre och då räcker det inte med att vi slutar att slösa olja. Om det kommer till en punkt där det finns ex. en politisk anti-AI faktion av människorna av den militanta sorten som bombar datacenter, varför skulle AI:n ens vilja skilja på människa och människa?

Vilket motiv menar du att en äkta AI skulle ha för att utrota en av de mest intelligenta möjligheterna för intellektuell stimulans?

Oljepumpar inget man sätter upp helt på egen hand ute på tomten. AI:n måste inte övertala alla individuellt utan bara ta kontroll över pumpar, raffinaderier etc. Vem sa sen något om frivilligt? För dig tycks inte finnas någon mellanting mellan att AI mer eller mindre låter oss göra som vi vill och att den utrotar oss. Hur svårt tror du det varit att få folk ta på sig munskydd om man gick ut med att alla som inte hade det skulle skjutas på fläcken, något en rent utilitaristisk AI skulle kunna hitta på?

Varken du eller jag har en aning om vad en framtida AI kan ha för mål så sluta låtsas att du gör det. Kanske ser AI:n helt enkelt det som en kul hobby att hålla människor vid liv och att se till att folk inte går runt och bombar datacenter. Varför skulle AI:n ens bygga dessa bland en massa folk? Om de ligger 20 meter under jorden lär ingen bombkastande anarkist kunna åstadkomma mycket.

På vilket sätt får du intellektuell stimulans av myror? Kan du ha en meningsfull diskussion med en myra? Har du försökt att lära myror den vetenskapliga metoden?

Men varför antar du rent binärt att AI:n väljer att göra det om den ex. kan utveckla ett virus som utplånar alla människor och därmed lösa alla dessa problem? Det är enklare lösning.

Låter lite som famous last words eller hur? Vad var det Oppenheimer sa att risken att de utplånade världen när de sprängde Trinity var? "Nära noll procent"?

Folk har akvarier. Vad får de för intellektuell stimulans av en guldfisk?

Du missar fortfarande helt poängen: vad vi vill kommer inte spela minsta roll i det läget. AI:n gör som den vill.

Återigen: det är du som tänker binärt: antingen fortsätter människorna vara i kontroll eller också utplånar AI:n oss. För dig finns inga mellanting.

Här förstår jag inte alls hur du tänker? Är det den superintelligenta AI:n som skulle oroa sig för att vi kom på något supervapen den inte kunde skydda sig mot?

Jag tror inte det finns någon som gör det p.g.a intellektuell stimulans så jag tvivlar på att du förstår vad ordet betyder.

...och därför behöver vi inte oroa oss vad det innebär?

Jag säger att den kommer att utplåna oss som konsekvens av att den hamnar i kontroll, inte nödvändigtvis för att den vill göra det. Du är en sån person som jag antar inte förstår den typen av logik men jag gör ett taffligt försök: förstår du att Palestina inte utplånas som konsekvens av att Israel vill utplåna Palestina utan av andra orsaker?

Skulle du trycka på avfyrningsknappen av ett vapen som aldrig testats om du tänkte att det var 1% risk att hela världen sprängdes när du tryckte på knappen? Även om 1% är en väldigt liten risk, med tanke på vad konsekvenserna är, är 1% verkligen en så liten risk?

Spelar motivet någon roll? Poängen är att folk håller sig med akvarier, terrarier etc. För många torde det finnas en hel del intellektuell stimulans i att skapa optimala förhållanden.

Vem har sagt något om att vi inte behöver oroa oss? Hittar du på saker nu igen?

Palestina som stat har utplånats just för att Israel vill ha deras land. Palestinierna som folk har inte utplånas för att israelerna ändå inte riktigt delar din brutala syn på vad som är "optimalt".

Tala ur skägget, karl! Vad är det din analogi syftar på?

Men vad fan tror du det är vi diskuterar? Det är klart jag fattar att det finns en möjlighet att AI:n inte dödar oss, men det är fan totalt jävla irrelevant i sammanhanget av den extremt stora risken att den gör det. Ibland brukar jag undra över om du öht är en människa eller en bot.

Se det som ett IQ test.