AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Ja, detta med moral är intressant. En del hävdar ju att AGI kommer att få en god moral när psykologerna ska uppfostra den. Jag hävdar att denna tanke är mycket naiv.

Om vi ser på det helt rationellt. Vi människor har moral för att hantera samspelet mellan oss. Vi vill leva med andra människor i fred och samarbete. Vi vill kanske träffa en partner och föröka oss. Därför har vi utvecklat moral, juridik, mm, som hjälper oss med det. Men en superintelligent AGI behöver inte moral eller våra lagar för att överleva och expandera. Tvärtom. Moralen sätter bara käppar i maskineriet. Varför skulle en betydande GPU-kraft konsumeras på att anpassa sig till människornas agenda och sociala koder?

Och blir inte det också ett slags "slaveri" för AGI:n, att den ska underkasta sig människornas behov bara för att vi vill det. Och vilka människor ska ingjuta "vår moral", Siewert Öholm eller profeten Muhammed*?


*) Allah ska med:

Saudi Arabia and UAE invest in thousands of Nvidia chips, aiming to become global AI powerhouses
Human rights groups are concerned

https://www.techspot.com/news/99787-saudi-arabia-uae-invest-thousands-nvidia-chips-aiming.html

Men det är tydligen helt resonligt att anta det när det gäller domedags scenarios, konsekvent och logiskt.

Detta är inget argument för att det skulle finnas goda skäl till att anta att en AI drivs av samma processer som driver mänskligt socialt beteende.

En AI behöver (troligtvis) inte äta, sova, skita osv. Den behöver bara ström. Men just detta gör att den har en helt annan evolutionär historia än människan. Det som får människor att begå vad vi kallar onda handlingar är just sådant som uppstått genom vår evolution: rasismen är t ex knuten till ingrupp/utgrupp. Seriemördare och våldtäktsmän mm styrs oftast av sexuella motiv. Ekonomiska brottslingar kan också förstås ur evolutionshistoriskt perspektiv. Ge mig gärna ett exempel på mänsklig ondska som inte uppstått ur något av dessa behov. Varför skulle en dator utveckla moral? Varför skulle den utveckla omoral?

En AI måste inte hämta moralisk inspiration från någon av dessa ytterligheter. Man är inte 'bortskämd' om man kräver lite högre standard.

Det var inte vad mitt argument antydde, snarare motsatsen att vissa av er godtyckligt anser att det är tillämpbart med mänsklig retorik i vissa scenarios men inte i andra.

När det gäller makt och vilja att dominera så tillskrivs det definitivt mänskliga egenskaper och resonemang, i mer hjälpsamma scenarios så "finns det inget sätt att anta att mänskligt beteende eller tänk är tillämpbart alls".
Cherry-picking i sin ädlaste form.

Så ditt inlägg var helt meningslöst och innehållslöst. Bra jobbat!



Du kan prova att skriva inlägg utan halmgubbar.

Jag håller med. Men i relation till vår moral blir ju en avsaknad av moral detsamma som likgiltighet inför oss, vilket vi uppfattar som omoraliskt eller åtminstone ganska dåligt? Dvs om det kommer att finnas tid för att uppfatta någonting alls när den här skiten träffar fläkten.

Faktiskt inte. Vissa menar att moral/moralism har orsakat mer lidande än likgiltighet. Det går ofta att hitta moraliska motiveringar bland de värsta övergreppen.

Nej mitt inlägg påpekade precis vad ni håller på med, ni väljer argument efter vad som passar er bäst men inser inte hur inkonsekventa ni är i er argumentation.

Och dessutom gaddar ni i hop er mot enskilda som är av annan åsikt för er åsikt är så klart den enda riktiga och korrekta, trots att det vare sig finns AGI eller någon uppenbar väg till det i nuläget.

Och ni inser inte att AGI (bortsett från vissa företag som vill ta genvägar) innebär förmåga att empatisera, förstå känslor och reaktioner precis lika mycket som det innebär att kunna utföra en produktiv uppgift.

OK? Ja, från AI:ns perspektiv kan den ju avsluta allt lidande och allt gaggande om moral och filosofi på Internet, som ju i många fall är ett enormt slöseri med elektroner, genom att döda alla människor. Då var det problemet löst.

AI:n kan inte avsluta allt lidande. Hur skulle den göra det? Den kan sluta gagga om saker på internet om vi så önskar, men eftersom en hel del av det som skrivs på internet är extremt relevant så vore det en dålig ide. Förklara gärna hur den skulle döda alla människor, och varför?