Citat:
Ursprungligen postat av
MandalayBay
När AGI når singularitetspunkten så kommer den troligen vara EXTREMT intelligent redan några minuter senare.
Fullt så enkelt är det inte. En AI som når en viss tröskel kan säkert öka sin intelligens snabbt en bit genom att gradvis förbättra programmeringen av hårdvaran. När man väl nått max där handlar det om att utveckla och bygga ny hårdvara och det tar tid. Man skall experimentera för att se vad som fungerar, bygga maskiner som kan tillverka de nya komponenterna osv.
Man kan tycka att när AI:n blir allt intelligentare kommer den bli bättre och bättre på att förbättra sig själv, men då missar man att det rimligen också kommer bli svårare och svårare att komma på förbättringar. Det är bara fråga om om problemet blir svårare snabbare än AI:n blir intelligentare eller inte.
Nu behöver nog inte en AI vara så hemskt mycket intelligentare än vi för att vara ett hot om den så önskar. Är den tillräckligt smart och har tillgång till tillräckligt mycket data för att kunna manipulera folk att göra som den vill räcker det. Den kan utnyttja all den infrastruktur vi redan har.