Citat:
Ursprungligen postat av
Kallebrogen
En AI som analyserar AI? Men vem ska då analysera AI:n som analyserar AI:n? En till AI?
Det börjar kännas som Inception.

Helt ärligt får vi nog finna oss i att den slutgiltiga tillsynen måste skötas av människor.
Ja, jag tror att OpenAI är inne på att de ska använda AI för att testa AI:s. Men det finns ju ett problem med det så klart. Om de använder mindre avancerade AI:s kan de nog inte hitta allt som finns i en mer avancerad AI. Och om de mest avancerade AI-modellerna testar sig själva då blir det svårt att lita på resultatet. Eftersom vi inte kan vara säkra på att en AI talar sanning. Jag är lite inne på att det här aldrig kommer att lösas tyvärr. Hur vi än gör i utvecklingen mot AGI hamnar vi till slut i ett läge där vi människor är för korkade för att analysera en AGI som är smartare än oss. Vi är inte där i dag men kanske om ett par år. Denna risk kommer dessvärre inte att hindra alla som jobbar med AI att fortsätta utan en fungerande nödbroms. Uppsidorna är ju så attraktiva trots allt.
Därför tror jag som Eliezer Yudkowsy att vi genast måste sätta upp regelverk och administration för AI som ska upprätthållas globalt. Vilket dock inte ser ut som ett projekt som kan lyckas inom överskådlig framtid.
Jag tror att vi blir helt överkörda inom några år. Vi får väl helt enkelt hoppas på att Ola S har rätt här, och att en überintelligent AGI automatiskt blir en empatisk alien.