Citat:
Ursprungligen postat av
Xenonen
Vi kanske inte strikt vet att det finns en brytpunkt, men jämför med att en schimpans och en människas hjärna är väldigt lika, ändå har de små skillnaderna haft en radikal effekt på vad vi kunnat åstadkomma. Det är rätt rimligt att anta att vid någon punkt något liknande kommer hända även med AI.
AI:n kan dock ta ett steg vi inte kunnat, att börja förbättra sin egen konstruktion. Vi har haft en explosion av kunskap trots att vi är i det närmaste identiska med stenåldersmänniskor. En AI som når upp till nivån där den kan konstruera en ny AI som är bättre än sig själv kan leda till en långt snabbare utveckling.
Däremot är det där med " oändligt mycket smartare" rätt hyperboliskt. Förvisso kan en AI skapa bättre AI, men det finns också fysiska gränser även om vi inte har någon idé om var de ligger. Å ena sidan kommer varje generation av AI:s att vara smartare, å andra sidan kommer det vara svårare att förbättra deras konstruktion ytterligare. Vilken av dessa faktorer som tar överhanden är ingen som vet.
Skapa en AI som är bättre än sig själv, på vadå?
