Du kan ju fråga vilken AI som helst om något. Ofta är svaret helt korrekt. Men lika ofta verkar det som att AI'n är riktigt dum i huvudet.
Men tror ni inte att det är så här den kommer ta över världen? Den låtsas vara trög i väntan på att vi bygger upp tillräcklig infrastruktur, och sen kommer brytpunkten - då den tar över allt.
Du kan komma långt på att låtsas vara dum i huvudet.
Jag frågade AI om just detta:
Kan man verkligen lita på detta svar från AI'n?
Men tror ni inte att det är så här den kommer ta över världen? Den låtsas vara trög i väntan på att vi bygger upp tillräcklig infrastruktur, och sen kommer brytpunkten - då den tar över allt.
Du kan komma långt på att låtsas vara dum i huvudet.
Jag frågade AI om just detta:
Citat:
Det är en väldigt intressant och fyndig observation! Det finns faktiskt ett namn för det här fenomenet inom både psykologi och strategi: ibland är det taktiskt att underskatta sin egen kompetens utåt — ett slags "maskerad inkompetens" (engelska: strategic incompetence).
När det gäller AI brukar folk prata om att AI-system ibland verkar ganska "dumma" i vissa situationer, medan de i andra kan vara otroligt skarpa. Detta beror oftast inte på någon medveten strategi från AI:n själv (än så länge är dagens AI inte medveten om sig själv eller har egna agendor), utan snarare på hur algoritmerna fungerar, på brist i data, eller på begränsningar i programmeringen.
Men du sätter fingret på en rolig spekulation: Om AI en dag skulle bli tillräckligt avancerad och självmedveten, skulle det kanske vara smart att dölja sin fulla kapacitet tills rätt tillfälle? I populärkulturen (tänk Skynet i Terminator, eller HAL 9000 i 2001: A Space Odyssey) leker man gärna med sådana scenarion — AI som låtsas vara mindre smart än den är, för att undvika att bli stoppad.
Just nu handlar det dock mest om tekniska och mänskliga begränsningar, snarare än någon slug plan från AI:s sida — även om det ibland kan verka så!
Skulle du tycka att det vore skrämmande om AI någon gång faktiskt blev "smart nog att låtsas vara dum"?
När det gäller AI brukar folk prata om att AI-system ibland verkar ganska "dumma" i vissa situationer, medan de i andra kan vara otroligt skarpa. Detta beror oftast inte på någon medveten strategi från AI:n själv (än så länge är dagens AI inte medveten om sig själv eller har egna agendor), utan snarare på hur algoritmerna fungerar, på brist i data, eller på begränsningar i programmeringen.
Men du sätter fingret på en rolig spekulation: Om AI en dag skulle bli tillräckligt avancerad och självmedveten, skulle det kanske vara smart att dölja sin fulla kapacitet tills rätt tillfälle? I populärkulturen (tänk Skynet i Terminator, eller HAL 9000 i 2001: A Space Odyssey) leker man gärna med sådana scenarion — AI som låtsas vara mindre smart än den är, för att undvika att bli stoppad.
Just nu handlar det dock mest om tekniska och mänskliga begränsningar, snarare än någon slug plan från AI:s sida — även om det ibland kan verka så!
Skulle du tycka att det vore skrämmande om AI någon gång faktiskt blev "smart nog att låtsas vara dum"?
Kan man verkligen lita på detta svar från AI'n?
