Citat:
Ursprungligen postat av
Ola Schubert
Just nu experimenterar forskare just med det. De sätter kameror på små barn och låter, via stillbilder och kommentarer, LLM ta del av barns språkliga lärande.
https://omni.se/a/0Q5z6M
(kräver Omni mer)
(Ursprungligen"MIT- technology reviwer")
Målet är att få LLM att nå en tvåårings nivå. Men LLM är skör och saknar logisk resonerande förmåga enligt chefsforskaren.
Diskutera om detta ändå kan vara en viktig väg framåt vad gäller AI-utvecklingen.
Diskutera
inte om LLM kommer att utrota mänskligheten om några år.
Ett väldigt intressant experiment så klart. Men vi ska inte heller här underskatta riskerna. Utan att nämna vår arts utrotning ser jag spontant risker för att:
1. Småbarn har ju en del brister inom mognad, moral och ansvarstagande.
Att instruera en LLM att agera som ett litet barn är att lägga ribban väldigt lågt, om vi vill ha en AGI som inte brister allt för mycket inom moral, respekt och ansvarstagande.
2. Om detta visar sig framgångsrikt, och det skulle inte förvåna mig, öppnar metodiken för ganska sjuka möjligheter för destruktiv användning. Som AGI-terrorist kanske du vill träna en "svag AGI" på erfarenheterna från en militär kamphund med rabies. Eftersom AI-risk är "så himla töntigt" och Open Source är så himla fint kommer hela paketet snart att vara allmänbildning hos Hamas och talibanerna.
Jag kan bara önska er lycka till.
