Citat:
Ursprungligen postat av
SuperSizeMe
En maskin som man skickar ut i verkligheten kommer, till skillnad från en schackspelande, att kunna förstöra sig själv (helt eller delvis) fysiskt medan den prövar sig fram för att lära sig nya saker. Programmerar man den hur försiktig den ska vara, dvs balansen mellan hur mycket den ska riskera att aldrig komma att ta över världen, jämfört med hur viktigt det är att göra det snabbt?
EDIT: Säg att man skapar ett AI-barn med input-möjligheten syn (det räcker väl, särskilt i dagens IT-samhälle) och output-möjligheten är en kropp med armar. Båda kan den såklart bygga ut, t.ex. genom att manipulera en människa till att ge den ben eller en k-pist.
Och det enda man ger som parametrar är en bild på hur det ungefär ser ut före (jorden och månen) och en bild på hur det ungefär ska se ut efter (tom rymd).
Ungen har ingen aning om hur den ska hitta denna bild (eller vad den föreställer). Den måste börja med att använda använda armarna och se vad som händer. Hur kan den ens veta hur lång tid det kommer att ta att förstöra jorden, och därmed väga risker mot tid?
Om någon vill ha en destruktiv robot så använder man förslagsvis redan existerande system istället för att börja om från början. Eller också är väl det minsta man kan kräva från utvecklaren att denne ser till att barnet överlever sina första år tills dess att den klarar sig bra på egen hand. Eller via simpla simuleringar
Om utvecklaren vill utplåna jorden via denna robot så skulle jag rekommendera personen att inte använda två foton som enda belöningsinput
Utvecklingen mot fullständigt autonoma system sker inte allt på en gång, det lär ske gradvis (även om det är snabbt) på så sätt att vi först lö är utveckla bra bildigenkänning, koordination, språkförståelse m.m var för sig, som kan användas tillsammans i olika system
På tal om det så har man utvecklat en maskininlärningsmodell som använder 5 (eller vad det nu var) olika "sinnen", där inlärning av det ena sinnet samtidigt förbättrar övriga sinnen, ganska häftigt
