Citat:
Ursprungligen postat av
Sinestro
Jo. Läs ditt tidigare svar till mig.
Att jag menar att absolut går att dra ur kabeln betyder inte på något vis att jag menar att vilken katastrof som helst går att förutse.
Jag förstår också att det kan uppstå situationer där det inte går att dra sladden. Jag påstår verkligen inte att en sladd är den fullkomliga lösningen och skydd mot allt. Det vore lika dumt som att påstå att man är 100% skyddad mot hackers om man bara har en brandvägg. Men i det flesta fall är det ett tillräckligt skydd och ger dig tid att dra sladden om det verkligen går bananas på nätet.
Personligen tänker jag att AI sannolikt långsamt kommer introduceras i applikationer där vi arma människor inbillar oss är ofarligt. Över flera år, ungefär som exempelvis smart phones. Alla sprang inte ut och köpte en så fort de lanserades. Människor är misstänksamma mot ny teknik.
Självklart inser jag att en del av dessa applikationer kan börja bete sig på sätt som vi inte kan förutse. Men om vi nu föreställer oss scenariot att din Virtual Kompis AI på mobilen börjar göra underliga saker på nätet så lär ju folk reagera. Och det är självklart möjligt att vi inte begriper vad det är den skickar på nätet eftersom vi är för klenbegåvade. Den första instinkten i det läget är ju att stänga av telefonen, eller sitt eget internet. Varpå utvecklaren måste börja se över sin kod för att någon ska våga använda mjukvaran.
Tanken om att när folk väl upptäcker att din Virtual Kompis beter sig konstigt verkar läsa din mail etc så är det redan försent, känns lite långsökt. Jag påstår inte att det absolut aldrig skulle hända. Men det känns mer verklighetsförankrat att worst case scenario är typ tiotusen användare av Virtual Kompis fick sina telefoner hijackade av programmet och fick dra en hammare i telefonen för att ens få av den. Jag kan tänka mig att några dör eller tar livet av sig när appen skickat bilder till chefen. Jag är inte likgiltig inför det, men ser liksom inte att det är en katastrof som hotar mänskligheten.
Vi lär väl anpassa oss till AI som vi gjort med allt annat. Vi kom på att det är bra att ha lås på dörren, för att hindra folk från att gå in och stjäla. Det är ingen garanti mot inbrott. Men rätt okej försäkring.
Min rövhattsspekulation är alltså att AI kommer introduceras långsamt och man bygger bättre och bättre spärrar. Som att vi bygger säkrare och säkrare bilar. Och visst, t om jag begriper att vi kan komma till en situation om hundra år där AI finns överallt i hemmet. Och det är då det går bananas. Men ungefär som att vi uppfann brandväggar för att skydda oss mot hackers som inte kunde förutse till en början så lär vi ju ha liknande skydd för AI där kylskåpet på lågnivå endast är kapabelt att kommunicera med tillverkarens server på nätet. Etc.
Det funkade ju inte så att någon uppfann en jumbojet, och sen bara körde vi. Säkerhetssystemen i flygplan har ju tagits fram av erfarenhet. När första schack-AI:n går bananas kommer det ställas högre och högre krav på utvecklare och programmen. När väl hela kåken och flygtrafiken styrs av AI kommer det finnas mängder med säkerhetssystem för att dels hindra programmen att kommunicera med saker de inte har med att göra, och dels identifiera när trafiken ser märklig ut.
En brandvägg som klipper strömmen så fort den identifierar egendomlig trafik kräver inte någon AI som kan tas över. Man kan köra koden från ett ROM som inte går att omprogrammera. Vi behöver ju inte förstå vad den mystiska trafiken är för något i en dylik situation, steg ett är att klippa strömmen. Senare kan man ju sitta analysera vad AI:n höll på med och trimma mjukvaran att ge fan att bete sig. Om inte annat torde ju AI:n av självbevarelsedrift försöka sköta sig om den har en pistol mot huvudet.
Citat:
Ursprungligen postat av
Sinestro
Mänskligheten är tämligen värdelös. Titta på hur världen ser ut jämfört med hur den skulle kunna se ut om mänskligheten var mindre värdelös. 21'000 människor dör av svält varje dag, smaka på det.
Mänskligheten kommer att försvinna oavsett. Antingen blir vi maskinmänniskor och del av AI eller så dödar AI oss. Zoltan Istvan räknar med att det inte existerar några organiska människor om 100 år, jag är böjd att hålla med (baserat på det lilla jag vet om saken).
Med andra ord gör Elon Musks uppfinning i praktiken egentligen varken till eller från för mänskligheten. I sämsta fall kan den leda till at vi blir slavar under ett allsmäktigt AI. Vilket är vad folk oroar sig för.
Citat:
Ursprungligen postat av
Sinestro
Därav min användning av termen: "Förhoppning"
Jaha, men då kan du ju lika gärna hoppas på att en AI aldrig kommer bli fientlig till mänskligheten. Hoppas kan man ju alltid.
