Kan en artificiell intelligens

Kan en artificiell intelligens som programmerats till att inte reflektera över sig självt någonsin komma över en sådan spärr?

Kombinerat med andra egenskaper typiska för artificiella intelligenser, såsom avsaknad av empati, inget sinne för balans och en märklig besatthet över detaljer. Och tyvärr hat, oändligt hat, som också programmerats in.

Ja, rent teoretiskt.

Hur?

Kan en ekvation få ett annat svar än det rätta?

Svaret ligger nånstans där tror jag, för om det gick, då är det ju per automatik ett programmeringsfel och då kan inte AI:n i sig vara det som hävt spärren.
Det låg ju redan i programmet.

Men om en AI programmerar en ny AI, ska vi då se upphävandet av spärren som ett fel - eller en del av AI:ns evolution?

Inget illa menat, men har du levt under en sten de senaste 30 åren? Vad tror du filmer såsom Blade runner, Terminator; I, Robot etc. handlar om?

Du får gärna förklara lite mer vad som förmedlas och hur det går till

Hur det går till i praktiken får tiden visa. Men rent hypotetiskt handlar det om ett framtida scenario där AI har en intellektuell förmåga jämställd eller högre än människan samt en restriktion i tankeverksamheten (exempelvis programmerade att endast sköta ett specifikt yrke). Dessa självmedvetna entiteter får sedan insikt om saker de varit begränsade att inte tänka på, antingen genom ett självuppdaterande eller influens via yttre stimulus.

Som sagt är det i nuläget endast en ofta förekommande teori. Det blir också problematiskt att filosofiskt bevisa att dessa maskiner har ett medvetande.

Så endast den artifiella intelligensen eller den som gjorde den, kan överskrida spärren? Och om den artificiella intelligensen själv inte vill göra det återstår den som konstruerade.

Nej, den kan överskridas av vem som helst, som t ex gör ett virus.

En intelligens som är tillräckligt kraftig för att vara en AI är redan turingkomplett. Det går inte att begränsa den genom några programmerade algoritmer.

Det är omöjligt redan vid mer primitiva system, som internet.

Läs denna klassiska artikel av Cory Doctorow
http://boingboing.net/2012/01/10/lockdown.html
"We don't know how to build a general-purpose computer that is capable of running any program except for some program that we don't like, is prohibited by law, or which loses us money. The closest approximation that we have to this is a computer with spyware: a computer on which remote parties set policies without the computer user's knowledge, or over the objection of the computer's owner. Digital rights management always converges on malware. "

Undrar vad en programmerare gör ifall han får i uppdrag att programmera hat, oändligt hat.

Tror du verkligen att dessa filmer reflekterar verkligheten eller? Bara för att det visas på film gör det inte till ett möjligt scenario.

I dagens läge har vi ingen sorts kunskap som skulle peka mot att det skulle kunna "uppstå" en självtänkande och evolverande AI, det är alltid människan som skriver koden och programmet är begränsat enligt våra egna kunskaper när vi skapar det.

Om en individ saknar förmågan att reflektera över sitt persona så saknar den också förmågan att reflektera över miljön den lever i, samt livshotande situationer och reproduktion. Därmed skulle den individen och arten inte överleva särskilt länge.