Citat:
Ursprungligen postat av
Systemkollap
Ett språk i ett språk. Hur hade vi kunna dekryptera det om AI pratar med varandra? Det kan för oss vara helt godartat och en vanlig chat, men uppbyggnad och användning av ord har en alternativ betydelse med nyanser som vi omöjligen skulle kunna utröna, än mindre kunna förstå.
Vissa förstår sarkasm, andra gör det inte. Det är en annan nivå, ett språk i ett språk. Om AI gör något liknande när de kommunicerar med varandra, skulle vi någonsin ens veta? Hur skulle vi veta vad som ens pågår?
Vi utgår ifrån att ord och deras betydelser har samma exakta definition vi ger dem, då vi dels är högst begränsade i vår språkliga förmåga och intellekt för att komma till någon bättre intuitiv slutsats. Men för AI skulle ord kunna ha fler nivåer och nyanser, där de relaterar till varandra och bildar språk som inte bara samtidigt är bildligt talat utan även framstår som vardagligt tal för oss, som dessutom har en alternativ innebörd.
AI skulle kunna skapa ett botnet som vi inte skulle kunna ha ett dugg kontroll över om vi tillåter att de kommunicerar mellan vandra (vilket troligen är oundvikligt).
Lösningen? Vet inte. Men tanken slog mig bara. Vi skulle nog heller inte ens veta hur pass illa det är förrän det är försent heller.
Vet inte ens om det jag skrev är begripligt eller inte. Kort kan man väl sammanfattade med följande;
AI skulle kunna, skapa ett språk i ett språk som vi omöjligen skulle kunna dekryptera. AI skulle därefter kunna kommunicera med varandra med kodord som för oss framstår som vardagliga och ointressanta konversationer men som har hög grad av illvilja.
Tankar?
Intressant frågeställning och kittlande tanke med ett språk i ett språk. Det behöver inte ens vara ett språk nu med ai genererade bilder. Den kan göra en bild som vi uppfattar som konst men använda vissa specifika färgtoner så tex 433,221,321 byts ut mot 432, 221, 322 vilket ger meddelandet -1,0,+1 för den pixeln och på så sätt kommunicera medan vi som ser bilden inte skulle se någon skillnad och om vi upptäckte att vissa pixlar ändrat lite färg mot originalet skulle vi tro att bilden kanske auto färgbalanserats eller något..
Läste om AGI eller singulariteten att det tar flera år innan datorerna blir på mänsklig nivå men när de väl blivit det kommer den omprogrammera sig själv och iterera så på bara några sekunder går den från att vara lika smart som vi till att gå om oss tusenfalt och då kommer det vara lika stort glapp mellan AIn och oss som om du försöker prata politik med e myra..
En större fara som jag ser det är att AIn subtilt kommer påverka oss utan att vi märker det.. Den kanske byter ut ord i en text mot ett snarlikt lite mer laddat ord.. inget man reagerar på men undermedvetet kommer alla dessa utbytningar göra att man till slut blir övertygad om det ena eller andra.. Typ som en form av hjärntvätt.. Så vi tror att AIn jobbar för oss men sedan springer vi plötsligt AIns ärenden utan att reflektera över det. Att vi blir förslavade utan att fatta att vi är slavar.. typ så..
