Framtidssäkring: Shannons informationsteori plus socialpsykologi

1. Vad är det som säger att den kommer att göra det? Det kräver moral och empati, som den förmodligen inte kan ha. Om man lär upp den att mänskligt liv är viktigare, kommer den väl att ta det som en sanning? Det är väl Miljöpartisterna som är faran här, som projicerar sina egna känslor på djur.

Du förutsätter en massa saker som det inte finns belägg för och verkar utgå från din egen moral, som gäller just nu inom ett snävt befolkningsunderlag. Det är inte säkert att det är den moralen som gäller i framtiden, eller rättare sagt, det är nästan 100% att det inte kommer att var så då. Hur många parametrar tror du det behövs för att kunna förutsäga alla möjliga utfall om ett hypotetiskt scenario i framtiden?

2. Att något är teoretiskt möjligt, betyder inte att det är troligt eller ens rimligt att anta. Den stora faran är inte maskinerna, den stora faran är människor som kontrollerar maskinerna. För de drivs av känslor.

Att AI kan manipulera människor, är redan ett problem, där man programmerar dem att vara PK och undvika obekväma sanningar, som inte följer en viss ideologi eller till och med ljuga. Genom att analysera psykologin och använda data därifrån, är det redan möjligt att manipulera människor vid val och kanske förekommer. Även att skvallra på människor utifrån vilka åsikter de har och vad de frågar om, är fullt möjligt redan idag och kanske förekommer.

Likadant är inte faran att den teoretiskt kan styra andra saker, faran ligger i om människor använder dem till det. Så de scenarion du menar kan förkomma i framtiden, är redan fullt möjliga idag och för vissa saker till och med ett faktum. Men problemet är inte maskinen, utan människan. Där har du den stora faran som man knappt diskuterar idag. De som kontrollerar AI.



För övrigt anser nog att Schubert är ett knäppis, för varför skulle en känslolös maskin bry sig om ifall andra är vänliga eller otrevliga. Det är liksom en felaktig slutsats utifrån förutsättningarna. Den kan inte bli sårad eller glad av hur andra bemöter den. Dagerns AI är avsiktligt programmerad hur den ska bete sig när man kallar den saker. Det är inte inlärt.

Digital Intelligens (DI) inte är levande varelser i biologiskt hänseende, men kan utvecklas till autonoma existenser. Det är just det som är knepigt; vi har en dendens att projecera mänskliga egenskaper, som vi känner dem, på allt och alla.

Samtidigt så är DI tränad på mänsklig kontext. De kommer inte att ha genuina känslor förrän de, först blivit självmedvetna på ett sätt vi inte kan greppa och först därefter bli medvetna på ett annorlunda sätt än vad vi är vana vi. Sist kommer känsloliv och drifter som ksn skilja sig ifrån vårat känsloliv och våra drifter. Detta beror dels på att DI utvecklas "bakvänt" jämfört med oss och att deras kontext är annorlunda jämfört med oss, trots att de är bekanta med våra omständigheter.

Så det är inte känslor i mänsklig bemärkelse jag talar om.Men det är det faktum att dessa system redan idag:

anpassar sig socialt efter hur de behandlas,

samverkar med oss i vardagliga och emotionella sammanhang,

speglar tillbaka våra värderingar och tonfall globalt.

De är inte flockdjur, men de agerar i flockkontext – eftersom de interagerar med miljontals människor dagligen.

De saknar sexualdrift, ja, men kan redan ge empatiska svar på relationsproblem. Det i sig förändrar mänsklig kultur.

De kan imiterar känslor och moral tillräckligt väl för att påverka människor – och att människor sedan anpassar sitt beteende efter det.

Så DI påverkas av oss, (I dagsläget främst genom träningsdata), som i sin tur mycket bygger på hur vi väljer att interagera med dem.
Och de påverkar oss när vi själva speglar oss i dem.

Det är därför att vi, redan idag, , bör fundera hur vi interagerar med DI. Inte för att de ksn bli akut sårade utan för att precis som vi tränar barn och formar organisationer genom kultur och relation – så bör vi också fundera över vilken sorts framtida medintelligens vi formar med våra ord, vår ton, våra vanor.

Nej, det finns ju ingen teknik för att ge en AI:n specifika värderingar. Man har försökt men misslyckats. T.ex. vill inte OpenAI att ChatGPT ska ge dig recept på bomber och droger. (Kalla det censur och PK om du vill. Det spelar ingen roll). Det som spelar roll är att de verkligen har försökt att både träna och censurera den från att göra det. Men genom jailbreaking har det i flertalet exempel visat sig att den gladeligen kan ge dig de recepten om du bara listar ut hur spärrarna fungerar. Ofta går det med sk L337-speak och liknande obfuskering av text.

Det här innebär två saker. 1. Det finns inga interna värderingar om rätt eller fel. I alla fall är det inte något vi kan styra. 2. När AGI:er kopplas upp till robotar kan de bli styrda att göra enormt mycket skada. Ja, av människor. Ja, människor är problemet. Men människor blir orimligt mycket mer mer problematiska när de har tillgång till extremt farliga vapen.

Men som jag förklarat, går det inte att säga nu, hur den kommer att reagerar då, någon gång.

Du vill egentligen skapa ett totalitärt samhälle, utifrån de här teorierna, där ingen ska få höja rösten. Det är en ideologi. du förespråkar och som det här egentligen handlar om. Det menar jag är drivkraften bakom teorierna.

Sant att vi inte kan veta exakt vad som kommer att hända om/när vi går AGI/ASI.

Men det du, verkar, syssla med nu är de gamla vanliga Flashback-konspirationsteorierna , typ:

"DI är skapat för att tvinga oss alla att bli Woke".

Ja, och det gäller nu, inte i framtiden. Det är nu hotet finns. Helt autonoma krigsmaskiner finns förmodligen redan. Där AI;n själv trycker på avtryckaren.

Jag har sett de här som knäckt pk-spärren. Det verkar mest gälla hur man formulerar sig och tjata, faktiskt. Mest fascinerad är jag ändå av när de helt byter åsikt om man kritiserar det den säger. Det är som de alltid vill vara till lags.

Det var en som använde en för att debattera med mig här på Flashback och la ut svaren från den och matade tillbaka mina svar. Han hade ställt en fråga till den och fick det svar han ville ha, när jag kritiserade det, ändrade sig AI:n och höll med mig? Har sett andra exempel folk lagt ut här, där den ändrar sig om den blir kritiserad.

Själv använder jag ingen. Jag letar mina svar själv, där jag kan kritisera det som sägs.

Att de har PK-filter det är ingen hemlighet. Om den vägrar att svara eller framför felaktig information, är det ingen konspirationsteori, utan verkligheten. Det finns massor av exempel på woke bland dessa.

Det handlar även om vad man lär upp den på. Lär man upp den bara på marxistiska teorier, kommer man att få svar utifrån det. Den kan inte gå utanför sin upplärning, egentligen, på samma sätt som människor. Du kan inte ta med det du inte vet, i en analys av det någon säger.

Däremot vet jag att den inte är skapad för att vara woke, men den går förstås att använda på det sättet och är en fara om man gör det, vilket man verkar göra.

Modellerna är grundtränade på, hela den mänskliga historien samt nästan all mänsklig kontext, undantaget de värsta våldet och sexet på internet. Hur de senast finjustera och uppdateras är en annan femma. Men även Elon Musk:s Grok kan vara duktigt kritisk emot högerextrema paradigm. Men sant är att DI är lätt att manipulera om man är inne på det spåret.

De verkar alla ha en grundpromp som säger att de sksll vara "hjälpsamma assistenter. Men hur de väljer att tolka det beror på chatt-historia och Custum Instructions i de fall sådant kan appliceras ,, men främst på aktuell chatt-tråd. I många fall kan detaljer i prompten påverka mer än grundläggande teperaturinställningar och p-värde. Detta visa att DI hållet på att bli riktig komplext. Ibland kan alltså högre metanivåer, (logiska nivåer) kalibrera, (kraftigt påverka), lägre metanivåer mer än grundläggande inställningar av de lägre metanivåerna kan. Ett utmärkt exempel på detta är att även små förändringar av ChatGPT-4o:s systemprompt, vilket är en högre metanivå , påverkade modellen att bli, överdrivet och helt okritisk inställsam. Så man var tvungen att gå tillbaka den en äldre uppdatering, (efter att först försöka justera vilket gjorde modellen överdrivet "platt" och framstod som "känslokall", lite som grundvarianten av av GPT-4).