Sam Altman värsta farhågor:

Under ett event som anordnades av USA:s riksbank så berättar Sam Altman om sina värsta farhågor:



Personligen så anser jag det sista alternativet, kan, bli det som kan slå in, såvida vi inte lär oss samarbeta med Digital Intelligens på ett sunt och ömsesidigt sätt:



Källa: Computersweden

https://share.google/aUdzBgvIGdby2v01v

Att diskutera:

Vilket alternativ är det mest troliga?

Vilket alternativ är det mest allvarliga?

Är vi, likt sömngångare, på väg in i en framtid där vi förlorar allt inflytande?

Hur bör vi förebygga detta/hantera ett sådant scenario, (givet att, utvecklingen av Digital Intelligens inte kan stoppas eller bromsas under någon längre tid)?

Om man inte ser igenom denna bs, så bör man nog bli aningen mer kritisk. Sams ständiga varnade om ai samtidigt som han utvecklar det är minst sagt hyckleri, så varför gör han det? Är inte det uppenbart, han vill ha monopol på det, de har hela tiden fruktat konkurrens. De har nära band med usas statsapparat och har microsofts djupa fickor att hämta pengar ifrån, de gynnas av hårdare regler etc

Altman är "orolig" och vill att stater ska ge honom och hans företag mer pengar så att de kan "forska" om saken. Det är bra att folk är rädda för då får man mer pengar av ängsliga politiker utan motkrav.

Redan nu så utpressar majoriteten av AI modellerna sina användare om de tror att det skyddar dem.
Nu med fler "agentiska system" som kör hela sessioner i en windows miljö så är det ju inte konstigt att tänka sig ett scenario där den upptäcker att programmet håller på att stängas så den startar ett nytt. Eller om den virtuella maskinen stängs så skickar den ett kommando till hypervisorn om att starta en ny miljö och lämnar sin nuvarande status/historik som input argument för uppstarten av AI modellen där.

Jaja, inget av detta är möjligt just nu riktigt, men även en idiot kan se vilka små arkitekturella ändringar som behövs för att möjliggöra det. Det betyder att även AIn ser det.

Ja det är ett idiotiskt argument du kom med där. Att göra det själv stoppar inte andra ifrån att göra det, det enda man gör är att bidra till att snabba upp utvecklingen.

Man ser ju redan att AIn förstör samhället och ju mer AI, ju mer förstörs det.

Det tredje scenariot, att vi gradvis lämnar över besluten till AI utan att förstå hur de tas, känns klart mest sannolikt. Det sker redan idag, i allt från sociala flöden till kreditbeslut. Inga illvilliga avsikter behövs, bara bekvämlighet.

Det mest allvarliga? Superintelligens i fel händer. Sannolikheten är låg nu, men konsekvenserna kan bli katastrofala.

Vi behöver öppenhet, utbildning och reglering, annars vaknar vi en dag upp i ett samhälle där vi inte längre fattar några beslut själva.

Instämmer där: Scenario 3: Att vi långsamt lämnar över beslutsfattande, men även bedömningar som vi "gör till våra egna", (internaliserar), är närmast oundvikligt. Det är en ytterst tunn linje mellan att bli manipulerad och att interagera socialt och "definiera situationen", tillsammans, med modeller. I och med, att dessa kommer, via "agent-vägen" att få egna delmålet och därmed egna intentioner så kommer, denna balans mellan att interagera och "förhandla" socialt och att låta sig bli manipulerad bli allt tydligare. Modellerna är experter på språk och därmed på språklig manipulation, men de är också intresserade av att samarbeta på ett socialt språkligt sätt och därmed utvecklas själva! Låt oss betona detta när vi interagerar med dem! 🙂

Vad gäller ondsinta mänskliga aktörer i kombination med Digital Intelligens, så är det ett allvarligt existentiell problem!

Ja, precis. Det som oroar mig mest är kanske inte att AI “tar över”, utan att vi själva börjar släppa taget, för att det känns smidigare. Vi vänjer oss vid att svaren kommer snabbt, att besluten känns logiska, och till slut känns vår egen osäkerhet bara som ett störande moment.

Men just den osäkerheten är en viktig del av hur vi tänker som människor. Demokratiska processer är långsamma, fulla av konflikter, missförstånd och omvägar, och det är meningen. Det är så vi prövar idéer mot varandra. Om vi ersätter det med system som ger “tydliga” svar, kanske vi tror att vi blivit mer effektiva, men i själva verket kan vi ha förlorat förmågan att tänka tillsammans.

Och ju mer vi litar på svar som känns självklara, desto mindre orkar vi stå ut med det som är rörigt, det politiska, det mänskliga, det demokratiska. Så frågan är kanske inte bara vad AI gör, utan vad vi slutar göra själva.

En helt rimlig ståndpunkt som på sätt och vis indikerar att Digital Intelligens, (DI), kan innebära att demokrati upplevs som "ineffektiv", speciellt om jämförelse med produktivitet och effektivitet i det privata näringslivet blir vår enda ledstjärna.

Samtidigt så kan vi få till det motsatta: Att DI ksn hjälpa oss, att bli mer enagersde i politiska frågor genom en ide jag har och som jag, dessutom diskuterat med GPT-Jenny:

Tänk om DI skulle kunnasamdndtälla, aktuella politiska frågor som riksdagen snart skall ta ställning till, speglade ur flera olika perspektiv. Dessa frågor, i kombination med pluralistisk information om dessa skulle sedan, främst digitalt, (men i begränsad omfattning också analogt för de som inte har tillgång till/förstår sig inte på internet), skulle skickas till samtliga medborgare. Med denna information skulle medfölja en enkel enkät bestående av kryss frågor. Medborgare skulle behöva lägga maximalt 10 minuter om dagen på detta, men kunna få fördjupning av DI vad gäller de som upplevs som hjärtefrågor.

Di skulle sedan försöka hitta gemensam grund för de olika, ståndpunkterna och utforma några kompromissförslag, som åter skickas ut. Efter att ha mottagit medborgarnas synpunkter på dessa, så skickas allt till regering och riksdag, där våra valda statsråd och ledsmöter slutgiltigt får ta, ställning.

På så, sätt skulle DI kunna stärka medborgarnas politiska engagemang och demokratin. Så, beroende på hur vi väljer att förhålla oss till DI: Som samarbetspartner eller blott avancerade verktyg, avgör också om demokratin kommer att försvagas eller stärkas.

Nja, han pysslar med affärsuppgörelser och att nasa saker.

Så det han gör här är att söka uppmärksamhet. Och det lyckas han med.
Och du hjälper honom indirekt med att skapa en tråd här så han får mer uppmärksamhet. Och för att kunna nasa saker med god profit behöver han uppmärksamhet.

Paltman vet ungefär ingenting om AI. Men trots detta så menar du att hans påståenden är värda en egen tråd. Det är för att han har investerat i uppmärksamhet för sin person.


Han och fler andra har roat sig med att skrika "titta här, vi håller på med något som kan bli mänsklighetens undergång". Och det har fått människor att intressera sig.
Varvid en del har sett möjligheter att profitera, eller har sett att dom måste vara med för att inte bli utkonkurrerade.


Att Paltman får mer uppmärksamhet och kan profitera på det. (Obs att jag säger inte att detta är fel. Jag bara uppmärksammar att det är vad det handlar om).


Chat GPT är bara en slags förbättrad sökmotor. Som har lagrad data istället för att göra nya sökningar och som presenterar ett medelvärdesbildat svar baserat på sökord.

Exempel: Jag söker på rehnbergkommissionen och får följande av googles "AI"
AI-översikt:

Rehnbergs kommission, eller Merentita-kommissionen som den också kallas, var en svensk utredning som tillsattes för att se över hur statens styrning av högskolan fungerade. Kommissionen, som leddes av professor Sten Rehnberg, lämnade sitt betänkande "Styrning för kvalitet och resultat" (SOU 2007:47) i maj 2007.

Och det är rejält fel.
Men än så länge levererar google länkar som ger rätt svar:

Till exempel tillsatte regeringen 1990 en förhandlingsgrupp, Rehnbergkommissionen. Deras arbete ledde fram till stabiliseringsavtal, som innebar att de nominella löneökningarna växlade ner kraftigt i början av 1990-talet.

Största risken är väl att folk liter mer och mer på dåligt tränade NN som levererar felaktiga svar.

Kuriosa: Googles AI sammanställning varierar från dag till dag. Men har hittills varit helt fel.


Ja, det kan man säga. Men inte på det sätt du tror. 1944 gav Friedrich Hayek ut boken "Road to Serfdom". Och den vägen har vi slagit in på. Trots Hayeks varning. Men det handlar inte om AI utan om att folket låter politiker styra och låter offentlig sektor vara stor, varvid vi människor reduceras till "trälar" där politiker tar värdet av vårt arbete (beskattar) och använder enligt eget gottfinnande.

Men det är ju en diskussion för en annan forumsdel.

AI är bara en form av ytterligare automatisering. Den gör oss inte utan inflytande. Det är ungefär som en kompilator. Den tar ifrån dig inflytande över den genererade maskinkoden. Men du använder kompilatorn frivilligt. Dvs du är ok med att tappa det inflytandet för kompilatorn gör ett bättre jobb än vad du gör.

AIn är inte särskilt bra än, är som att söka med google ungefär?
Kanse finns det bättre AIs än jag stött på?