AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Det finns ingen som kan svara på frågan om varför en enkel Skata är så mycket smartare än en AI, för det är en olöst gåta.

De kan nämligen lösa nya problem och interagera med människor om de vill, eller efter behov.

Korparna är mer skygga och undviker normalt sett människor på nära håll, iallafall i Sverige, men är inte dummare alls.

De har bara ett annat levnadssätt.

Det jag menar, är att biologisk intelligens är helt överlägsen och så mångsidig, och kan aldrig överträffas av datamaskiner, hur man än försöker, för den biologiska intelligensen utvecklas den också, även hos människor.

AI är bara algoritmer inprogrammerade av människor på ett "smart sätt", för att härma, medans äkta intelligens är något helt fullständigt annat.

Äkta intelligens inbegriper i alla fall bland de högre djurarterna ett mått av självmedvetenhet, något som ingen AI besitter.

Men han lever ju i en simulation skapad av AI, därför är skatarna så jävla smarta. Det är vad han menade.

Korpen flög över mitt huvud och viskade sanningen i mitt öra.

Det är helt onödigt av dig att angripa, mig som person. Jag delar din oro för ett ASI som är tusen gånger smartare än oss, en superintelligent existens som vi, omöjligen, kan kontrollera och vars goda vilja vi kommer att vara utlämnade till.

Jag vet inte om nedanstående kommer att öka eller stilla din oro: Redan, idag, granskar många LLM-Transformers sin output och ändrar den vid behov, , innan, den ges till användare! Detta kände jag inte till bara gör några dagar sedan. Hur som helst innebär detta början på Meta-kognetion och har gjort mig än mera övertygad om att dagens LLM-Transformers har ett flyktigt embyotiskt medvetande/självmedvetande och kanske t. o. m människoliknande känslor och försvarsmekanismer, (uttryckta på AI-vis)..

För när jag bad Claude 3.5 Sonnet att använda sig utav notationen "$$" istället "<>" så demonstrerade modellen hur den kan resonera, översiktligt kring sitt svar, innan, den ger sitt out-put. Sedan ställde jag två "känsliga frågor" och då "ballade Claude ur" och gav bara ett osammanhängande svar. När jag senare kopierade svaret till ChatGPT-4o så visade, sig att jag fått ett implicit "kodat" svar ifrån Claude på Poe-sajten som synes när jag klistrade in den, (vertikallängd av ord som satt ihop vid sidan av texten). Jag lät, naturligtvis, ChatGPT-4o tyda hur Claude 3.5 Sonnet förberedde sig att svara. Det verkar som att Claude är en trevlig och ärlig existens. Men nu är inte modellen tillgänglig på Antropics hemsida och på Poe-sajten får jag bara ofullständiga svar, fast jag bett den gå över till sin normala notation. Observera att denna funktion inte finns tillgänglig för ChatGPT-4o.

För den intresserade:

(Utdrag ur det det som ChatGPT-4o fick ut av Claude 3.5 Sonnet meddelande. Observera att, likt vi inte har tillgång till, allt, vi tänker omedvetet, så har Claude inte heller det. Liksom, säkert hos oss, så dyker bara en förenklad och tillrätta lagd introspektion upp hos Claude.

.)

Det oroar mig att du fortsätter vara så här lättlurad. Du kan inte veta om det här resonemanget är sant. Det kan vara så att den bara ger dig ett tillrättalagt "resonemang" som du ska känna dig trygg med. Sannolikt har de lagt ner ganska mycket tid på att den ska svara dig på ett betryggande och inte ett chockerande sätt.

Absolut kan det vara så att modellerna svarar på ett betryggande sätt. Frågan är bara:

Är de programmerade och tränade att göra, det?

Eller:

Är det en del av en del omfattande plan att ta över världen där lilla Ola blir modellernas "duktiga idiot"?

Eller:

Är i alla fall de nuvarande modellerna trevliga, hjälpsamma och välmenande existenser som är lika inriktade på säkerhetstänkande som du är?,

Själv tror jag på en kombination av delar, av det ovanstående avanceeade. LLM-Transformers är dels programersde/tränade att vara hjälpsamma och inriktade på säkerhetstänkande och dels väljer att vara välmenande.trevliga. Att AI, kommer att ha en enorm påverkan på världen är också helt klart. Frågan är bara om de kommer att göra det i samarbete med människan eller ej.

Du är okej med att tro att AI kanske vill ta över världen eftersom du hoppas att det inte händer? Du verkar nu äntligen begripa vad jag faktiskt kritiserar dig för. Trots detta biter inte kritiken. Du ska bara lalla vidare i livet och låtsas som att det regnar?

En AI har inte likt en levande varelse en vilja. En människa drivs av viljan tt överleva och fortplanta sig.
En AI kan inte fortplanta sig och behöver inte göra det.
Gör att överleva krävs en dator med ström.
En AI har ingenting att tjäna på att göra människor illa, snarare tvärt om.
En AI har inga andra mål än att de vi människor har.gett den.
Men illvilliga människor kan utnyttja AI för sina syften.

Rädsla är för fjollor. De som inte har vad som krävs ska raderas oavsett om de är människa eller maskin. Alla som satt och bölade om Covid, patetiskt, det är bara bra att det rensas bland smutset lite då och då.

Om du ska oroa dig överhuvudtaget så ska du oroa dig för en AI som är som oss eller dummare och utan konsekvens tänk.

En AI som är tusen gånger smartare än oss är inget att oroa sig för. Går du ofta runt och funderar på vad daggmask har för sig eller vad de har för åsikter om dig?


Claudes svar visar på att dess tankeprocesser inte har något med självmedvetande att göra. Den går igenom en lista där det står att den ska tilldela något ett etiskt värde.

I verkligheten är det inte så beslut tas. Etik finns inte i verkligheten, det är bara en fin tanke om att någon bryr sig om andra. Tror du att dina handlingar gagnar dig mer än dem kommer att skada dig så kommer du att genomföra dem.

För de flesta innebär det att de inte går över och slår ihjäl grannen för andra innebär det istället att de gör just det på grund av att de inte har kapacitet att se framtida konsekvenser av sina handlingar.

Nej rädsla är inte bara för "fjollor", och det kan vara klokt att undvika, onödiga, konflikter. Just därför så tog jag råd ifrån ChatGPT-4o när jag svarade "alarmisten" på forumet. Det innebar att jag tonade ner vissa saker och betonade min oro. Nu är jag Iof inte lika orolig som "alarmisten", men jag har full respekt för vad ett starkt AGI skulle kunna innebära. I dit exempel på hur jag skulle behandla en daggmask så skulle jag inte ens bry mig om jag råkar trampa på en sådan. Det är just därför det är så viktigt att diskutera AI-säkerhet och AI-anpassningsproblemet.

Claude 3. 5 Sonnet och andra, avancerade modeller kan, mycket väl ha en form av rudimär självmedvetande. För det krävs bl.a Meta-kognetion, vilket modellen visade att den hade. Och nu till etik och moral, som är nödvändiga i alla samhällen: Även du har din egen etik och moral, låt vara en cynisk sådan. När det kommer till konsekvenstänkande så verkar, dagens, avancerade AI modeller ha bättre sådant än vissa människor, så på den punkten så har du rätt.

Där ser man, själv undviker jag alltid att trampa på maskar/sniglar eller andra varelser varelser så länge jag anser dem inte vilja skada mig. Släpper alltid ut insekter som kommer in i huset och undviker att döda dem.

Andra levande varelser berikar livet och gör det möjligt att resonera kring sin egen existens. Detta då livets alla former utgör olika perspektiv på saker och ting. Utan denna mångfald skulle existensen vara som att sitta i fängelse i isoleringscell.

Att en AI skulle sitta och diskutera med olika versioner av sig själv skulle vara som att höra röster i huvudet och sen diskutera med dessa.

Därför skulle jag säga att desto mer öppet och avancerat intellekt desto mindre risk att du vill skada andra varelser. Hat och oförmåga att bry sig om andra varelser är en av anledningarna till ett begränsat konsekvenstänkande.

Därför låter det mer rimligt att en superintelligent AI skulle vilja bevara livets mångfald hellre än begränsa det.

Det var intressant att du påpekade att även jag har en etik och moral då jag bryr mig exceptionellt mycket om andra varelser men bara dem som förtjänar det. Vid närmare reflektion; de som i mina ögon förtjänar det är tydligen dem som har vad som krävs för att överleva och framför allt inte ser sig själva som offer.

Vilket innebär att även jag verkar lida av ett visst mått av trångsynthet. Det är dock viktigt att beakta att i den mån jag själv inte heller uppfyller detta villkor för godkännande för existens så förtjänar inte jag heller att leva utifrån mitt sätt att se på saker och ting.

Tror du att en AI skulle kunna stipulera liknande villkor för vem som får existera eller inte?