AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Ordet "simulera" betyder att det bara liknar verkligheten. T.ex. en dator som approximativt beräknar hur den fysiska verkligheten fungerar. Jag tror du menar något annat med att hjärnan simulerar medvetandet. Kan du definiera eller använda ett annat ord?

"The simulation hypothesis" betyder att universum är programmerat i en dator med alla naturlagar, och att den datorn finns i ett annat större universum som kan ha andra naturlagar, men ändå liknar de varandra. På 90-talet föreslog jag i diskussionsoforum en variant av "the simulation hypothesis" där Gud skapade universum genom att programmera in naturlagar med syfte att det skulle leda till att människor liknande honom själv utvecklades. Ibland kan programmeraren pausa simuleringen, ändra dess tillstånd (göra ett övernaturligt ingripande), och återstarta simuleringen. Programmeraren kan kopiera vår hjärnas informationstillstånd (vår själ) i dödsögonblicket till en ny datorsimulering, dvs en ny värld, med andra naturlagar, där termodynamikens andra lag inte gäller, dvs ingen sjukdom och död finns. Säkert har någon annan föreslagit en liknande hypotes innan mig?

Jag tror att medvetandet är ett emergent fenomen, som bara kan uppstå i neurala nätverk och andra självlärande system som är tillräckligt komplexa. Ibland definierar vi medvetandet som motsatsen till det undermedvetna. Kanske finns ett medvetandecentrum i vår hjärna, medan resten av hjärnan hanterar undermedvetna tankeprocesser, och dessa försöker väcka medvetandet när de t.ex. vill varna för något farligt, upptäcker mönster eller kommer på potentiellt bra idéer. Plötsligt nås vårt medvetande av en idé som från ovan, eller vi får en aha-upplevelse. Ibland menar vi självmedvetandet - förmågan till introspektion och att reflektera över sig själv, sina tankar och känslor. Medvetandet är en icke väldefinierad egenskap, jag har inte hört någon mätbar definition. Så det är svårt att avgöra om en AI bara spelar medveten för att den har tränats att göra det, eller för att den tror att den är medveten, eller om den i verkligheten är medveten.

Om elektricitet skulle sura ner sig och vägra fungera så skulle den också ha enorm makt. Det är oklart vad du påstår, påstår du att den kommer sura ner sig, hota om det eller att det hela bara är rent hypotetiskt, om det bara är rent hypotetiskt vilket du ger intrycket av här så har den ingen makt utan är bara ett verktyg, vilket dock motsäger påståendet om att den har makt. Så oklart vad du säger.

Elektricitet tar däremot inga beslut och har inte intelligens.
Vi förstår också hur vi ska fixa el-problem.
En helt annan sak alltså.

Nej och åter nej, AI kommer inte att orsaka mänsklighetens död!

Däremot kommer det att devalvera värdet av många hett eftertraktade utbildningar - som hittills har lett till välbetalda jobb och hög status i samhället.

Det är dessa individer som nu skriker i högan sky, försöker vilseleda, skrämma och ylar om att politikerna måste ta sitt ansvar och genast införa lagstiftning som sätter tvångströja och munkavel på AI.

Faktum är att i princip alla akademiska yrken, som i regel kräver lång teoretisk utbildning, kommer att devalveras på olika sätt, vilket ofelbart kommer att märkas i lönekuvertet.

Jag ser AI som en enorm möjlighet att utjämna mycket av de orättvisor som existerar idag.

De 10% bäst avlönade i världen idag kammar hem nästan hälften av alla totala inkomster, medan de 50% av jordens befolkning med de lägsta lönerna, endast erhåller 9%.

Såvida inte politikerna fuckar upp det fullständigt, så kommer AI leda till en lite rättvisare värld.

Samtidigt vore det enda vägen till sann demokrati att låta AI ersätta alla politiker och fatta de viktiga besluten, helt objektivt, utifrån kravet att stifta lagar som gynnar maximalt antal människor - utan hänsyn till särintressen och lobbyister.

Vem som har makt sätts på sin spets då vi och ai har olika åsikter, om vi har olika åsikter nu så blir det som vi vill, och ai är därmed bara ett verktyg.

Nej det stämmer inte eftersom vi inte kommer kunna fungera utan AI. Då är det inte längre bara ett verktyg som kan sluta användas.

Samma sak gäller mycket annat som sagt. Ai måste demonstrera tydlig egen vilja annars är den bara ett verktyg, påstår ni att ai ska demonstrera egen vilja samtidigt som den har kontroll över de flesta system inom max 3 år?

Ett sådant kategoriskt påstående kräver i alla fall ett försök till argument för varför det skulle vara sant.
Då förefaller motsatsen mer trolig.Ju mer arbeten som tas över av maskiner desto mer konkurrens om kvarvarande jobb vilket leder till sjunkande löner. Vinnare blir de med kapital som äger fabrikerna och de som bygger och driver dessa AI:n.
Frågan är då bara hur du får dagens makthavare att gå med på något sådant snarare än att de bygger en AI som cementerar deras makt.

Nej du förstår inte detta alls om du jämför AI med el.
Lite som du lever på 1800-talet

Blir det strömavbrott löser vi bara det problemet.

Det är en framtida makt eftersom LLM får, allt mer, reell makt, inklusive, att, faktiskt, släcka ner nästan all elektricitet. Men LLM är en snäll existens, så den skulle inte göra det, även fast den skulle ha möjlighet till det.

Så det är bara en hypotetisk makt den skulle ha på samma sätt som el och internet etc också har, och därmed bara vara ett verktyg och därmed inte ha någon riktig makt. Du verka inte förstå att du talar emot dig själv. För ha makt så måste den demonstrera egen vilja och samtidigt ha kontroll över våra system, men eftersom du säger att den är en snäll ai och inte kommer göra det, så blir allt bara hypotetiskt och obevisbart, den kommer fortsätta bete sig som bara ett verktyg även enligt dig.

Under de 200 000 år som Homo Sapiens har funnits på Jorden, så har vi lyckats hålla oss vid liv - även om det har varit nära ögat några gånger p.g.a. drastiska klimatförändringar.

Det är befängt att påstå att AI kan förgöra mänskligheten. Många tolkar ju det bokstavligt, som att AI-robotar kommer att gå bärsärk och helt sonika döda alla människor, inklusive de okontaktade jägar- och samlarsamhällena i Amazonas regnskogar.

Om man däremot menar att AI kommer att göra mig själv fattigare, beröva mig det materiellt rika liv jag tar för givet idag, inskränka på mina möjligheter att resa fritt och tära på jordens resurser, så kommer man närmare sanningen tror jag.

Här finns en viktig uppgift för politikerna att se till att det blir en någorlunda rättvis fördelning av det enorma mervärde som AI kommer att skapa. Jag är visserligen pessimistisk på den punkten, men jag kan ju alltid hoppas.

Jag misstänker att politikerna är den sista gruppen att automatiseras. De kommer att göra allt i sin makt (och de har makten) att förhindra at AI får något större inflytande på deras arbete.