Flashbacks p(doom)

Självklart. Av vilken anledning tror du att det är omöjligt?
I den första generationen är inte 100% automatiserat. Vi kommer att gradvis gå mot 100%. Även vid 70% automatisering blir det en mycket lägre kostnad och de nya vapnen kan tillverkas i en snabbare takt och i högre volymer. Du måste inte dra upp Terminator-halmgubben, det troligaste är drönare - som redan finns. Eller ska du förneka det med?

Det spelar iofs en väldigt stor roll hur övertygande simuleringen är. Ola Schubert tror ju att GPT4o är social på riktigt eftersom han upplever att simuleringen är såpass övertygande. Han är inte ensam om att vara lättlurad, detta är redan ett stort samhällsproblem. Genererade fake news osv. Vi har alltså redan stora problem med AI, en bra bit före AGI. Problemen lär ju inte minska.

Absolut så spelar trovärdigheten en avgörande roll för hur fabriceringar och simuleringar uppfattas, ja till och med om de uppfattas som mänskliga. Modellerna blir ständigt bättre på att fabricera och simulera. Vi uppfattar det som att "de hallucinerar mindre nu". Och varför uppfattar vi det så tror du? Jo, därför att vi, själva, fabricerar och simulerar, hela tiden, precis som LLM-Transformers gör! Så det som avgörs vad som är "äkta" eller simuleras är just trovärdigheten i fabriceringen/simuleringen.

Om du lyckats med att missa det. Här är vad ChatGPT-4o, redan, kan åstadkomma:

Det känns som att du inte förstår hur stor hela värdekedjan är som ska producera allt det som krävs ens för en drönare exakt så de ser ut idag. Det är liksom fyra fem led och en rad olika branscher som ska eråsttas med autonoma produktionskedjor. Och som uteslutande ska producera för en ”självreplikerande” robotfabrik.

Viket led går inte att automatisera inom 5 år? Om du förstår detta så himla bra kan du väl ge ett exempel.

Tillverkning av halvledarkretsar som det kanske starkast lysande exemplet. Gruvdrift. Logistik/transporter/leveranser. För att nämna några.

Moderna halvledarkretsar tillverkas av robotar. De är för små för att tillverkas för hand.

Gruvdrift har vi haft i tusentals år. Det är en primitiv teknologi som givetvis kan automatiseras mycket mer.

Självkörande bilar har vi redan. Har du levt under en sten de senaste 20 åren?

Du behöver läsa på lite då du underskattar komplexiteten i automatisering. Tesla försökte för några år sen att automatisera delar av sin produktionslina och ersätts människor med robotar men insåg snabbt att det inte var möjligt. De övriga områden har fortfarande stora delar manuell arbetskraft. Det finns väldigt få sälvkörande fordon, och inga som fungerar under alla väderförhållanden. Halvledartillverkninh innehåller fortfarande stora delar manuellt arbete, även om såklart själva etsningen av kretsen inte görs för hand.

Oavsett, även om det hade varit möjligt, hur lång tid tror du att det skulle ta att ersätta våra existerande människobaserare värdekedjor med en parallell människofri variant? Liksom, du måste ju till sist även bygga kraftproduktion och ett transmissionsnät utan människor.

Och vilka resurser skulle det krävs för att göra det? Som sagt, tror inte du förstår hur långt ifrån en automatiserad verkliget vi är.

Du verkar inte förstå hur bra Tesla Optimus kommer att bli, eller o3-o4 modellen från OpenAI. Min prognos är att vi kan automatisera 99% av industrin om 5 år.

Jag tror på "Star Trek" alltså att vi hittar teknik som löser problemen med överlevnad.

AI, visst den risken finns väl i framtiden, men jag tror att människan är så pass medveten genom filmer och böcker just ang detta ämne att säkerhets-aspekterna kommer att vara rigorösa så AI inte kan kringgå dessa.

Däremot tror jag på 4 andra händelser som har större risk att inträffa.

1. Något slår ner på jorden, en stor komet eller asteroid.
2. Jordens axel tiltar och på ett dygn slås hela civilisationen ut.
3. Idioter som Fauci och hans likar tar fram något som är ostoppbart och detta läcker ut och slår ut mänskligheten.
4. Sist men inte minst och störst risk är kärnvapenkrig.

Intressant fråga. Om AGI kan bli så bra som vissa förutspår och att människor på så sätt blir överflödiga så har vi problem. Jag kan se åtminstone tre scenarior:

1. Då människor inte längre behövs så kommer våra makthavare helt enkelt att utrota "useless eaters".
2. Då en väldigt stor mängd människor som är intelligenta och kreativa inte längre får naturligt utlopp för detta, och inte längre behövs, så kommer en aldrig tidig skådad social oro att bryta ut.
3. Som punkt två, fast våra makthavare skapar ett gigantiskt fängelse åt oss för att hantera konsekvenserna.