AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Suck, man "tämjer" den inte när den hunnit blivit ett starkt ASI. Man anpassar den till mänskliga värderingar långt dess förinnan. Man håller redan på med detta med dagens LLM under fin-justeringen och vid andra justeringar som man gör löpande. När vi väl får ett svagt AGI så blir detta ännu viktigare och man måste dra ner på utvecklingstakten av mer kapabla modeller.

När medelstark AGI kommer måste man arbeta ännu intensivare med detta, gärna med ett tvärvetenskapligt team. Dessutom måste det till en längre träningspsus så vi har gott om tid för detta. Ett svagt ASI, ( alltså i nivå med mänskliga experter på alla mänskliga Kognetiva områden). Ett svagt ASI måste skapas i skyddad laborationemiljö och får inte "släppas loss" innan det undersökt ytterst noga och spärrar emot självförbättring måste finnas innan dess. Men långt innan dess så måste vi undersöka/anpassa och förhandla med ett ev. medvetet AGI.

(Jag har redan beskrivet hur nära knuten dagens LLM är till människan, vilket mycket troligt även kommer att gälla AGI, och om vi sköter det rätt; även svagt ASI. Just pga denna anknytning så tror jag vi har nytta av beteendevetenskap för framtidens "alligement problem". Men i längden så är det att frivilligt bli cyborger som gäller för oss, (eller, de flesta av oss).

För mig är det uppenbart att något kan ha bättre förmågor än vad mänskligheten har utan att den för den sakens skull vara övernaturlig och ren magi. Du verkar tro tvärtom. Tror du att t.ex. schackdatorer besitter övernaturliga förmågor? Om inte, varför svamlar du då om "övernaturliga förmågor" när INGEN nämnt något om det?


Citera mig när jag sagt det. Just det, ja - det kan du inte eftersom att du ljuger. Du kan söka igenom alla mina 3000+ inlägg och Max Tegmark nämns inte i ett enda inlägg. Detta är nämligen första inlägget jag någonsin nämner hans namn ens.

Men så är det om man är en svagbegåvad, känslostyrd imbecill och nolla som dig som saknar argument - då har man inga argument att komma med och får hålla sig till lögner.

Känns det bra att vara en sådan nolla som dig som måste ljuga eftersom att blir förnedrad gång på gång och du avslöjas med att ha exakt noll argument?


Halmgubbe. Ingen har pratat om dagens teknik utan vad som kommer komma. Försök bemöta ett argument jag presenterat och inte vad du inbillar dig att jag sagt.


Återigen så svamlar du om dagens teknik som är helt irrelevant. Dagens grafikkort kommer vara ett skämt i jämförelse om fem år, tjugo år eller tvåhundra år in i framtiden.


Någonstans så kommer så klart naturens lagar att strypa dess förmåga, men att denna förmåga och beräkningskraft vida överstiger mänskligheten är en självklarhet. Redan idag så har inte en människa ens i närheten av samma beräkningskraft.


Du svamlar återigen om dagens teknik som att det vore relevant. Även om AGI skulle uppstå imorgon med dagens teknik och bara vara precis lika intelligent som en människa så hade den ändå varit helt överlägsen människor då dess beräkningskraft är så ofantligt mycket starkare och snabbare.


Mer svammel om dagens teknik som är helt irrelevant. Tror du chippen om trettio år, eller tvåhundra år eller varför inte tiotusen år in i framtiden kommer ha samma prestanda som dagens? Det verkar så.

Ditt argument verkar vara att vi redan nu nått taket för vad som är fysiskt möjligt vilket givetvis är helt befängt.


Du argumenterar mot dina hjärnspöken. Att AI kommer integreras överallt i samhället är en självklarhet - det görs redan idag.


Krama din snuttefilt hårdare! Nu är du sådär känslosam igen, gumman.

Allt du skrev här var helt irrelevant eftersom att du redan i ett tidigare medgav att vi kommer utveckla en AGI/ASI i framtiden. Det är vad saken gäller, och vad dagens teknik möjliggör eller inte möjliggör är därmed irrelevant. Inte med ett enda ord besvarade du detta:

Varför är inte en entitet med förmågor som vida överstiger mänskligheten, som vi aldrig kommer kunna förstå och vars intresse inte sammanfaller med mänsklighetens ett hot?

Starkt inlägg! När du inte rakt ut ljög om att jag sagt vissa saker, som det om Tegmark, så var resten halmgubbar. Ännu ett fullständigt innehållslöst inlägg där du är helt oförmögen att bemöta argumentet.

Se så, lämna tråden nu - du tillför ändå inget och du påstod ju själv att du "inte bryr dig det minsta" om det här ämnet, så upp till bevis nu.

Hur ska detta gå till har du tänkt dig? Särskilt om vi pratar om en AGI/ASI som kan skriva om sin egen kod. Att tämja den är ju precis vad det rör sig om - tämja den till att följa mänsklighetens intressen. Jag ser det som lika sannolikt som att en myra ska kunna tämja en människa.

Vi är den svagare parten här. Exakt hur mycket svagare kan man fantisera om men likväl helt säkert den betydligt svagare parten, och den svagare parten är inte den som tämjer den starkare parten.


Jag håller med om att skyddad laboratoriemiljö är ett krav, men det tåget har redan passerat för längesedan. Det kommer inte ske och det sker inte idag heller med dagens teknik. AI kommer inte utvecklas i ett helt slutet system. Det finns inga incitament för det.


Även om man skulle förutsätta att den fungerar precis som en människa, och att det ens finns en lösning på alignment problem, så hade jag inte varit hoppfull då vi inte ens löst "alignment problem" för mänskligheten än, och med största sannolikhet aldrig kommer lösa. Konflikt är oundvikligt, och en konflikt med en entitet som du själv beskriver likt nedan innebär förstås en enorm risk.

Jag känner inte till något fall där en schackdator har varit ett hot mot mänskligheten, gör du???


Jaså ska vi vara fakta enliga nu, det går tydligen bra att ljuga när du gör det resterande vet du ju är lögn också eftersom du kommenterat på åtskilliga inlägg med mina argument.
Ärligt det kvittar mig totalt vad du tror eller tycker om mig, du tappade all kredibilitet för mig när du började ljuga för ca 5 inlägg sedan, krama nu snuttefilten själv och andas djupt i stället för att frusta så du behöver få hem psykakuten

Återigen bevis på att du lever inte i vardagen, vad är det du argumenterar om? Ena sekund säger du och dina likasinnade att AGI kommer överrumpla oss, att vi inte är förberedda och det kommer ske snart, jag frågar återigen var fan ska den få tekniken ifrån? AGI kommer per definition köras med vår nuvarande teknik (när nu än är) du tror något kommer skilja sig när det händer mot nu? Det står massa server hallar tomma redo att intas, det kommer finnas ett överflöde på beräkningshårdvara som ingen använder osv.

Nej jag säger bara att vi ligger så nära taket som är fysiskt möjligt med den teknik och den väg framåt vi känner till, fattar du inte vad det innebär- det innebär om VI inte gör banbrytande upptäckter inom när framtid så kommer det vara en variation på ungefär vad vi har idag som finns i framtiden också, precis som man körde i Ghz taket på 2000 talet, man jobbar runt det genom att bygga på "bredden" med fler kärnor osv och de största framsteg som gjorts senaste 10 åren är i stor majoritet till krympt process att gått från 135nm till dagens 5/3 som är standard på det modernaste är huvudsakliga anledningen till att du sitter med datorer som är så snabba och svala som de är idag. Men som sagt meningslöst att ens försöka diskutera med någon som inte vet ett skit om vad denne pratar om.

Och nu förväntar jag mig inte lågpannor som dig ha sett mönstret men litografi tex tenderar att ungefär halveras varje gång, alltså ~130nm till ~75nm till ~40nm till ~22nm ~14nm osv och det är det som gör det svårt när man är nere på 3nm (så svårt att man slutade ha en definition på vad man faktiskt mäter och menar med 7nm osv nu för tiden), varför dessa hoppa? För att det kostar enorma pengar att framställa och tillverka maskiner för detta, en halvering ger teoretiskt en dubblering av prestanda (antal transistorer du får plats med) vilket gör prestanda klivet delvis följer kundernas förväntan (som förväntar sig Moores lag) och gör det skäligt att ta ut ett högre pris, det är ingen som är intresserad av ett 5% snabbare chip för dubbla kostnaden i produktions industrin, då fortsätter man hellre köra på det något långsammare.
Tex https://www.youtube.com/watch?v=q5PcFsG9X24&t=1725s så förklaras det lite mer pedagogiskt här, det finns inte en ena chiptillverkaren som har ens på roadmap idag att gå under 1nm för det finns inte i vår teknik att kunna på någon betydelsefull skala i alla fall, det är ingen som är intresserad att investera i något som kanske ger två fungerande kretsar på en kiselskiva som kostar mellan 70000 och 90000 att köpa in.


AI är en teknik det du argumenterar om är AGI och dessutom intelligent och medveten sådan eftersom du tror den ska döda mänskligheten, du kommer aldrig under hela din livstid se ett medvetet kylskåp eller brödrost det är jag helt säker på och det enda sätt något sådant skulle kunna uppnås är genom trådlös kommunikation, vilket är det enklaste som finns att störa ut och som det redan finns exempel på hur det gjorts i stor skala i Ukraina tex.


Gumman? Jaha det är härskarteknik igen och tydligen är du en mansgris också, du har mycket på din repertoar men tydligen inte kunskap eller någon större metal förmåga annat än glop ord och lögner.

Så så puss puss jag kommer inte lämna tråden.

Det var du som likställde något med övernaturliga förmågor om dess förmåga överstiger mänsklighetens. Så återigen, varför började du svamla om "övernaturliga förmågor" när ingen nämnt det?


Varför ljög du om att jag skulle ha sagt att Max Tegmark är "Sveriges vassaste sinne"? Citera mitt inlägg där jag sagt det eller håll käften.


Jag har aldrig sagt att det kommer ske snart utan snarare varit väldigt tydlig med att tidsskalan är helt irrelevant. Ännu en halmgubbe.


Tekniken går framåt - det är ganska enkelt att inse.


Haha! Ja, självklart är vi vid taket för vad som är möjligt med DAGENS TEKNIK!


Sluta skäm ut dig nu. Om ditt enda argument är att tekniken inte kommer gå framåt så är du helt verklighetsfrånvänd och desperat.


Om den är medveten eller inte är faktiskt helt irrelevant och inte heller är det en del av mitt argument. Så ännu mer halmgubbar från dig.


En entitet som är helt överlägsen oss utgör ett hot och innebär enorma risker, ja. Människan är ett hot mot samtliga djur på planeten helt enkelt för att vi är helt överlägsna. I detta finns en skev maktbalans som du aldrig kan komma ifrån.


Återigen, helt irrelevant argument där du återigen åberopar en tidsskala i närtid. Du har redan i ett tidigare inlägg medgett att vi kommer utveckla en AGI/ASI någon gång i framtiden. Om det sker nästa år, om hundra år, eller tio miljoner år in i framtiden är alltså helt irrelevant för argumentet.


Du menar som när du rakt ut ljög att jag skulle ha sagt att Tegmark är "Sveriges vassaste sinne"? Varför ljög du om det, lilla gumman?


Självklart inte - det var ingen som trodde det. Alla förstod förstås att du ljög när du påstod att du inte har det minsta intresse av ämnet och tråden. Inte heller kommer du att bemöta detta eftersom att du inte har något argument:
Varför är inte en entitet med förmågor som vida överstiger mänskligheten, som vi aldrig kommer kunna förstå och vars intresse inte sammanfaller med mänsklighetens ett hot?

Och jag har frågat dig ungefär 5 gånger (implicit) hur tar sig en person med intelligens som långt överstiger "mänsklighetens" ut ur en fängelsecell?

Du gör massa korkade antaganden och sen sitter du och retar upp dig när inte andra köper din logik som uppenbart beror på grav inkompetens.

Resterande av svamlet har jag svarat på.

Vilken fängelsecell? Det existerar ingen sådan och även om det skulle göra så varför tror du att jag är kapabel till att förstå en entitet som är tusentals, eller miljontals gånger mer intelligent än hela mänskligheten tillsammans?

Din fråga är lika absurd som om du skulle fråga hur människor tar sig ut ur fängelseceller som myror konstruerat. En myra kommer aldrig kunna konstruera en sådan cell av uppenbara skäl. Du verkar inte förstå det simpla faktum att det råder en skev maktbalans som aldrig går komma ifrån desto mer våra förmågor och intelligens skiljer sig.


Jag gör två antaganden och du höll med om båda tidigare i tråden. Det är allt någon behöver anta för att förstå att AI kan innebära enorma risker.
1) Människan kommer fortsätta göra framsteg inom AI.
2) Det är möjligt att skapa intelligens i ett material som inte är organiskt (som våra hjärnor).


Nej, inte alls. Jag väntar fortfarande på svar på detta:
1) Varför är inte en entitet med förmågor som vida överstiger mänskligheten, som vi aldrig kommer kunna förstå och vars intresse inte sammanfaller med mänsklighetens ett hot?
2) Varför ljög du om att jag skulle ha sagt att Max Tegmark är "Sveriges vassaste sinne"?

Men du är ju fullt kapabel att förstå och föreställa dig vad en sådan entitet skulle kunna göra i övrigt och jag vet inte riktigt vad det är du inte förstår med liknelsen.

Men som sagt jag lägger ner jag orkar inte jag har gett dig ett par chanser till nu och det är som att prata med en vägg, en jävligt ful sådan.

Abstrakt tänkande kräver ju att man besitter en viss IQ-nivå - något som det är uppenbart att vissa skribenter här saknar.

Det räcker med att ta olika människor för att illustrera hur tydligt detta är. Ta någon som är lindrigt utvecklingsstörd, låt säga runt 50IQ och låt personen lyssna på när Stephen Hawking (160IQ) pratar om Hawkingstrålning. Hur mycket kommer denna person kunna förstå? Väldigt lite, om ens något, och då är det bara en skillnad på tre gånger högre intelligens i Hawkings fall vi pratar om. Redan då är det en omöjlighet att förstå den andre parten.

Att då förutsätta att vi ska kunna förstå och kontrollera något som kanske är tusen gånger mer intelligent än den smartaste människa som någonsin levt är helt absurt, och då är det inte ens med i ekvationen att den mänskliga hjärnan är ungefär tio miljoner gånger långsammare än en dator i dagsläget.

Mänskligheten dominerar planeten av ett enda skäl - vår överlägsna intelligens. Inget djur är ens i närheten av att vara ett existentiellt hot mot oss men vi är det mot alla andra djur på planeten. Vi hade kunnat utrota alla elefanter precis när vi känner för det och det finns absolut ingenting elefanterna skulle kunna göra åt saken. Här existerar en uppenbar maktbalans som är helt skev - på exakt samma sätt skulle en skev maktbalans existera mellan mänskligheten och en entitet/entiteter som besitter en intelligens som är helt överlägsen våran.

Vad kommer hända om vi introducerar en ny varelse/entitet (eller vad man nu vill kalla det) som besitter en intelligens som är helt överlägsen mänsklighetens? Allt vi vet om verkligheten talar för att den kommer dominera planeten och vi kommer inte vara herre på täppan längre. Den kommer tämja oss och inte tvärtom. Detta skulle tydligen innebära exakt noll risker för mänskligheten och vara i mänsklighetens intresse enligt förnekarna i tråden, men vad tyder på det? Absolut ingenting, allt tyder på motsatsen, och man får aldrig heller ett svar på det från förnekarna när man frågar.

Människor dominerar inte planeten, det är skrattretande att se er två i unison, den ena som dessutom hävdat att GPT-4 ska få ben och rymma i flera månader.

Det som dominerar planeten är i ordningen (virus som visserligen inte är riktigt levande), bakterier och insekter. Och de är knappast överlägset intelligenta.

Det är inte konstigt ni har en väldigt skruvad uppfattning om situationen sedan sitta och dilla om Stephen Hawkings, Roger Penrose (som för den delen har debatabelt än högre IQ och inte tillhör AI domedags sägarna utan tvärtom inte tror att vi kommer kunna skapa en artificiell medveten intelligens).

Intet sägande argument som enbart går ut på att klappa varandra på ryggen. Tum och tott.

Du är alltså oförmögen att förstå enkel skriven text och vad ordet djur innebär eftersom att du tror att virus och bakterier ingår i den kategorin. Du kanske borde ta och läsa lite grundläggande biologi? Att insekter skulle vara ett existentiellt hot mot mänskligheten eller kan diktera villkoren och dominera mänskligheten är givetvis ett helt befängt påstående enbart en mycket svagbegåvad individ skulle kunna göra på fullt allvar.

Existerar det en skev maktbalans mellan två parter desto mer intelligensen skiljer sig? Ja eller nej. Du kan pröva att det bemöta det i nästa inlägg istället för att få ett känsloutbrott eller börja hitta på lögner om jag skulle ha sagt att Tegmark är "Sveriges vassaste sinne". Varför ljög du om det förresten, gumman? Du har fortfarande inte citerat mig där jag skulle ha sagt detta. Märkligt - jag undrar varför.

Att diskutera med dig innebär bara slöseri med tid och energi. Du har redan bestämt dig för AI-utvecklingen kommer att sluta med en existentiell katastrof för människan. Det spelar ingen roll vad jag skriver. Du fortsätter att babbla samma saker med en dåres envishet i alla fall.

Tack alla, verkliga, AI experter som redan nu arbetar seriöst med AI-säkerhet och planerar för era framtida insatser, och inte leker "experter" på Flashback eller spelar Allan på Ted-talks.