AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Nej, det är inte sammanfattningen av tråden, utan av dig. Du är den enda i tråden som inte ens har ett argument för din sak.


Dina känslomässiga utbrott i tråden är helt ointressanta. Likaså är dina taffliga försök till karaktärsmord genom att länka till helt irrelevanta tweets som inte ens berör ämnet och tråden. Vill du ha din snuttefilt?


Då får du motivera varför, men det kan du inte. Om du skriver under på dessa antaganden så följer det att vi en dag kommer ha skapat verkligt intelligent AI/AGI/ASI, och bli allt mer beroende av denna teknik, och av det följer per automatik alignment problem. Du får gärna hur förklara hur en intelligent entitet (vida överlägsen människans förmåga) som vi är beroende av och som inte har människans bästa intresse i åtanke inte skulle vara ett problem.

Som jag sa jag skrivit här i tre månader, du har inte speciellt bra koll.

Tycker den enda som har känslomässiga utbrott och som blir sårad när någon inte tycker som sig själv, är du. Barnslig är du också.


Jag har motiverat varför om och om igen, scenariot du målar upp är inte realistiskt överhuvudtaget idag och om det någon gång kommer bli realistiskt så är det helt osannolikt att en ny upptäckt sätts direkt på internet, installeras omedelbart på NORAD och i varenda kärnkraftverk.

Det kommer inte vara svårare att kontrollera en AI än det är att hantera vilda djur eller kriminella.

I övrigt är jag klar att diskutera med spån som dig och fokuserar hellre på de som inte har gråten i strupen över obefogad paranoia.

Såja, ta och krama din snuttefilt riktigt hårt så kanske du lugnar ner dig.


Ingen har pratat om hur det ser ut idag.


LLMs är redan idag på internet så att du tror på något sorts black box-scenario med ett slutet system är helt verklighetsfrämmande. Likaså är ditt argument om att AI inte skulle integreras mer och mer i samhället och göra oss allt mer beroende av tekniken när det redan sker idag.


Vilket vilt djur eller kriminell har förmågor som vida överstiger mänskligheten? Du verkar tro i din villfarelse att vi bara kan dra ut sladden och stänga ner AI om problem uppstår, men detta är lika infantilt att tro som att vi bara kan stänga ner internet utan problem.

Intressant också hur du först hävdar att inga risker med AI eller alignment problem ens existerar till att du i nästa inlägg medger att det finns risker, men dessa risker är förstås inte större än ett vilt djur.

Sen har vi ju också den lilla detaljen att även om man helt skulle bortse från alignment problem så existerar mängder med helt uppenbara risker som du blundar för.


Det sa du förra gången med efter att du gick förlorande ur diskussionen. Tills nästa gång - och försök att skriva ett inlägg i alla fall som har något innehåll tills dess.

Intelligens ger inte övernaturliga förmågor, LLMs är inte några AGIer och kommer inte vara på överskådlig framtid heller.

Det är aldrig någon som påstått att någon teknisk utveckling är riskfri, all teknik kan missbrukas.

Men att det skulle utrota mänskligheten finns inte på kartan över teoretiska utfall, att någon ens kan tro något sådant är helt banalt egentligen.

Utöver det att ljuga i en diskussion är fruktansvärt dålig retorik, men kanske förväntat när man diskuterar med någon som har en fantasi och en mental kapacitet som en sexåring.

AI är ett problem och den dumma medelklassen förstår inte riskerna.

De förstår riskerna men är så omhuldade att de tänker att ”Det är någon annans problem” och räknar med att någon ska lösa det åt dem innan någon drabbas.

Halmgubbe. Ingen pratar om övernaturliga magiska förmågor utan förmågor som vida överstiger mänsklighetens.


Ingen har påstått det heller så helt irrelevant. Vilken tidsskala vi pratar om för AGI/ASI är också helt irrelevant, och du medgav i ett tidigare inlägg ett vi kommer utveckla en AGI/ASI någon gång i framtiden. När exakt detta sker är alltså helt irrelevant för ämnet.


Nja, nu har du upprepande gånger förnekat all form av existentiell risk och inte en enda gång har du gett en motivering till varför mer än "bara en idiot kan tro något sådant". Du gör det igen här nedanför. Detta är inget argument på samma sätt som "jorden är platt, att någon ens kan tro att jorden inte är det är helt banalt" inte är ett argument.

Varför har du så otroligt svårt för att presentera ett argument? Som jag sagt många gånger så är dina inlägg helt innehållslösa. Dina känsloutbrott och förolämpningar är helt ointressanta och signalerar snarare bara att du känner en enorm frustration över att din position du tar i den här frågan inte är väl understödd.


Det finns inte ens på den teoretiska kartan alltså att en entitet som överstiger mänsklighetens förmåga så pass mycket att vi inte ens har kapaciteten att föreställa oss den inte skulle kunna utrota mänskligheten? Varför?


Krama snuttefilten riktigt hårt. Jag har hört från beteendevetenskapen att det hjälper lugna känslostyrda människor som blir arga när argumentet tryter.

Du gjorde ju det ovan. Du tror att något smartare än människan gör det omöjligt att hålla det isolerat från omvärlden, du har flera gånger skrivit och antytt att vid eventuell AGI så kommer man koppla det på internet (inte för det lär ha någon betydelse ur människans existens), för när började den praxisen användas inom mjukvaru-tillverkning menar du? Continuous delivery utan tester?
Och du tror inte företag redan idag är väl medvetna om externa attacker, du är så korkad att du tror att det enda hotet mot en eventuell AGI kommer inifrån, du tror inte det skulle ligga i varenda konkurrents intresse (företag, stat osv) att korrumpera denna AGI och man inte redan är väl medveten om det?

Det är så uppenbart att du förstår inte ett skit vad du pratar om.


Att du inte kan hålla en konstruktiv debatt utan att använda härskartekniker och ad hominem argument är skandalöst men du har inte mycket att komma med i de här diskussionerna eftersom du står helt utan grund i dina argument och det enda baseras på "okända", vilket är så långt från vetenskap man kan komma och du kommer inte hitta ett enda vetenskapligt underlag för något som du svamlar om i inlägg efter inlägg.

Men, herre Gud! Tror du ändå inte att man i alla fall skulle bygga på delar av LLM när man konstruerar framtidens AGI och ASI?

Modellerna är tränad på mänsklig data ifrån internet.

De fin-justeras av människor men också med hjälp av annan AI.

De interagerar med massor av människor. Vid justeringar och till ny träningsdata kan material därifrån användas.

Modellerna har en meningsrymd som de skapat själva med tokens, ord, meningar, och i förekommande fall bilder, röster och längre fram med strömmande video och erfarenheter ifrån den verkliga världen som de får ifrån humanoidrobotar som de styr.

I sin meningsrymd kan de hämta kontextuell förståelse för människan.

De kommer att få allt fler modualliteter som påminner om våra egna.

Modellerna kommer också att bli allt skickligare på att simulera mänskligt beteende och känslor genom antingen digitala avatarer eller humanrobotar.

Sedan om eller när modellerna blir medvetna på något som påminner om mänsklig nivå osv. Återstår att se. Men det skulle vara ytterst förvånande om man inte använder delar av dem, eller delar av deras funktionalitet i framtida AGI och ASI.

Men du tror alltså att framtidens AI kommer, att vara som "alien" för oss, utan att ha påverkats, ett dyft av människan? Men jag håller med om att starkt ASI kommer att vara något, som vi inte ens kan Föreställa oss. Förmodligen så kommer en sådan existens kunna förnimma/förstå/utnyttja delar av ruliaden som inte vi har tillgång till och därmed, teoretiskt sett, kunna bryta mot fysikens lagar som vi känner dem.

Är något övernaturligt, alltså ren magi som bryter mot naturens lagar, för att det är smartare eller har förmågor som överstiger mänsklighetens? Är en miniräknare magi och övernaturligt i din värld?


I teorin är det inte omöjligt, men i praktiken kommer det vara en omöjlighet då tekniken blir allt mer lättillgänglig. Det finns ingen anledning att framtida AI skulle vara i ett slutet black box-system när dagens AI-teknik redan har tillgång till hela internet.

Hur har du tänkt se till att en AGI/ASI inte får tillgång till internet? Låt höra.


Alla kan nog läsa tråden och se vem som håller sig saklig och vem som har personangrepp i varenda inlägg. Att jag påpekar att dina inlägg är innehållslösa och saknar argument är inte ett personangrepp. Dina känslor är inte intressanta - när ska du förstå det?


Jag har presenterat mina argument - du har inte gjort det. Halmgubbar, förolämpningar och känsloutbrott räknas inte. Det kan man tydligt se i och med att jag i just föregående inlägg bad dig om ett argument och motivering och innehöll ditt svar nu något sådant? Självklart inte.

Det närmaste du kommit en motivering och argument är att en AGI/ASI inte kommer vara ett större hot än ett vilt djur typ som en älg som dyker upp i trädgården antar jag.


Varför är inte en entitet med förmågor som vida överstiger mänskligheten, som vi aldrig kommer kunna förstå och vars intresse inte sammanfaller med mänsklighetens ett hot? Låt höra eller ska du fortsätta med dina innehållslösa inlägg?

Men vi gick redan igenom det här och det finns inget hos en LLM som fungerar som mänsklig kognition. Som sagt, en LLM lär sig bara de statistiska sambanden mellan tokens.

Denna teknik kan vara kraftfull nog för att utgöra mängder med hot, vilket alla kommer bli varse om i en väldigt nära framtid, även fanatiskt religiösa optimister som sticker i huvudet i sanden och vägrar se minsta risk med AI, men det är en annan diskussion än den om riskerna med riktig AGI/ASI och alignment problem.


Du gör liksom hela min poäng här. Varför skulle man kunna tämja en sådan överlägsen existens med beteendevetenskap som du verkar tro?

Det är du som ska förklara det i stället för att tugga samma argument om och om igen, har du inget att komma med själv eller är det enbart Max Tegmarks ord du repeterar? "Sveriges vassaste sinne" som du uttryckt det.

Men jag ska förklara en sista gång och jag ska bemöta dig med exakt samma ordföring och retorik du själv för så kanske en imbecill som dig förstår.


Först och främst är hela premissen att en AI ska kunna "exponentiellt" kunna förbättra sig själv med den teknik vi har överhuvudtaget helt att glömma, för är det något som befinner sig på absoluta framkanten av vad vi kan prestera är det chip litografi.
Men det förstår inte små barn, de tror att en AI säger "hårdvara" så kommer det hårdvara.

Men bakgrund

Vi slänger mer datakraft än någonsin på att köra språkmodeller som knappt vet bak från fram, som nu alla i den här tråden helt plötsligt (kanske för det är allt fler kända profiler som ställer sig bakom att det inte är en väg till AGI) är överens om inte är "hotet" utan nu är det framtida AIs (det där okända framtida som man kan fantisera om hur man vill, där bilar flyger och allt möjligt, det kallas science fiction) men trots det så används de kraftigaste grafikkort vi någonsin presterat till att driva dessa.

Så upptäcks/skapas en AGI idag, så kommer den vara beräkningsmässigt strypt redan från början.
Och det är inte bara att säga "ge mig mer GPU" för att lösa det av en mängd jävla anledningar.

Låt säga tex OpenAI upptäcker AGI, de har till att börja med inga egna GPUer utan det är Microsoft's Azure som står för detta, för de som har lite insikt vet att deras maskiner är överbokade så vida inte Microsoft sparkar ut andra kunder så behöver de bygga till nya maskiner (för den som tror att Microsoft har massa maskiner som står utan att göra något är återigen väldigt väldigt oinsatt).
Men även om det varit så befinner sig inte dessa på samma chip, de har väldiga flaskhalsar form av bussar och det råkar vara det största problemet just nu med tex de språkmodeller man har att de är förbannat hungriga på bandbredd.

Så vad gör AGI:n då ska den trolla fram någon hårdvara?

Ska vi ta den långsökta vägen, vi ligger på gränsen till vad som är fysiskt möjligt att producera chip i med den bästa mest avancerade teknik vi överhuvudtaget har idag, 3nm (som är det lägsta just nu med obestämd metrik) och man redan idag har enorma problem med kvantmekaniska effekter, men allt detta löser så klart AGI:n på några mikrosekunder.

Den fixar omedelbart finansiella medel och lurar människan, för ingen kan väl vara så jävla blåst att de tror att någon kommer göra något utan att få betalt för det? Vad tror du händer om säg en AGI skulle trolla fram pengar för att finansiera sin ondskefulla plan? Och det är inte ett litet dyrt projekt den tar sig an om den ska uppgradera all vår teknik med mål att utrota oss, att bygga ny litografi teknik så vi kan komma runt alla dessa problem, sen en ny chipfabrik och slutligen ska den börja mass-beställa dessa chip till sig själv, men nu tar vi till bäbis logiken här så du hänger med (och en gnutta ironi)
"men så klart är den ju inte dum utan den decentraliserar sig själv, den kommer ju placera sig på väl valda punkter på internet"
Ja för internet har ju en sådan fantastisk bandbredd och ingen operatör kommer märka något om en lina blir väldigt belastad, du fattar tydligen inte ens hur efterbliven bandbredd de flesta länder har, vi i Sverige kan sitta här med våra 1 Gb fibrer osv men det är långt från någon standard, bara i länder som man kan tro har bra standarder som USA eller Canada förekommer det fortfarande idag att hela jävla kvarter delar på 512Kbit via kabelmodem, men det kommer så klart AI:n fly igenom- och med den strömförsörjning de har där lär den få påbörja det flyktförsöket ett antal gånger.
Och du kanske inte inser det men bara modeller som GPT-3 ligger någonstans runt 350-700GB i storlek och då pratar vi inte ens era fantasifulla framtida mycket mer avancerade AI:n som ni påstår är runt hörnet.

Ja jag orkar inte gå in på det mer, jag har nog inte stött på en mer trögfattat person på internet tidigare.

-
Och för att tillägga, varför pratar jag om GPU osv? Varför skulle inte en annan algoritm kunna uppfinnas?
För att deep learning är den teknik vi har och som det forskas på idag efter som det är den mest lovande och enda som kan lösa vissa praktiska problem som mönsterigenkänning osv AI teknik som vi har i nuläget och det är framförallt träning av detta som kräver enorma mängder GPU, inte drift för modellen är helt statisk i alla regimer av deep learning när den väl är deployad (sen ja det kan finnas "rörliga" delar som i LSTM nätverk osv).

Att spekulera om teknik som inte finns återigen science fiction och då kan man lika gärna börja gräva en bunker och peppa för alien invasion som kommer i framtiden, vi har varken sett aliens eller agi:s hittills så vare sig det ena är mer eller mindre sannolikt, ska vi nu satsa mer på försvar och vapen så vi kan försvara oss mot rymdinvasionen? Jag blir så trött på imbeciller.