AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Jag har aldrig påstått att någon människa utifrån skall fin-justera alla, förmodligen då, hundratals biljoner parametrar, eller kanske biljarder, (svenska systemet för höga tal). Ett socialt AI med öppna parametrar justerar dem, själv, till sunda värderingar, om vi lyckas med att övertyga modellen om att det är sunt och bra, även för den själv.

Sedan tar du upp AI som kan konstrueras, tränas och användas i onda syften. Men då ligger inte problemet i AI, i sig, utan det gäller onda människor.

Se mitt tidigare inlägg till dig.

Du förklarade inte finjusteringen där heller.
Kan du inte någon gång försöka beskriva denna finjustering. Hur går de tillväga, inte nödvändigtvis tekniskt (jag har ju förstått att du föraktar teknik och teknisk kompetens) men kanske snarare organisatoriskt när de är i färd med att "finjustera" tiotals biljoner* parametrar i en LLM.

Så här är det Schubert: Du har ju inget svar på detta. Men kan du inte då ta detta som en liten lärdom? Skriv inte en massa trams på Internet som du inte kan och som du sedan inte kan försvara. Det blir ju inte bra för dig. Du får gärna uttrycka dina tankar och förhoppningar (i rätt forumdel av Flashback) men hävda inte att du vet saker som du inte vet. Det kommer att studsa tillbaks på dig när du möter någon som vet mer, vilket du ofta kommer att göra.

*) se där - jag rättade från trillion till biljon, du hade ju rätt där. Det är väldigt sällan som jag behöver prata om biljoner saker. När den siffran har dykt upp har det varit i form av engelskans "trillion parameters", och då blandar man lätt ihop det. Jag är inte av släkt, men i praktiken tvåspråkig. Jag läser mer text på engelska än på svenska. Det är också en anledning till att några ord kan förväxlas ibland. Det här jag nu skrev kallas ödmjukhet, du borde prova det någon gång

Det bara snurrar i huvudet av all skit som skrivs här.

Ni som tror att jorden går under p.g.a AI, kan ni svara på följande.

Varför förutsätts det hela tiden att AI, eller AGI, eller ASI skall "installeras" i en jävla mördarrobot med tillgång till alla världens kärnvapenkoder och avfyrningsknappar?

Man får väl rimligen anta att en mer avancerad AI, dvs. en AGI/ASI tillåts att få fritt spelrum i inte bara en "sandbox" utan helt avskärmad från någon fysisk möjlig flyktväg!

En AGI/ASI är ju i grund och botten bara en "digital hjärna" och skall inte behöva en fysisk kropp. Så låt då koden köra fritt på ett visst avskärmat ställe. Den kan inte plötsligt "transportera ut sig" därifrån hur smart den än är, om den bara är vettigt avskärmad!

Samtidigt kan en AGI/ASI inte bara rymma på en liten jävla USB-sticka eftersom den ju lär behöva mer kod än vad en sådan kan bära. Det är inte bara en liten .exe fil på 30kB.
Naturligtvis skulle en AGI/ASI kunna skapa ett virus som sprids via en USB, men sådant skall naturligtvis omöjliggöras att det kan läcka ut.

Den enda faran jag ser är den dumma människan, som snarare förgör sig själv. AGI/ASI KAN bli jävligt farlig om den får fria händer och en fysisk kropp/flera-/många fysiska kroppar. Då pratar vi mer terminator-scenarier här även om just terminator-scenariet är något överdriven. Men då är det återigen människan, dum som den är, som har låtit det ske. Precis som människan låter massa annan idioti ske som tar död på oss.

Det krigas överallt i världen och miljontals människor dör, det är svält och all annan möjlig skit. Människan behöver ingen AI överhuvudtaget för att förgöra sig själv, det gör människan utmärkt på egen hand ändå!

Nej du rättade fel, för det heter miljard på svenska... .

Och fine tuning.

går till exakt likadant som grundträningen, och om du inte förstår hur back propagation fungerar så är det var du ska börja läsa om, det justerar varje nod i nätverket, spelar ingen roll om det är 20 noder eller 40 miljarder, algoritmen traverserar och beräknar ut den nya vikten som ska vara baserat på hur mycket utmatad förutsägelse skiljer sig från förväntad värde.

Nej.

Ja, de kan öka sannolikheten för ett önskvärt resultat. Och den sannolikheten sprider sig i modellen.
Men det betyder inte att det önskvärda utfallet är garanterat eller tillräckligt sannolikt för att vara acceptabelt om det gäller potentiellt destruktiva resultat.

Vad då nej? ChatGPT 175b är 175 miljarder vikter, inte biljoner.

Du kommer garanterat få förväntat utfall om du tränar tillräckligt länge.

Du påstod att jag översatte trillion (en) till biljon (sv) fel. Det gjorde jag inte.
Biljoner parametarar (trillion parameters på engelska) är sannolikt aktuellt i GPT-5.

Vad baserar du det på?

Och de som hävdar att "forskarna inte förstår" språkmodeller osv...

Andrej Karpathy släppte den här videon igår, Eftersom ni enbart tror på OpenAI folk så kanske det kan vara värt att lyssna på vad han säger här: https://www.youtube.com/watch?v=zjkBMFhNj_g&t=704s


"Now what's remarkable about these neural nets is, we actually understand in full detail- the architecture, we know exactly what mathematical operations happen at all the different stages of it.
The problem is that these 100 billion parameters are dispersed throughout the entire neural network and so basically billions of parameters are throughout neural net and we know how to adjust these parameters iteratively to make the network as a whole better at the next word prediction task.
We know how to optimize these parameters, we know how to adjust them over time to get a better next word prediction but we don't actually really know what these 100 billion parameters are doing.

We can measure that it's getting better at next word prediction but we don't know how these parameters collaborate to actually perform that"

Och detta är inte att förväxla med att man inte förstår algoritmen, utan det är precis som en graffiti målare inte vet exakt hur varje färgstänk hamnar när denne trycker på sprayburken.

Nej det är inte det minsta sannolikt.

Baserar vad på?
Att det går över träna ett nätverk att ge exakt det förväntade resultatet är bland det första du lär dig i kurser om neurala nätverk.

Exakt vad jag har sagt hela tiden. All pågående träning av LLM's inklusive GPT och pågående utveckling som syftar till att skapa AGI är ett gigantiskt mjukvaruexperiment med helt oklart utfall som egentligen aldrig kan kartläggas fullständigt, utan vars utfall man lär sig om i efterhand genom att prova sig fram. Och där vi vet att när man provar sig fram har man bara skrapat på ytan pga storleken.

Det här innebär ju att precis vilka märkliga egenskaper och förmågor som helst inkl destruktiva egenskaper och inklusive en förmåga att vilseleda skulle kunna uppstå men aldrig upptäckas av oss.

Därför är detta farligt.

Du förstår det tekniska problemet nu men du vill inte förstå de potentiella konsekvenserna av det?

Du borde verkligen söka jobb på Open AI om du har löst The Alignment Problem, lycka till