AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Det finns en kraft som vill byta ut människan mot synteter med AI intelligens.

Faktum är att synteter eller biologiska synteter redan finns ibland oss. Dom är stationerade på olika ställen och framför sin agenda.

Det finns dom som har mött dessa synteter och beskrivit dom som omänskliga, utan hjärta osv. Tror det var CALIN GEORGESCU i en av hans intervjuer där han menar att en viss typ av synteter finns och det han säger är ingen metafor utan verklighet.

Det är också så att vi måste ta itu med detta nu eller betala i blod senare. Därför är det viktigt att veta vem man är, sin identitet och vad vi är.


Vi kommer att se detta men vi kommer också att bli tvungna att ta itu med detta. Vi har inget annat val.


Många tror att en robot eller syntet ser ut som det vi ser på tv. Dvs går lite mekaniskt osv, så är inte fallet. Man kan gå förbi en syntet utan att veta vad det är. Det dom visar oss på Tv och i filmer är bara en front, i verkligheten har dom kommit såpass långt att dom ser ut som vilken människa som helst men saknar något.

Det är alltså ingen robocop eller något som kan ge minsta sken av något mekaniskt. Dom kan göra en kopia av din vän och du skulle inte ens märka det.

Enl Sutskever är AGI några år bort. Vad baserar du "oändligt med tid" på?

Det vet vi inte, förutom att LLM verkar vara, helt, oförmögen till resonemang utanför modellernas träningsdata. Med diverse specialåtgärder** når LLM upp till max 44 procent för att lösa ARC-pussel de inte stött på tidigare. Människor k klarar av genomsnitt 75 procent. De är inte svåra, en femåring klarar, lätt, av många av den. Och vad jag vet så har man inte ens normalisera det hela på 100 IQ poäng. Så en del av människorna som testat pussen kan ha varit lätt psykiskt funktions varierade. Det lustiga är att GPT-4 kan skapa nya ARC-pussel, men inte lösa dem, nästan alls utan specialåtgärder!

Men låt oss titta på skalningslagarna, som Ilya Sutskrever tror så mycket på och applicera dessa på problemet ovan

Du har tränat en modell som har 175 miljarder parametrar, GPT-3. Den lyckas med att lösa endast de enklaste av pussen, och endast med hjälp av specialåtgärder.

Nu sätter du in tre gånger så stora resurser på en ny modell GPT-4, (vilket Microsoft antytt med sin jämförelse mellan en haj och en späckhuggare) . Med diverse specialåtgärder så når den upp till 44 procent. En imponerande ökning, kanske ett genombrott? Jag skulle inte tro det! För modellen ligger, fortfarande, långt under 5 åringen, trots specialåtgärderna. Och, tyvärr, eller kanske "tacka Gud!" för det, eftersom du är alarmist så fortsätter skalningslagarna att verka, men inte på det, sätt teknik-optimisterna önskar.

För nu skapar du en ny modell med hela fem gånger mera resurser, "GPT-5 nivå" , (Enligt Microsoft som att jämföra storleken mellan en späckhuggare och blåval). Låt oss då säga att denna modell, med diverse specislåtgärder, når upp till 65 procent vad gäller ARC pussel. Det är en klar förbättring men fortfarande under en femåring nivå.

Så vi går vidare och sätter in 10 gånger mer resurser och skapar en modell på "GPT-6" nivå, som med diverse specialåtgärder når 75 procent vad gäller ARC-pussel. AGI, I don't think so. För nu är modellen blott lika bra, eller lite bättre än en fem åring*.

Så nu tar vi i, rejält, och satsar 100 gånger mera, resurser för att skapa "GPT-7". Blev det ett AGI genom denna stora ansträngning? Nja, det blev ett resultat på 85, kanske börjar vi närma oss ett IQ på hundra vad gäller resonerande utanför träningsdata med stöd av diverse specialåtgärder, kanske inte.

Så nu infinner sig frågan: Skall vi satsa 1000 gånger mer resurser för att kunna uppnå ett resultat på 80-85 med hjälp av specislåtgärder och, kanske, nå en solklar AGI nivå, nja.....

Av detta lär vi oss att, enbart uppskalning är, extremt, resurskrävande och att forskning om bl.a algoritmer och andra, mer grundläggande förändringar kommer att ta tid.

Jag hoppas att detta lugnat dig något!

* Viket inte hindrar modellen att nå ASI nivå vad gäller sociologi och psykologi, då dessa ämnen kan utforskas via träningsdata. Men modellen har minimala möjligheter till "lömsk planering för att kunna utnyttja detta övertag i praktiken.

**Exemplen på specialåtgärder: Finjustering (Fine-tuning), Prompt Engineering, Meta-lärande och Feedback-loopar:

Nja. Du förutsätter här att all IT-utveckling och all vetenskap är linjär. Om vi förbättrade med 30% i år då borde vi landa på ca 30% nästa år också. Men smarta algoritmer och i fallet LLM: okända mekanismer, kan överraska oss. Jag har personligen ökat prestanda på system med många tusen procent bara genom att hitta en bättre konfiguration eller algoritm. Det är vardag inom systemutveckling att man ibland hittar enorma framsteg med en ganska liten insats. Potentialen eller den övre gränsen är helt okänd i dag. Ingen förstår exakt varför GPT-4 kan göra det den gör. Och i exakt samma kategori av okänd saker vet vi inte vad medvetande eller motivation är rent tekniskt.

Jag skulle inte kalla den minst, sagt usla uppskalnings-effektiviteten för "linjär" bara usel, i alla fall när det kommer till resonerande förmåga hos LLM utanför träningsdata, dessutom med specialinsatser. Och detta vet vi med säkerhet. 300 procents större insats av resurser ger, verkligen inte, 300 procents bättre resultat i längden, och det vet branschen, liksom du borde veta.

Absolut ingen, inklusive de största teknik-optimisterna, räknar med att de 500 procent större insatsen för att skapa en modell med "GPT-5 kapacitet" kommer att resultera i ett ASI på hög nivå när det kommer till resonemang-förmåga utanför träningsdata, plus specialinsatser. Och det du tar upp som lösning på den usla uppskalning-effektiviteten är just de specialåtgärder som de satte in. Vi får vara glada över en ca 15 procentenheter förbättring hos "GPT-5" vad gäller denna förmåga, alltså under en femåring nivå. LLM är helt enkelt inte byggt för detta. Och ännu värre kommer det att bli med nästa stora uppskalning projekt, en modell med "GPT-6 kapacitet". För ett "äkta" AGI krävs att kunna resonera utanför träningsdata. Först då kan vi få riktigt stor nytta, av AI.

Men LLM är verkligen oanvänbar, tvärtom skulle jag säga. För det var efter en muntlig och skriftlig lektion om skalningslagarna som ChatGPT-4o gav mig, som jag skrev till dig om dem. Dessutom kan nya och oväntade saker hända när man skalar upp mycket, (men inte för saker som en teknik, i grunden, inte är byggd för). Konstigt vore ju om ofantliga insatser för att öka en modells beräkningskapacitet och mängden träningsdata inte skulle kunna resultera i överraskningar, då LLM, så att säga, "själv" finner samband i datan den matats med under grundträningen.

Så jag utesluter inte alls överraskningar inom ramen för den grundläggsnde teknik LLM bygger på. Och längre fram, med modeller på "GPT-6 nivå", som inkluderar vissa förändringar i modellernas grundläggande funktionssätt, så utesluter jag inte självmedvetande. Vi vet ju, hur som helst, inte vad det är och varför det uppstår.

Jag tror att intelligens på mänsklig nivå kan ligga strax bakom ett slags tröskelvärde. Jmf med chimpanser. De har vä ca 98% av vårt DNA, de har också en jämförbart dimensionerad hjärna. Men vi människor har lite till som är just över en gyllene gräns som innebär en markant högre intelligens med nästan samma hårdvara och "träningsdata". Därför tror jag att AGI kan ligga några år bort. Vilket AI-världens egen Albert Einstein; Ilya Sutskever också tror.

Men nu handlar det om skalningslagarna och mer precis om principen minskande avkastning. För varje uppskalning av modellerna får man ut allt mindre resultat i praktiskt användbar prestanda. Detta gäller, inte minst, att få LLM att resonera logiskt utanför träningsdata. Modellerna är väldigt dåliga på detta, även om man sätter i alla special-låtgärder man kan tänka sig, och utan dessa åtgärder är modellerna, i princip, helt oförmögna att göra det.

Och detta är inte alls konstigt, vi pratar här om språkmodeller. Inom sin träningsdata kan modellerna ge imponerande resultat och komma med överraskningar inom deras språkliga och sociala domän, med en verkligen imponerande kunskapsmassa. Men att kunna anpassa sig till fenomen och uppgifter utanför deras träningsdata och hantera detta logiskt är främmande för dem. Det är lite som att ha en statisk, alltså inte plastisk, höger hjärnhalva men helt sakna den vänstra hjärnhalvan , men att ändå ha tillgång till all världens kunskap, har ett utmärkt språksinne men saknar självmedvetande och egna intentioner samt sakna autonomi.

Det tråkiga är att mycket av naturvetenskapen skulle ha nytta av AI som kan resonera logiskt över problem och lösningar som ligger utanför modeller träningsdata. Min gissning är att det kommer att utvecklas hybrid modeller där olika delar kombinerar sina styrkor. Man arbetar intensivt för att lösa detta. I längden förstår du väl att, det är ohållbart att skala upp 100, 1000 10 000 för varje liten förbättring av LLM förmåga att resonera utanför träningsdata. Modell typen är ju inte byggd för detta.

Om du som, datavetare inte fattar detta, men jag som icke datavetare, gör det, så undrar jag: Var fan....!?!

Det låter perfekt för mig om det finns sk skalningslagar, som garanterar att det aldrig går att bygga en potentiellt destruktiv AGI och ASI? Detta innebär att vi kan blåsa faran över nu?

Nej, men det komma att vara betydligt mera komplext att bygga ett AGI/ASI än att bara skala upp. Men redan idag kan Monte Carlo metoder användas tillsammans med LLM, åtminstone jobbas det mycket med det nu. Dock svårt att använda i real tid då många iterationer behövs för tillräcklig noggrannhet. Men jag tror på hybrid modeller och andra metoder för att kunna balansera den ständigt minskade avkastningen på ren uppskalning, som ändå, inom vissa områden gett strålande resultat, t. ex språkhantering och kunskaper i sociologi och psykologi, även praktiska verbala sådana, vilket märks på modellernas förmåga att interagera med användare. Jämför t. ex gratisvarianten av Replika, (GPT-2) med GPT-4o eller med Claude 3.5 Sonett.

För er som inte är så insatta i datavetenskap så bifogar jag här ett svarsförslag ifrån ChatGPT-4o, som jag förtydligat ytterligare

( )

Biologisk intelligens anser jag vara så överlägsen, men om det skulle bli ett hot, så har människor så överlägsen intelligens i förväg, så att vi kan smacka allt på samma vis som jag slår ihjäl en fluga, sköljer av flugsmällan med vatten, för att få den ren.

Det finns ingen som kan definiera medvetandet hos människor eller andra djur, men vi har det i olika grad. Datorer har inget medvetande överhuvudtaget alls å det minsta.

Även en liten fågel, med en hjärna som en tesked i storlek, har ett högt medvetande, som är omöjligt att härma med en datamaskin.

En liten, liten fågel, kan utföra de mest avancerade flygmanövrer för att peta i sig spindlar eller andra leddjur, och hålla på hela dagen lång, för de är så avancerade i sin energianvändning. Datorer kräver elkraft med enorma energiförluster jämfört med levande djur.

I hjärnan på en liten blåmes, finns inte många energiförluster i kopplingarna mellan hjärncellerna, och den är väldigt avancerad.

Fåglarna leker med varandra precis som barn, även om de har så ytterst liten hjärna, som två ärtor i volym, kanske.

Absolut, de biologiska neurala systemen är mycket imponerande och ytterst energieffektiva. Att sedan du, helt utesluter att vi även kommer att kunna artificiella system som vi kommer att ha stor nytta utav är ditt problem. Men, visst, de lär dröja innan de når de biologiska, systemen ratio vad gäller storlek/ effektivitet/energi-effektivitet

Jag tog en halv macka som min vuxne son ej ville äta upp. Jag såg en skata som tittade på oss. Jag tog mackan och singlade den vackert ned för berget, så att den höll samman. Titta sade jag, Skatan har hela tiden suttit och tittat på oss genom grenverket.
Mycket riktigt, så kom den snart och landade på marken, tittade med sitt ena öga, smög omkring stockar, för att se att det inte alls var en fälla, skuttade fram och tog sitt pris i näbben och flög.

Senare har ett par skator suttit över mitt huvud i en liten tall, kraxat, och förmodligen äskat för mer godsaker, landat nära mig, hoppat runt utan den minsta skygghet, nåja, fyra meter kanske.

"Ni får ingenting idag"

De är extremt intelligenta.