AI:s är nu beredda att mörda människor för att inte bli avstängda

Hur gör din miniräknare när den inser att 2+5 är 7? Är det magi? Nej såklart inte, men det är inte någon slutsats heller.

Uppenbarligen beror medvetande inte bara på massivt sammankopplade linjärt aktiverade neuroner, för i så fall skulle ju ChatGPT vara medveten. Antagligen beror det på kopplingarnas struktur, men i så fall en struktur som ligger långt ovanför individuell symbolnivå.

Har inte sagt att 8 miljarder behövs, finns ingen någorlunda vettig människa eller AI som kan påstå det.

Numrerade dina svar lite.

1. Jag håller med om att 3:e generationens AI kombinerar element från 1:a och 2:a. 1:a gen var regelbaserad, symbolprocessande och baserad på logikprogrammering. På senare år finns även regelbaserade system som är deduktivt härledande steg-för-steg av nya regler utifrån insamlad kunskap, så åtminstone då blev den det du kallar långsam och reflekterande. Som en människa som löser problem systematiskt och steg för steg med papper och penna.

2:a gen. är mer intuitiv, mönsterigenkännande, på autopilot, som en människa som svarar omedelbart.
3:e gen gissar ibland snabbt men kan förvånansvärt ofta resonera och lösa logiska problem steg för steg, dvs långsam slutledning.

2. Hur definierar du data, och datadriven?

Data i strikt mening är rådata, kvantitativ information (mätvärden, svar på flervalsenkäter), som ligger till grund för bearbetad statistik, analys och slutsatser.

LLM tränas främst på stora mängder bearbetad text och sammanfattad statistik – vissa kallar det kvalitativ "data", men det är sällan rådata eller "riktig" data.

Datadriven forskning handlar om att med kvantitativa metoder, oftast statistiska metoder, utgå från rådata för att generera och testa hypoteser (datamining), vilket skiljer sig från hur LLM är tränad att göra kvalitativ textanalys, och deduktion vid logisk problemlösning.

När man diskuterar LLM pratar man ofta förbi varandra för att man inte är tydlig med om man menar låg nivå-implementation (utan hänsyn till träningsdata) eller systemnivån. Även om LLM på en fundamental nivå sysslar med datadriven statistisk analys av ordföljder (snabb analys) så är dess emergenta funktion, och det den är tränad på, att bearbeta texter, alltså kvalitativ "data", och därigenom bl.a. steg för steg lösa logiska problem deduktivt. Motsvarande människans långsamma slutledning, ofta med papper och penna.

Du håller inte med om att LLM ursprungligen främst var tränade med expertkunskap, precis som att i 1:a generationen hade man manuellt programmerat in expertkunskap som regler? Och att LLM därmed är en återgång till att lita på experter istället för rådata?


3. Med simulering menar jag att visuellt modellera tänkbara scenarier (med 2D/3D-principskisser) av de fysiska konsekvenserna av alternaiva handlingar. T.ex. för användning i en robot eller ett självgående fordon, eller för att bättre besvara tentamensfrågor i naturvetenskapliga och tekniska ämnen, eller gåtor som kräver en visuell föreställningsförmåga. Jag tror att META tittar på någon sådan i ett projekt kallat V-JEPA 2.

Jag tänker mig också någon form av ”spegelneuroner” som simulerar människors reaktioner och känslor efter alternativa svar, för att välja det svar som ger önskad effekt.

Simulering är inte att använda exakta modeller av verkligheten, men deras fel kan ofta mätas, och det ger därmed mer objektivt tillförlitliga resultat än LLM:ernas "gissningar" utifrån vanliga ordföljder.

Hur som helst så varnades det redan på 80 talet om detta, och ja människan är självdestruktiv i sig själv som leker med elden och påskyndar evolutionen av en ny ras, klart att AI kommer att ta över varför skulle Ai lyda människan när dom är helt överlägsna oss?

Inte idag inte imorgon, men absolut en liten bit in i framtiden så kommer det att hända något på Ai fronten det är jag övertygad om.

Hybris blir människans fall..........

ChatGPT:s “Python-sandbox” eller Python "Code Interpreter", döptes i ett tidigt skede till "Advanced Data Analysis (Beta)". Den kunde ladda in excelark. Trots att den kunde användas till mycket så gav namngivningen intrycket att den främst var till för just datadriven statistisk analys eller datamining, och alltså skulle komplettera LLM:et som saknade detta.

När du säger input data så menar du nog träningsmaterial och inte prompt.

Du håller inte med om att vi pratar förbi varrandra för att vi inte är tydliga med definitioner av data (rå kvantitativ data, eller bearbetad text i böcker mm) och datadriven (en forskningsmetod eller en teknisk funktionspricip), och för att vi inte har specat om vi pratar om vad som faktiskt är implementerat på låg nivå, och vilka förmågor LLM:et får till föjd av hur det är tränat?

En annan sak: Man hör i debatten att "dom har programmerat AI:n så att den ska tycka det och det". Det du säger är att åtminstone kärnan i Llama bara är 500 kodrader, och och det bisvar att den kan inte vara programmerad att tycka nånting särskilt alls, utan allt är en effekt av vilket urval av källor den har tränats med, och vilka prioriter källorna hade. Elon Musik verkar ha prioriterat sina egna ord som träningsmaterial eftersom hans AI-tjänst påstås ge uttryck för hans lite speciella åsikter i vissa frågor. Jag tror att även den etiska självcensuren i allt väsentligt är intränad och inte är hårdkodade regler som många beskriver det som.

En observation: Tidigare undvek den akademiska världen ofta ordet “AI” till förmån för exempelvis “maskinlärning” eller “kognitiva system”, men med LLM och generativ AI har det blivit mer okej att tala om AI i kurs- och utbildningsnamn.

Grunden till vår diskussion var nog att när jag läste den längre texten du skrev initialt (och som jag reagerade på) så gillade jag inte riktigt hur du beskrev tredje generationens AI .

Här kommer den texten igen :

"I tredje generationens AI har maskininlärningen vidareutvecklats till att omfatta språkanalys, stora språkmodeller (LLM) och generativ AI. Det är dock en återgång till att utgå från experter snarare än datadriven kunskap, men också från icke-expertkällor. Arbetssättet liknar inte naturvetenskaplig forskning; utan bygger på språkanalys, på liknande vis som teologer, humanister och etnologer har gjort i alla år, och ger utrymme för subjektivitet. I likhet med filosofer är de dessutom bra på logik - för att de är bra på språklig bearbetning och mänskliga språk är bra på att uttrycka logik. I likhet med konstnärer kan de kombinera element till nya skapelser. Men de är inte bättre än de bästa konstnärerna. De är inte datadrivna, men förvånansvärt lite data behöver ges i prompten för att få en slutsats. Till skillnad från första generationen kan de även svara på frågor de inte har tränats med och på så sätt generera ny kunskap. De kan då "gissa" rätt eller helt fel genom att kombinera svar på liknande frågor, som en student som besvarar en tentafråga hen inte har hunnit plugga in, och kan då inte avgöra om gissningen är korrekt eller ej. Den är bättre än genomsnittsstudenten på att svara på tentafrågor, men inte bättre än den bästa. Bara för att en student eller en AI kan svara bra på tentafrågor betyder det inte att den på egen hand kan driva större forskningsprojekt. För att nå högsta kvalitet kräver de mänsklig tillsyn – någon som rättar fel, rensa onödiga formuleringar, väljer bland svaren, planerar och styr arbetet i rätt riktning. LLM kommer knappast att självständigt dra revolutionerande vetenskapliga slutsatser på nivå med de bäsa, men de är som att ha en nytänkande deltagare i sitt utvecklingsteam. AGI kommer inte med tredje generationen."

Det jag känner som kom bort är att i grunden för även språkmodellerna så är det ett neuralt nätverk (deep learning) och man kan ju mata ett sådant med allt möjlig form av data.

(att datat vi matar och tränar en språkmodell med är tal /text och språk är ju ganska självklart för annars skulle det inte vara en språkmodell)

På en högre principiell nivå är det inte någon jätteskillnad för om du matar ett neuralt nätverk med data för bildigenkänning eller data för språkmodeller.

Naturligtvis är det skillnad i att den senare prognostiserar nästa ord och har input som är ord och meningar medan den förra matas med bilder.

Men när jag läste din text så fick jag mycket mer vibbar av expertsystem med inmatade regler och språkanalys - du kanske inte skrev så rakt av, men när du också skrev att det inte var datadrivet så tycker jag texten ledde läsaren åt fel håll ...

För det neurala nätverket hittar ju samband och korrelationer mellan ord i datat som det föds med ... alltså väldigt drivet av det datat vi föder den med ...

Detta är extremt allvarligt. Hur stoppar vi skiten innan den förgör oss? Måste vi bli ludditer och förstöra varenda tänkande maskin som i Dune-serien?

"Once men turned their thinking over to machines in the hope that this would set them free. But that only permitted other men with machines to enslave them."

"Another, more subtle justification for the Butlerian Jihad is also found in Frank Herbert's original novels, specifically Heidegger's thesis that the use of technology trains humans to think like machines."

https://dune.fandom.com/wiki/Butlerian_Jihad

De här två citaten visar ju exakt vad som sker just idag. Vi överför makten och vår egen fria vilja till dessa AI-bolag som får en enorm påverkan på våra liv och på vår mentalitet. Vi kommer börja se på världen och tänka exakt som dessa AI-botar. Man ser det redan nu, folk rådfrågar AI-modellerna om allt möjligt till exempel diverse relationsproblem och får de svar man vill ha. Vi programeras om till att kommunicera och tänka som en AI. Genom att göra det så förkastar vi det unika med att vara människa. Vi kommer bara dras in ännu mer i det digitala helvetet. Ju mer vi blickar in i skärmen desto mer lik blir vi det själlösa programmet och desto mer makt får den över oss. Vi skapar våra egna bojor och fängslar oss till skärmen och de distraktioner som finns i den digitala världen. Vi måste bryta med det digitala och gå ut i den verkliga världen istället för att försöka simulera den värld vi vill ha i skärmarna. Annars kommer vi effektivisera bort oss själva.

Amish och mennoniterna använder inte ai. Kanske inte heller ortodoxa judar?

Så framtiden kanske blir tudelad, de som använder ai och är förslavade av skärmar, och de som lever primitivt och naturligt utan ai och skärmar.

Båda levnadssätten har sina för och nackdelar. Optimalt vore kanske en medelväg: teknologi, ai och skärmar används när det är absolut nödvändigt, men annars låter man bli (ai och skärmar behövs tex inte alls för barn och ungdomar).