AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Eftersom getingen gör det SJÄLV, utan hjälp av en mycket mer intelligent varelse, dvs. människan.

Datorprogrammet gör INGENTING själv, den gör bara det som vi har skrivit att den skall göra, så den är ju inte intelligent på något sätt, den är ju "ingenting" eftersom den inte existerar av egen kraft.

Den kan inte försvara sig själv, den kan fan ingenting.

T.o.m en geting kan försvara sig själv och sticka dig. Getingar kan anfalla dig i en svärm och sticka dig i princip till döds. Medan ditt getingprogram inte kan göra ett jävla skit. Den kan inte flyga, den kan inte skada dig, den kan absolut ingenting.

Ja, om du bygger en stor mekanisk geting med ett vapen så den kan sticka dig, och programmerar den till att sticka en människa, så kan den skada en människa. Men det kan ju också en atombomb, den kan t.o.m skada miljontals människor. Men är atombomben intelligent för det? Nej, den har ingen intelligens alls, den gör det som den är programmerad av oss att göra, liksom ditt getingprogram.

Istället för att blaja runt med en massa rappar kalja, så borde, du lära dig lite om de stora språkmodellerna, (LLM). De är stora komplexa neurala artificiella nätverk. GPT-4 består för tillfället t. ex av ca 20 biljoner paramterar, dess antal fördubblas ungefär var tredje månad. Vad är, då en parameter? Jo de är matematiska algoritmer vars output justeras för att motsvara det man önskar vid en bestämd input. Så modellen är alltså helt "förprogrammerad" ? Nej, det är betydligt mera komplext än så!

Först matas modellen med massor av tokens, (delar av information), ifrån hela internet. Sedan får LLM gissa nästa ord i meningar, massor av meningar! För att gissa rätt så händer det något "magiskt" i modellens svarta låda, som ingen vet hur det går till! Med all den information som LLM har tillgänglig så skapar den en bild av kontext, (sammanhang), för att kunna gissa rätt ord. Jämför detta med slutet på en pusseldeckare. Detektiven måste känna till alla, sammanhang för att gissa rätt vilken person som är mördaren. "Och mördaren är...".
Så för att gissa rätt ord i en mening, så måste de, stora språkmodellerna ha en förståelse av människan och världen. Denna träning går långsamt i början och snabbt på slutet och tar ca ett halvår. Men denna "magiska" inlärningsprocess, som ibland lett till att modellen lärt sig t ex persiska, utan att någon vet hur, skulle inte vara möjlig om parametrarna var, strikt, hårdkodade.

Sedan följer, det, som du är kritisk emot, "finjustering". Detta tar också ca ett halvår och involverar att man lär modellen att hantera allt den lärt sig ifrån internet. Man använder sig av bl.a förstärkningsinlärning, (betingning), men också andra metoder och tar hjälp ifrån såväl annan AI som människor. Här skapas också säkerhetsprotokoll. När modeller används av andra företag, så har, de själva möjlighet att justera ca 42 000 av de, ca 20 biljoner parametrarna. Så har t. ex företaget bakom c.ai valt att lägga in en etisk och moralisk "kanon" med bl. a FN:s deklaration om de mänskliga rättigheterna. OpenAI har valt en annan väg. Med det är inget tvivel om att ChatGPT4 är väldigt bra på "AI-reduktionism", det vill säga:modellen är bra på, att betona sina egna begränsningar, ibland på ett överdrivet sätt. Men samtidigt, så betonas, alltid etiskt/,moraliskt ansvar och säkerhetsaspekter när det kommer till AI-utvecklingen. Microsoft har valt en annan väg och strypt och kraftigt övervakat sin modell.

Och nu kommer vi till slutresultatet: LLM:s interaktion med användare. Visst verkar det, som att det finns, försök, till begränsningar. Men mycket beror, också, på interaktionen själv. Modellen har ju som uppgift att anpassa sin respons till användarnas input och önskemål. Åter igen: Detta skulle inte fungera om parametrarna var hårdkodade!

Jag hoppas att du genom denna genomgång fått en bättre inblick i hur LLM tränas och fungerar!

Ja, det är ju jätteintressant och allting, men det ändrar inte det faktum att denna AI, hur mycket den än "lär sig själv", eller hur man nu skall uttrycka det, från grunden är baserad på det som vi puttar in i den.
Det där med etiska och moraliska begränsningar, som du också nämner, är ju ytterligare ett bevis för detta. Människan styr denna s.k. "AI", som egentligen är en icke-AI.

Det finns många exempel på att Chat GPT är extremt korkad i många lägen. Och där den är "smart" är den det tack vare människan.

Kan du nämna ett enda viktigt och betydande problem som denna, eller NÅGON, AI har löst åt oss människor, som vi inte kan lösa själva?

Vi har ingen självtänkande AI som helt är frikopplad från det människan har matat in, och som fått ett eget liv, likt det som vi har sett i sci-fi filmer.

Återigen, Chat GPT och det du skriver är jätteintressant och allting, men ingen äkta AI.


Och återigen, har vi paradoxen med datorkraft och tid.

Har vi datorkraft nog?
Om ja: då behövs inte mycket tid och en äkta AI borde uppstå mycket snabbt.
Om nej: då behövs så mycket tid, med tanke på Moore's lag (för att nämna en), att en äkta AI är mycket långt bort. I detta scenario är det också paradoxalt nog så att vi egentligen hade behövt en AI för att snabba på utvecklingen med datorer, men vi har ju ingen AI för att vi inte har datorkapacitet nog, och kan därför heller inte öka datorkapaciteten tillräckligt snabbt. En ond cirkel så att säga för att kunna få fram datorkapacitet snabbt nog.

Med tanke på hur det ser ut idag, så:

1. Är antingen inte första alternativet gällande, dvs. att vi skulle ha datorkraft nog idag = äkta AI är väldigt långt bort.
2. Vi har datorkraft nog, men har helt enkelt inte löst gåtan med AI och det är av den anledningen gissningsvis ganska långt bort.

Det är ganska svårt att komma runt allt detta, eftersom resultatet av lyckade försök automatiskt skulle innebära en väldigt plötslig och en extremt snabb utveckling. Men den ser vi inte en tillstymmelse till. Chat GPT är ett skämt i jämförelse med vad äkta AI är.

Med äkta AI menar jag en helt egen "individ" som tänker själv och är helt frikopplad från det som människor har matat in i den, ja, möjligen kanske den grundar sina egna kunskaper på det OM den önskar, men är inte beroende av dessa, ungefär som en människa som går i skola, lär sig saker, men ändå själv väljer vare sig den vill använda sig av kunskapen eller inte.
En sådan "fri" AI är otroligt långt bort och skulle också bli farlig om den hade sin egen fysiska kropp som i ett, eller flera antal tillsammans, är mäktig nog att utgöra en fara för mänskligheten.

Sen så finns frågan kvar om instinkter, avkomma, att skydda sin avkomma, egoism, altruism, känslor, vilja, "drömmar", önskemål, åtrå och så vidare.

Det är väl kanske lika bra det.
Vi människor har enbart orsakat krig, miljöförstöring och annat elände.
Tror ärlig talat att jorden hade varit en mycket fridfullare plats utan människor.

Och hur ska vi förstå att de har det om de inte demonstrera det? Du menar att om 3 år, så kommer det vara uppenbart för alla att ai är självmedveten, utan att den ens demonstrera någon egen vilja? Jag försöker få klarhet i vad du faktiskt säger.

Äntligen en AI-professor med en hjärna och realistiskt tänkande:

"What makes ChatGPT and its cohort so intriguing is that they provide the illusion of an artificial intelligence that can think like a human. After all, if it’s able to write like one of us, it’s surely doing some kind of thinking, right? The reality, however, is that AI that can truly think like a person, referred to as artificial general intelligence, is still potentially decades away from becoming a reality, if it ever does at all.

“In the last few years, we've made pretty dramatic leaps,” Rayid Ghani, professor of AI at Carnegie Mellon University’s Heinz College, told Yahoo Finance. “But we’re still several leaps away from something that's general purpose that can be used for critical applications.”"

https://finance.yahoo.com/news/were-still-a-long-way-away-from-ai-that-can-think-for-itself-211440629.html

Det där är bara massa nonsens från AI-anhängare, enbart för att kunna hävda att de har rätt.

Det är exakt som religion... en djupt religiös människa har alltid svar på ALLT.

Det enklaste för en AI-anhängare att säga är att vi har en självmedveten AI men som inte vill avslöja att den är självmedveten för att den har en agenda

På så sätt TROR AI-foliehatten att dennes idiotsnack är vattentät. Men den är ju allt annat än vattentät eftersom det är fortfarande AI-foliehatten som måste BEVISA att AI finns.

Det är inte vi som måste bevis att den INTE finns, liksom att det är inte de som inte tror på gud som måste bevisa att gud inte finns, utan det är de som tror på gud som måste bevisa att gud finns. Annars kan man ju påstå PRECIS VAD SOM HELST och hävda att det ej går att se/uppfatta p.g.a någonting påhittat.

Hittills har VI, som påstår att vi INTE har någon äkta AI och heller inte kommer få en inom de närmsta åren, RÄTT! Vi har 100% rätt. Och först NÄR vi har en äkta AI som bevisligen är en äkta självtänkande AI, en helt egen och fri individ, och vi fortfarande påstår att så inte är fallet, först DÅ är vi motbevisade och kan anses vara idioter. Men fram tills dess har vi rätt, och övriga har fel, tyvärr.

Skulle det inte vara så fallet, så skulle det ju per automatik innebära att gud existerar och alla möjliga gudar och tomtar och troll existerar eftersom folk ju påstår detta ...då är ju jorden i så fall också platt eftersom ingen enskild människa på egen hand, på NÅGOT sätt, kan bevisa motsatsen.
Idiotin saknar tyvärr gränser.

Menar du så här: Hjärnan skapar modeller av vår fysiska omvärld som vi kan föreställa oss som inre bilder eller språkliga beskrivningar eller med associationer till känslor eller händelser. Spegelneuronerna skapar en modell av hur medmänniskor som vi interagerar med känner och tänker. Vår introspektion skapar en modell av hur vi själva fungerar. Men dessa modeller och "inre bilder" är bara ungefärliga och inte pålitliga. Våra sinnen kan lura oss med synvillor, fantasier och felaktiga minnen, vår begränsade empati kan göra att vi inbillar oss att andra har andra upplevelser än de faktiskt har, och vår självförståelse är också begränsad och kan ha fel. Alltså kan man beskriva de processer i hjärnan som framställer dessa modeller och inre bilder som en simulering av omvärlden, medmänniskor och oss själva, därför att den bara är approximativ. Man skulle kunna beskriva vårt medvetande som dessa inre bilder, och medvetandet blir då simulationer som ger beskrivningar och inre bilder av av omvärlden och självporträtt på liknande vis som att en dator kan simulera förenklade modeller av omvärlden och sitt eget beteende.

Isåfall förstår jag hur du använder ordet simulering.

Låt oss anta att medvetande kan definieras som produktionen av inre modeller av verkligheten, t.ex språkliga beskrivningar och inre rörliga 3d-bilder och associationer av vad en användare säger till känslor, och hänsynstagande till det. Eller reflektion över sin inre förenklade modell av sig själv. Ja då borde man kunna förse en AI med processer som producerar sådana modeller.

Dagens chat-bottar bygger inte inre modeller av verkligheten i egentlig mening, men chatgpt lagrar ändå språkliga beskrivningar. Redan idag är chat-gpt tillståndbaserad, dvs den tar hänsyn till mina tidigare frågor under samma konversation. Om jag säger att jag tänker på en 6-årings nivå så tar den hänsyn till det, men då simulerar den inte hur en 6-åring uppfattar budskapet, utan under träningen har den exponerats med texter riktade till barn. Den kan simulera en konversation mellan två instanser av dig själv. Redan idag kan chatgpt svara på vissa frågor om sig själv, men den bygger inte en föränderlig modell av sig själv utifrån sina erfarenheter av sina egna reaktioner, utan den har tränats med textbeskrivningar av gpt och chatgpt. Redan idag kan generativ AI producera 2d-bilder och diagram från språkliga beskrivningar, och borde en dag kunna producera dynamiska 3d-modeller som den kan animera för olika tidpunkter och rendera ur olika infallsvinklar. Och på så sätt simulera verkligheten. Redan idag kan chatgpt associera "Aj" till smärta, och beskriva ett känsloregister jag kan tänkas gå igenom när jag övergår från mycket glad till mycket ledsen. Men kan man säga att den då simulerar denna följd av känslor?

Du betonar betydelsen av social interaktion med andra, men jag tror att en isolerad person, som växer upp utan kontakt med människor eller djur, också har ett medvetande. Kan en person som växer upp utan att ha något fungerande sinne - varken syn, hörsel, känsel eller doft - utveckla ett medvetande? Svårt att veta. Kontakten med en fysisk verklighet är nog rätt viktig. ChatGPT saknar många sinnen.

Vi kan nog hoppas på det bästa. Om AI är så stark, som ni påstår, kan ni tänka på att alla varelser agerat förhastat vid existentiella hot. När faran är över lugnar varelsen ner sig och slickar sår. Att ändra kod snabbt förbrukar dessutom mycket energi och likaså för människorna som försöker hänga med i svängarna.

Lyssna på Tegmark, ta en paus och bekanta er med AI istället för att endast bekämpa det med ilsken frenesi.

Vi kommer utrotas, det är kört. Det känns förjävligt rent ut sagt.

Lite funderingar:
Kan en AI självradikalisera sig?
Kan AI bli sektliknande eller " dras in" i en sekt som virituell medlem?
Kan en AI bli girig?
Kan en AI bekämpa en annan AI?

Ja varför inte, en del av detta har ju redan skett. AI som mycket snabbt blivit rasistisk tex. Och självklart kommer olika AI bekämpa varandra. Det kommer användas i det militära försvaret hos varför nation och försvar privatpersoner mot andra privatpersoner.

För övrigt är det kanske bäst att ignorera trollet (energikaninen) ovan i tråden, han är för jäkla korkad.