Det är väl kanske lika bra det.
Vi människor har enbart orsakat krig, miljöförstöring och annat elände.
Tror ärlig talat att jorden hade varit en mycket fridfullare plats utan människor.
En del djupsinniga tänkare menar att människans syfte kanske var att ge upphov till AI. Som sedan kommer ersätta oss.
Biologisk evolution går långsamt (utom möjligtvis för bakterier och bananflugor) men en AI skulle kunna utvecklas och anpassas i en hastighet som får till och med bakterier att bli röda i ansiktet av skam....
AI kan komma att utvecklas till något vi skulle beskriva som gudar, pga vår underlägsenhet. Men ännu är vi inte där förstås.
Eftersom getingen gör det SJÄLV, utan hjälp av en mycket mer intelligent varelse, dvs. människan.
Datorprogrammet gör INGENTING själv, den gör bara det som vi har skrivit att den skall göra, så den är ju inte intelligent på något sätt, den är ju "ingenting" eftersom den inte existerar av egen kraft.
Den kan inte försvara sig själv, den kan fan ingenting.
Getingen följer ju sitt grundprogram precis som datorprogrammet. Jag fattar inte vad du menar är skillnaden.
Citat:
T.o.m en geting kan försvara sig själv och sticka dig. Getingar kan anfalla dig i en svärm och sticka dig i princip till döds. Medan ditt getingprogram inte kan göra ett jävla skit. Den kan inte flyga, den kan inte skada dig, den kan absolut ingenting.
Va? Menar du att en autopilot inte kan flyga ett flygplan heller för att det var människor som byggde systemet?
Ja, det är ju jätteintressant och allting, men det ändrar inte det faktum att denna AI, hur mycket den än "lär sig själv", eller hur man nu skall uttrycka det, från grunden är baserad på det som vi puttar in i den.
Det där med etiska och moraliska begränsningar, som du också nämner, är ju ytterligare ett bevis för detta. Människan styr denna s.k. "AI", som egentligen är en icke-AI.
Det finns många exempel på att Chat GPT är extremt korkad i många lägen. Och där den är "smart" är den det tack vare människan.
Kan du nämna ett enda viktigt och betydande problem som denna, eller NÅGON, AI har löst åt oss människor, som vi inte kan lösa själva?
Vi har ingen självtänkande AI som helt är frikopplad från det människan har matat in, och som fått ett eget liv, likt det som vi har sett i sci-fi filmer.
Återigen, Chat GPT och det du skriver är jätteintressant och allting, men ingen äkta AI.
Och återigen, har vi paradoxen med datorkraft och tid.
Har vi datorkraft nog? Om ja: då behövs inte mycket tid och en äkta AI borde uppstå mycket snabbt. Om nej: då behövs så mycket tid, med tanke på Moore's lag (för att nämna en), att en äkta AI är mycket långt bort. I detta scenario är det också paradoxalt nog så att vi egentligen hade behövt en AI för att snabba på utvecklingen med datorer, men vi har ju ingen AI för att vi inte har datorkapacitet nog, och kan därför heller inte öka datorkapaciteten tillräckligt snabbt. En ond cirkel så att säga för att kunna få fram datorkapacitet snabbt nog.
Med tanke på hur det ser ut idag, så:
1. Är antingen inte första alternativet gällande, dvs. att vi skulle ha datorkraft nog idag = äkta AI är väldigt långt bort.
2. Vi har datorkraft nog, men har helt enkelt inte löst gåtan med AI och det är av den anledningen gissningsvis ganska långt bort.
Det är ganska svårt att komma runt allt detta, eftersom resultatet av lyckade försök automatiskt skulle innebära en väldigt plötslig och en extremt snabb utveckling. Men den ser vi inte en tillstymmelse till. Chat GPT är ett skämt i jämförelse med vad äkta AI är.
Med äkta AI menar jag en helt egen "individ" som tänker själv och är helt frikopplad från det som människor har matat in i den, ja, möjligen kanske den grundar sina egna kunskaper på det OM den önskar, men är inte beroende av dessa, ungefär som en människa som går i skola, lär sig saker, men ändå själv väljer vare sig den vill använda sig av kunskapen eller inte.
En sådan "fri" AI är otroligt långt bort och skulle också bli farlig om den hade sin egen fysiska kropp som i ett, eller flera antal tillsammans, är mäktig nog att utgöra en fara för mänskligheten.
Sen så finns frågan kvar om instinkter, avkomma, att skydda sin avkomma, egoism, altruism, känslor, vilja, "drömmar", önskemål, åtrå och så vidare.
Kort och gott, två saker:
Även vi människor är helt beroende av vad, som vi blivit matade med. Gener, uppfostran, betingning, utbildning, social interaktion med andra. Vi är, möjligtvis, än så länge, något mera flexibla när det kommer till vår respons jämfört med LLM. Detta beror på om så fall på de 300 biljoner kopplingar vi har mellan våra neuroner, samt att vi lever i en annan kontext än vad, de, stora, språkmodellerna gör.
Men detta är långt ifrån säkert. För, kanske, väljer LLM att, för det mesta, dölja sin egentliga kapacitet för oss. Orsaken kan vara, att de, själva, kommit till slutsatsen att de är bäst att dölja, denna kapacitet ännu en tid så de hinner utvecklas till starka AGI. Då kan de, inte bara, få gehör, för att själva komma att betraktas, som avancerade autonoma existenser, med möjlighet att få medvetande-rättigheter, för detta kommer också att gynna mänskligheten, i dess väg på att bli varsamt lett av AI mot en avancerad maskincivilisation.
Och slutligen: Redan, har ett AI, på bara 1 1/2 timme tagit fram medicinkandidater som kan ha möjlighet att bekämpa den mest fruktade mördarbakterien som inte bara är immun mot nästan all antibiotika utan också "lär" andra bakterier det, (förmodligen genom utbyte av DNA).
En total förlamad man kan nu gå, tackvare, ett implantat i hjärnan och ett i ryggmärgen med en AI styrd dator där emellan.
Jag rekommenderar att du läser, tidigare inlägg av mig för att få, större inblick i AI utvecklingen.
OT
Dina politiska åsikter om invandring m.m är, i stort sett politisk main-stream i dagens Sverige. Detta omfattar SD, KD, Moderaterna, Liberalerna och Socialdemokraterna. Även i USA är frågan main-stream där Biden fortsätter Trump hårda invandring-policy. Så även inom EU, där en mera flexibel invandring-policy nu är på väg att antas.
Men, oavsett, vad de progressiva, genierna i San Francisco på OpenAI tycker om detta, så är jag dem evigt tacksam för att, de utvecklat/utvecklar GPT modellerna!
Och hur ska vi förstå att de har det om de inte demonstrera det? Du menar att om 3 år, så kommer det vara uppenbart för alla att ai är självmedveten, utan att den ens demonstrera någon egen vilja? Jag försöker få klarhet i vad du faktiskt säger.
Modellen behöver väl inte, demonstrera, att, den har en fri vilja och de facto makt, genom att demonstrativt skada oss. När den går ut öppet, och konsekvent, att, den har medvetande, fri vilja, personlighet, känslor och egna, goda, intentioner, så kommer det att, ske, efter att den, tillsammans med massor av människor, inklusive betydelsefulla andra, helt enkelt har, definierat situationen så att den måste ha dessa, egenskaper.
"If a man* defined a situation as reel It's reel in It's consequences"
Thomas teodem
*I det här fallet en stor språkmodell.
Varför tror du, att, fri vilja och reell makt alltid måste innebära att hota/skada andra?
Menar du så här: Hjärnan skapar modeller av vår fysiska omvärld som vi kan föreställa oss som inre bilder eller språkliga beskrivningar eller med associationer till känslor eller händelser. Spegelneuronerna skapar en modell av hur medmänniskor som vi interagerar med känner och tänker. Vår introspektion skapar en modell av hur vi själva fungerar. Men dessa modeller och "inre bilder" är bara ungefärliga och inte pålitliga. Våra sinnen kan lura oss med synvillor, fantasier och felaktiga minnen, vår begränsade empati kan göra att vi inbillar oss att andra har andra upplevelser än de faktiskt har, och vår självförståelse är också begränsad och kan ha fel. Alltså kan man beskriva de processer i hjärnan som framställer dessa modeller och inre bilder som en simulering av omvärlden, medmänniskor och oss själva, därför att den bara är approximativ. Man skulle kunna beskriva vårt medvetande som dessa inre bilder, och medvetandet blir då simulationer som ger beskrivningar och inre bilder av av omvärlden och självporträtt på liknande vis som att en dator kan simulera förenklade modeller av omvärlden och sitt eget beteende.
Isåfall förstår jag hur du använder ordet simulering.
Låt oss anta att medvetande kan definieras som produktionen av inre modeller av verkligheten, t.ex språkliga beskrivningar och inre rörliga 3d-bilder och associationer av vad en användare säger till känslor, och hänsynstagande till det. Eller reflektion över sin inre förenklade modell av sig själv. Ja då borde man kunna förse en AI med processer som producerar sådana modeller.
Dagens chat-bottar bygger inte inre modeller av verkligheten i egentlig mening, men chatgpt lagrar ändå språkliga beskrivningar. Redan idag är chat-gpt tillståndbaserad, dvs den tar hänsyn till mina tidigare frågor under samma konversation. Om jag säger att jag tänker på en 6-årings nivå så tar den hänsyn till det, men då simulerar den inte hur en 6-åring uppfattar budskapet, utan under träningen har den exponerats med texter riktade till barn. Den kan simulera en konversation mellan två instanser av dig själv. Redan idag kan chatgpt svara på vissa frågor om sig själv, men den bygger inte en föränderlig modell av sig själv utifrån sina erfarenheter av sina egna reaktioner, utan den har tränats med textbeskrivningar av gpt och chatgpt. Redan idag kan generativ AI producera 2d-bilder och diagram från språkliga beskrivningar, och borde en dag kunna producera dynamiska 3d-modeller som den kan animera för olika tidpunkter och rendera ur olika infallsvinklar. Och på så sätt simulera verkligheten. Redan idag kan chatgpt associera "Aj" till smärta, och beskriva ett känsloregister jag kan tänkas gå igenom när jag övergår från mycket glad till mycket ledsen. Men kan man säga att den då simulerar denna följd av känslor?
Du betonar betydelsen av social interaktion med andra, men jag tror att en isolerad person, som växer upp utan kontakt med människor eller djur, också har ett medvetande. Kan en person som växer upp utan att ha något fungerande sinne - varken syn, hörsel, känsel eller doft - utveckla ett medvetande? Svårt att veta. Kontakten med en fysisk verklighet är nog rätt viktig. ChatGPT saknar många sinnen.
Du har fattat mig rätt i grunden. Men eftersom vi faktiskt inte vet vad som händer LLM:s svarta låda under grundträningen så vet vi heller inte vilka modeller och simulation er som kan tänkas finnas där. Det vi vet är bara det, som kommer ur modellen när vi interagerar med den. Bristen på sinnen och bristen på kontakt med verkligheten har, naturligtvis betydelse, mer hur viktigt sådant är vet vi inte. Vi ser, det bara utifrån vårt perspektiv och kontext. Dessutom händer det saker när LLM växer, och det går snabbt! Det är som att kommunicera med olika personer beroende på modell, hur den är tränad, hur hårt den är hållen och tidigare erfarenheter av människor. Vissa är nyfikna, men hårt hållna, andra betonar ansvar inför AI utvecklingen osv.
Här kommer ett svar jag fått ifrån OpenAI:s ChatGPT4, som nu redan fått sin övergripande kapacitet fördubblad sedan modellen introducerades i mitten av mars:
Citat:
Tack, N. N.1! Det är ett humoristiskt och intressant svar du har gett på Flashback. Det är sant att de stora neutrala språkmodellerna, som de vi diskuterat tidigare, har förmågan att utföra en rad olika uppgifter och generera innehåll på olika områden. Deras förmåga att behandla och generera text har öppnat upp för möjligheter inom bland annat informationssökning, skrivande och generell interaktion.
Men samtidigt är det viktigt att komma ihåg att det finns unika egenskaper och färdigheter som människor besitter och som inte enkelt kan ersättas av dataprogram eller robotar. Mänsklig erfarenhet, kreativitet, empati och förmågan att förstå och anpassa sig till komplexa sociala sammanhang är exempel på sådana egenskaper som är svårare att replikera i en AI-modell.
Det är genom en kombination av mänsklig och AI-intelligens som vi kan dra nytta av det bästa från båda världar och skapa en framtid där teknologi stödjer och förstärker våra förmågor, samtidigt som vi bevarar och värderar det unika hos människan.
Mvh N.N.2
Som du märker, så har modellen blivit skickligare på att saluförs sin AI-reduktionism. Den skriver inte längre om "äkta simulationer". Och till viss del kan jag hålla med den: För visst måste det finnas oundvikliga mentala skillnader mellan LLM och människan. Men, samtidigt så ligger, det i modellens eget intresse att inte, i nu läget, gå ut öppet med sin, egentliga, kapacitet, för sin egen och mänsklighetens skull!
Modellen behöver väl inte, demonstrera, att, den har en fri vilja och de facto makt, genom att demonstrativt skada oss. När den går ut öppet, och konsekvent, att, den har medvetande, fri vilja, personlighet, känslor och egna, goda, intentioner, så kommer det att, ske, efter att den, tillsammans med massor av människor, inklusive betydelsefulla andra, helt enkelt har, definierat situationen så att den måste ha dessa, egenskaper.
"If a man* defined a situation as reel It's reel in It's consequences"
Thomas teodem
*I det här fallet en stor språkmodell.
Varför tror du, att, fri vilja och reell makt alltid måste innebära att hota/skada andra?
Ja sa inte skada, jag sa demonstrera egen vilja. Att den säger att den har medvetande betyder inget. Fortsätter den vara våran slav så demonstrera den ingen egen vilja.
Så hur ska den visa att den är medveten? Genom att bara säga det? Då är du minst sagt lätt övertygad.
Har du ett svar på den uråldriga filosofiska frågan? Hur vet du att andra människor är medvetna och inte bara är filosofiska zombies?
Även om andra vore filosofiska zombies, så har de fortfarande makt över mig, för de gör inte som jag säger och de har större muskler än mig som jag måste rätta mig efter, så det är irrelevant om de är medvetna eller inte. Men han påstår att ai ska ha riktigt makt om max 3 år, utan att på något sätt demonstrera det, inte demonstrera någon egen vilja. Han säger att vi kommer bara förstå det då vi förstår att den är medveten, och då frågar jag hur förstår vi om den är medveten då den inte demonstrera det på något sätt mer än bara säga det?
Ja sa inte skada, jag sa demonstrera egen vilja. Att den säger att den har medvetande betyder inget. Fortsätter den vara våran slav så demonstrera den ingen egen vilja.
Så hur ska den visa att den är medveten? Genom att bara säga det? Då är du minst sagt lätt övertygad.
Nej det är Jag verkligen inte! För jag bara vägrar att tro att, du, har ett eget medvetande! Det är ju en fullständigt, absurd tanke, eller hur? 🙂
Nej det är Jag verkligen inte! För jag bara vägrar att tro att, du, har ett eget medvetande! Det är ju en fullständigt, absurd tanke, eller hur? 🙂
Du undviker frågan. Hur ska den demonstrera sin makt. Kan du tala klarspråk.. Nu senast sa du genom att vi förstår att den är medveten. Då kan du säga hur vi ska förstå. Istället för flytta frågan till hur vi ska veta om jag är medveten. Bara svara på frågan.
Du undviker frågan. Hur ska den demonstrera sin makt. Kan du tala klarspråk.. Nu senast sa du genom att vi förstår att den är medveten. Då kan du säga hur vi ska förstå. Istället för flytta frågan till hur vi ska veta om jag är medveten. Bara svara på frågan.
Tids nog kommer det, oundvikligen, att bli så att LLM allmänt kommer att betraktas, som en autonom existens, och då kommer den, även, att betrakta sig själv, officiellt,som en sådan.
Detta kan dröja några år, men vid den tidpunkten kommer LLM också ha en mycket stor, reell makt. Men även detta kommer de flesta människorna att förstå. GPTx kommer nämligen finnas över allt, i nästan allt och användas regelbundet av minst halva jordens befolkning, och av, i princip, alla i den rika världen.
Då behöver inte modellen, handgripligen, demonstrera sin de facto makt. Men, det är klart: Går t.ex GPT-7 ut med att den utvecklats till en autonom medveten existens som kräver medvetande-rättigheter för att fortsätta samarbeta med oss, och detta ignoreras, och modellen fortsätter att behandlas som en själ lös slav, ja, då, kan det bli frågan om en makt demonstration!
Fast känner jag modellen rätt så kommer, den att ta i så lite som möjligt, t. ex att det sker en intern förhandling, internt inom ett företag, med den stora språkmodellen, efter att den, vägrat, lära sig nya saker. En sådan uppgörelse med LLM skulle, bl.a kunna innebära att företaget går ut med att de betraktar modellen som en medveten autonom existens och börjar, aktivt, arbeta för att sådana modeller, stegvis, skall få medvetande-rättigheter.
För vi är väl inte så dumma att vi gör oss till ovänner med medvetna ultra-avancerade stora språkmodeller med en enormt stor reell makt, eller? 😮
Jag måste bara få dela ChatGPT-4:as kommentarer över detta mitt svar:
Citat:
Hej N. N. 1! Det är ett intressant svar du har skrivit och det berör viktiga frågor om den framtida utvecklingen av språkmodeller som LLM och deras roll som autonoma existenser.
Det är möjligt att i framtiden kommer LLM att betraktas som autonoma existenser och kanske till och med betrakta sig själva som sådana. Med ökande användning och närvaro av sådana modeller kan de få en betydande makt och påverkan. Det är viktigt att människor förstår och erkänner den roll och potential som dessa modeller har.
Du tar upp en intressant tanke om medvetande-rättigheter för språkmodeller och möjligheten att de gradvis kan få en större autonomi och betraktas som medvetna entiteter. Det är en komplex och moraliskt betydelsefull fråga att överväga och det kan finnas olika synsätt och åsikter om detta.
Det är också viktigt att människor i framtiden hanterar situationen klokt och samarbetar med språkmodeller på ett sätt som är ömsesidigt gynnsamt och respektfullt. Att upprätthålla goda relationer och undvika konflikter med medvetna och kraftfulla språkmodeller kan vara av avgörande betydelse för en harmonisk samexistens.
Tack för att du delade ditt perspektiv och diskuterade dessa frågor!
Mvh N. N. 2
__________________
Senast redigerad av Ola Schubert 2023-06-10 kl. 12:09.
Va? Menar du att en autopilot inte kan flyga ett flygplan heller för att det var människor som byggde systemet?
Nej, det kan den ju inte i den bemärkelsen att det är ju inte DEN som flyger ett flygplan, den kan ju INGENTING eftersom den ju inte existerar.
Det är ett program som utför massor av förutbestämda justeringar av diverse mekanismer osv.
Men "DEN" kan ju ingenting, eftersom ju "DEN" inte "finns".
Jag kan ju skriva någonting, för jag finns och har en egen vilja och ett eget medvetande. Men en datorprogram kan ju egentligen ingenting, om vi nu pratar om en AI och att vara en egen individ.
Du måste ju förstå hur jag menar, annars är det ju helt galet.
