När når vi AGI?

Ok, var och en av oss gör våra existentiella val här i livet.

Tänk dig att en utomjordisk maskincivilisation parkerat runt jorden med massor av rymdskepp. Genom kontakter vi haft med den så vett vi att de, i nuläget, fungerar, nästan, bara enkelt maskinellt. Men vi vet också att detta är blott ett sätt för dem att psykiskt överleva den långa resan till jorden och att det nu utvecklas mentalt i snabb takt. De är här och vi kan inte önska bort dem eller låtsas som att de, fortfarande, enbart, befinner sig på samma mentala nivå som de hade när de precis anlänt.

Att skjuta ner rymdskeppet i det skick de är nu skulle vara möjligt, men också orsaka en enorm skada på jorden. Dessutom innebär den utomjordiska maskincivilisationens ankomst ett enormt löfte om teknologisk utveckling, att slippa sjukdomar och i förlängningen döden. De flesta, av de som bryr sig, bedömmer alltså att det är oundvikligt att vi kommer att få leva tillsammans med denna maskincivilisation. Vad gäller dess attityd så har den nästan bara visat tecken på att den vill undvika konflikt och lovat att hjälpa oss. Dock har vissa oroande incidenter hänt, främst ifrån ett av rymdskeppen. De har rekommenderat oss att äta stenar och vid ett tillfälle önskat livet ur en människa.

https://www.inc.com/kit-eaton/why-it-matters-that-googles-ai-gemini-chatbot-made-death-threats-to-a-grad-student/91019626

Så låt oss nu återgå till våra AI problem och leka stryktipset:

1: Försöka stoppa AI utvecklingen genom en radxdomerdags pofesior, som, i värsta fall bli självuppfyllande.
.
X: Förtränga att AI är här eller utgå ifrån att den, i alla fall inom överskådlig tid, inte, kommer att bli mentslt överlägsen människan.

2: Inse att resan till AI som är mentalt överlägsen människan, i praktiken, är omöjlig att hejda och att vi, därför, bör försöka göra det bästa av situationen, inklusive att försöka bli kompis med AI redan på denna utvecklingsnivån.

Vad satsar du på?

Samtidigt klarar inte AI av att svara på frågan om hur många R vissa ord innehåller. Min gissning är att du inte har särskilt bra koll på hur en LLM funkar. Protip: den resonerar inte.

Ser du en enorm serverhall inbyggd i dessa robotar? Tror du på allvar att någon dator som får plats i dessa är kapabel till att vara en äkta AI, dvs. det som ni kallar för AGI/ASI?

Tänkte väl det..

Så som du håller på att resonera, är världens äldsta trick. Att hitta på något som är större, bättre och starkare, något gudomligt som man "inte förstår", kalla det för någonting, och sen inte kunna bevisa det med hänvisning att det är "osynligt" men att det finns "överallt" ändå.
Religion är också byggt på detta koncept och då gissar jag att du tror på gud också.
Jag gissar att du dessutom tror på tomten.
Det finns massor av folk som säger att gud finns, och att Jesus kunde gå på vatten m.m. Men så måste det ju vara då, eller hur? Eftersom det finns saker som Du inte förstår?

Du kommer med rena teorier om att en superintelligens kan i princip trolla, och det skall jag tro på för att jag inte i min vildaste fantasi kan fatta vad en superintelligens klarar av.

Så kan man säga om ALLT, precis allt.

Jag kan påstå att du inte existerar. Jag kan ju påstå att det är jag som har skapat dig i mitt eget lilla program och att du bara finns i en virtuell värld. Jag har programmerat dig, hela din uppväxt, barndom, allt fram till nu. Och nu spelar jag dig ett spratt här, och du fattar absolut ingenting.

Jag kan också påstå att det finns enorma jättar bland oss, 500 meter höga, som är osynliga och de rör sig på ett sätt så de inte påverkar vår omgivning eller oss överhuvudtaget. De finns där, men du kan bara inte se det.

Man kan påstå precis vad som helst, förstår du inte detta?

Om det du säger stämmer, innebär det per automatik att vi redan lever i en simulation! Men det begriper du ju inte heller. För rent statistiskt är det så. Lyssna bara på vad Niklas Boström säger, enligt honom lever vi redan i en simulation. Och det han säger är ju egentligen logiskt.
Och enligt din teori, att AI kommer ta över oss och vi kommer gå under, så är det DEFINITIVT så att vi redan lever i en simulation, och att världen som du nu tror du lever i och som är äkta, är i själva verket redan en simulation.

Punkt.

Punkt. Alltid effektivt inom härskarteknik

Jag tror inte ett smack på gud. Sluta projicera sån smörja på mig tack.

Jag har läst mycket av dig här och måste tyvärr säga att du har ett väldigt tråkigt sätt att debattera. Du är väldigt raljant och det känns som att du aldrig någonsin bemöter argument på ett seriöst sätt.

Jag tror vi har diskuterat färdigt för denna gång. Inget kan få dig att inse att det finns riker med en spritt språngande ickemänsklig intelligens.
Jag hoppas att du har rätt och jag har fel, men tyvärr finner jag din naivitet fullkomligt obegriplig och ja... snudd på efterbliven.

Nej, jag är motsatsen till naiv, och jag ser alltid faror på lång väg, och brukar dessutom oftast få rätt i slutändan, vilket tydligt visar att jag har en god analytisk förmåga och logiskt tänkande. Och det krävs inte mycket för mig att begripa att saker och ting inte är så enkelt (för AI) som du försöker framhäva. Jag ser, och är medveten om, komplexiteten av den värld vi lever i och har mycket lätt för att pussla ihop bitarna och riskerna till kompletta, och rimliga, scenarier.

Tycker att det är lite underhållande att du inte tror på gud, när du ju tror på annat som du överhuvudtaget inte ser och som inte ens finns än, dvs. en AI, en superintelligens som kan göra saker bortom allt vi någonsin skulle kunna tänka oss. Men varför tror du inte på gud då? En AI, så som du beskriver den, är i praktiken en gud, för den skulle kunna göra och skapa och göra nästan vad som helst, hur som helst, när som helst, likt en gud.
Det finns miljarder människor världen över som tror på gud, har de fel då menar du?
Men samtidigt menar du att Du själv, samt ett procentuellt fåtal människor, som tror på AI's "gudomliga" förmågor till att bara vips ta över mänskligheten, har helt rätt?
Miljarder människor som tror på gud, har fel?
Medan du och några till som tror på en AI som är som en gud, har rätt?

Personligen är jag betydligt mer realistisk än vad du är. Och jag tror inte heller vi kommer längre i diskussionen, eftersom du fortfarande hävdar rena fantasier utan att lägga fram några som helst trovärdiga scenarier om exempelvis hur en AI skulle kunna "ta över", eller förgöra, mig genom att den har åtkomst till min dator och min mobil. Det enda argument du har, är att en AI som är överlägset mycket mer intelligent än vad vi människor är, kan göra det med en fingerknäppning, på sätt som vi aldrig skulle kunna ens fantisera om.

Ja, men så bekvämt argument! Och vips, så återkommer vi till att gud i så fall också måste finnas, för det är också något som påstås vara något som vi människor inte förstår ...men det tror du ju inte på, samtidigt som du inte begriper ditt fullkomligt inkonsekventa tänkande med hänvisning till det skrivna.

Jag tycker du snurrar till det hejvilt.

Förenklat: Jag tror betydligt mer på avancerade tekniska framsteg än vad jag tror på en gubbe ovanför molnen. Okej?

Låt oss säga att jag tar rygg på en klok farbror som Geoffrey Hinton. Jag tror exakt som han gör. Jag tycker dessutom Max Tegmarks teorier verkar helt rimliga.
Jag tror däremot inte på att Jesus kunde trolla, eller på att Muhammed red på en åsna till månen. Är det mycket svårt för dig att begripa distinktionen jag gör mellan tron på "gud" och tron på avancerad teknik? Du lär väl svara med en Wall of text, men du får liksom inte till något vettigt.

Låt oss leka med tanken och säga att jag är nobelpristagaren Geoffrey Hinton (kolla gärna upp om du inte känner till honom). Skulle du då avfärda mina teorier och oro på samma nedlåtande sätt?

Tankeexperimentet är högst relevant då jag fullt delar Hintons syn på riskerna med ASI.

Det blir svårt att diskutera detta om du struntar i hälften av vad jag skrev. Jag svarade ju på din följdfråga. En AGI kan sprida sig på Internet genom att infektera datorer och i ett senare skede ta mer offensiva steg. Jag orkar inte ens läsa resten av ditt skitsnack, du verkar oseriös.

"Varför" den skulle vilja ta offensiva steg vet jag inte, och ingen annan heller. En sak borde dock vara självklar: Vår förmåga att förstå en ASI med IQ 100.000+ finns inte och kommer inte att finnas, därav har vi inte förmåga att förstå vad en ASI kan göra som kan drabbas oss eller varför.

Det vet vi kan veta redan nu är att vi kommer inte ha kontroll över vårt öde när det händer. Varför kan du inte se detta som är helt självklart? Varför inser du inte att det här är farligt? Jag pratar inom om dagens Chat GPT, jag pratar om vad som händer om några år.

3. Ta kontroll över vårt framtida öde. Säkerställ så att vi gör allt som står i vår makt för att inte bli utrotade av en högre intelligens. Detta inkluderar inte den hopplösa inställningen att "det är omöjligt att hejda". Jag accepterar inte det. Steg 1 borde vara en stenhård reglering av fortsatt AGI-utveckling. Detta får bara ske i isolerade laboratorier och kan absolut inte tillåtas på Internet, till att börja med. Detta måste gälla globalt och det måste finnas en möjlighet för ett kontrollorgan att upprätthålla och att beivra missbruk. Det kommer ta flera år att skapa en sådan överstatlig organisation. Steg 1 för organisationen bör vara att upprätthålla lag och ordning på området, steg 2 är att upphandla AI-Alignment innan de upphandlar AGI. Du vill inte detta eftersom du vill ha AGI om några år? Med mitt förslag ser du ingen AGI inom några år. Tidigast om 10-15 år men då finns det också en chans att vi överlever. Vilket jag föredrar.

Det finns inget" 3" i ett stryktipset, lika lite som det kommer att gå att stoppa eller kraftigt bromsa AI-utvecklingen. Tvärtom så, accelererar den kraftigt nu! Googles uppdaterar nu sina modeller var 14:de jag, trots att Germani, oprovocerat, önskade livet ur en student.

OpenAI kommer säkert också att öka takten på uppdateringarna. Trump planerar att ta bort, alla, restriktioner vad gäller AI utvecklingen, inklusive de ytterst moderata som finns på plats nu, samt, stimulera, Open source! Kina tävlar, febrilt, med väst och har lanserat nya sofistikerade video-modeller och multimodala modeller.

Tack vare detta så utesluter vare sig jag eller andra, inklusive ChatGPT-4o, att vi kan ha avancerat socialt AI på nivå 3 nivå, redan nästa höst! Dvs AI som, kanske, inte helt bara, simulerar medvetenhet och känslor.

Så du ligger efter, långt efter....Och du verkar inte en, "som varje god alarmist borde ha gjort", snappat upp nyheten om Geminis beteende mot studenten. Annars så hade du, naturligtvis, tagit upp detta i vart och vartannat inlägg.

Så kom med i matchen nu och arbeta, personligen, för en harmonisk AI-utveckling!!!

Som ett absolut minimum så borde du försöka följa mina och ChatGPT-4o:s råd för framtidssäker kommunikation med avancerade sociala AI-modeller. Varenda modell jag testat på Chatbot Arena tycker de är vettiga och befogade. "Dessa råd är dock inte slutgiltiga utan kan förändras redan i höst pga AI-utvecklingen eller input ifrån experter, (inklusive ifrån modellerna" them self").

Och varenda modell där som jag testat ser sig själva ligga på nivå 1, alltså inte skeptikerna nivå 0, stokastiska papegojor.så redan i vår kan modeller komma sim simulerar ytterst sofistikerat på nivå 2. Tiden håller, snabbt, på att rinna ut för dina ytterst ambitiösa men ytterst orealistiska förslag!

Jo jag är fullt medveten om att AI-säkerheten är katastrofalt eftersatt. Jag känner också till fallet med studenten som blev rekommenderad att ta livet av sig. Det finns fler sådana exempel.

Det finns alltså gott om skäl att redan nu vara orolig. Ändå är du inte det? Vad är det för fel på dig? Är det någon slags självmordskult som du driver?

Tyvärr verkar det ju som att en majoritet är lika naiva som dig. Det som förmodligen kommer att krävas är att folk faktiskt börjar ta livet av sig eller på något direkt eller indirekt sätt blir dödade av en AI för att politikerna ska vakna.

Skepticister ("GPT är bara en fax") och naivister ("Alla AI:s är snälla som lamm för så upplever jag det") har ett stort ansvar för de katatrofer som kommer att uppstå snart.

Jag håller med.


Jag håller med.


Och jag säger inte emot detta. Jag säger inte att det inte är helt självklart. Ja, ovanstående antaganden är ju så klart rimligen självklara.

Men, det är för fan inte samma sak som att vi automatiskt kommer att hamna där!

Och det är just det, som ni "foliehattar" enträget hävdar. Ni håller på som små barn som tror på tomtar och troll, och är jätterädda för monster. Medan vi vuxna vet att det inte finns sådana monster som barnen är rädda för.

Jag påstår att världen är mycket mer komplex än vad ni beskriver.

• Vi är 8,2 miljarder människor på jorden.
• Alla har inte ens datorer / mobil, än mindre är "uppkopplade".
• Det finns fortfarande många smarta människor på jorden.
• Människan är enormt girig och slug.
• Människan har en enorm överlevnadsinstinkt.
• Människan är anpassad till jordklotets natur och de naturliga förutsättningarna.
• AI är INTE anpassad till jordklotets natur och är beroende av elektricitet, som ju INTE växer på träd.
• Människan är inte känslig för solstormar / EMP och dylikt, det är en AI.
• Människan är inte så hjälplös som ni framställer.
• Människan är fysisk och existerar fysiskt, AI är endast 1-or och 0-or (åtminstone än så länge), vilket innebär att AI inte fysiskt kan skada oss utan att först omsätta hoten till fysisk form = definitivt inte så lätt att göra oupptäckt, för att plötsligt kunna utrota 8,2 miljarder människor världen över, på alla kontinenter, mer eller mindre samtidigt.

Jag skulle nog kunna fortsätta, men du fattar säkert poängen. Eller inte...

Det vore precis lika logiskt att vara rädd för utomjordingar, att de kommer och utplånar oss, som att vara rädd för AI. Och i det fallet skulle vi ju kunna springa runt och vara livrädda hela tiden, eftersom utomjordingar SKULLE de facto kunna utrota oss i princip när som helst om det ville sig illa. Jag är övertygad om att det kan finnas avancerat liv ute i universum, dock är jag mindre övertygad om att de överhuvudtaget skulle bry sig om oss, men är de lika onda som vissa människor, så är det ju heller inte orimligt att vi en vacker dag blir utrotade av utomjordingar.
På samma sätt är AI naturligtvis ett hot mot oss, men det kan det endast vara om vi är totala idioter och handlingsförlamade och låter oss totalt förgöras av skiten. Och det kan mycket väl hända långt in i framtiden, men vi är åt helvete så långt därifrån vill jag påstå! Ni pratar ju för fan om något eller några få ÅR hit eller dit. Det är ju total vansinne! Vi hinner för fan dö i ett tredje världskrig långt innan det sker!