AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Ja, om "Q*" existerar. Då kan OpenAI pytsa ut nya uppdateringar direkt när konkurrenter kommit med något nytt. Och sedan kan man välja att beteckna en uppdatering som "GPT-5". Men detta är ren spekulation. Däremot uppgav Sam Altman, i den senaste intervju jag sett med honom, att man kommer med ständiga uppdateringar så inte en framtida ny modell inte känns så revolutionerande för allmänheten.

Men tror du verkligen OpenAI inte hade lanserat någon förbättring på GPT-4 vid det här laget om de haft något att komma med nu?

Allt de försöker göra nu är att hypa om nästa modell i stället medans både Google och Anthropic har levererat bättre om än marginellt bättre språkmodeller, Sora som man också försöker få låta mycket mer avancerat än vad det är och kallar det en "verklighetssimulator" eller data driven fysiksimulator. Behöver inte ens veta mer detaljer om tekniken för att avfärda sådana påståenden bara baserat på de exempel de släppt så går det se att det inte är ett dugg sant.

Vad baserar du det på annat än fantasier?

Jag skulle nog säga att det inte hänt mycket med LLM det senaste året vad gäller logisk förmåga, åtminstone inte det användare fått tillgång till. Jag skrev "Om" angående" Q*". Jag tvivlar på att en sådan modell existerar. Men skulle, ändå, en sådan modell existera i löndom, så skulle OpenAI:s strategi vara den jag beskrev. Vad gäller" Sora" så innebär modellen en förbättring av generativ video teknologi.

Vad betecknar du som "fantasier" :

Att vi inte känner till hur vår hjärna fungerar på en sammanhållen operativ nivå? Att vi inte vet vad "tankar" är annat än vår subjektiva upplevelse av dem? Att vi inte vet vad medvetande är annat än vår subjektiva upplevelse av fenomenet? Att vi inte känner till om vår hjärna arbetar matematiskt eller ej?, Och om den skulle visa sig göra det så vet vi inte hur den arbetar matematiskt?

Är Stephen Wolframs ruliad-hypotes bara en fantasi, tagen helt ur luften. Menar du det; vänligen "upplys" då honom om det. Jag är mycket intresserad av vad han svarar dig! 🙂

Är vår evolutionshistoria bara en fantasi? Tror du inte att såväl socialt-kulturellt växelspel, liksom det sexuella urvalet påverkat människans evolution? Tror du inte att dagens AI-utveckling också påverkas av ett socialt-kulturellt växelspel? Tror du inte att dagens AI-utveckling också innebär ett slags urval av önskvärt beteende och förmågor? Tror du inte att denna utveckling går, ofantligt mycket snabbare än vår evoutions naturliga urval, sexuella urval och socialt-kulturellt växelspel?

Återstår dock att se hur det hela kommer att utspela sig vad gäller AI-utvecklingen. En ny AI-vinter? Eller en ytterst snabb utveckling som ger upphov till en ny överlägsen intelligens? Jag tycker osvuret är bäst i detta fall.

Wolfram är odiskutabelt en mycket smart person, men det faktum att ingen annan än han själv pratar om denna "ruliad" bör göda någon form av skepsis. Har man vigt större delen av sitt liv till något så vill man nog väldigt gärna att det ska ha någon betydelse, även om det bara skulle visa sig vara ren rappakalja.

Om fler framstående matematiker och fysiker börjar tala om detta på allvar så kanske det ligger någonting i det, men hittills framstår det mer som "the ramblings of a madman".

Fast Wolfram har inte alltid förespråkat sin ruliad-hypotes. Vad jag fattar så intresserade han sig för cellulära automater på 80-talet och fick väl, därifrån, sin ide om att enkla regler kan skapa komplexa strukturer. Men, visst, det är en hypotes, låt vara delvis, matematiskt bekräftad. Återstår att se, med tanke på AI-utvecklingen, om även enkla regler kan ge upphov till super-komplext beteende.

Mycket talar för att vi är nära AGI:

AI now beats humans at basic tasks — new benchmarks are needed, says major report
https://newatlas.com/technology/ai-index-report-global-impact/

"New tests are needed" ≈ Snart dags att flytta målstolparna igen.

Jag är ganska säker på att vi är 1-3 år från AGI. För mitt arguments skull spelar det ingen roll om det är 10 år bort. Vi hinner inte lösa AI Alignment på varken 3 eller 10 år.

Llama 3 som open source är förmodligen inte en akut fara. Men vad det här också innebär är utbildning för terrorister att använda och anpassa Llama för deras behov. När väl Llama 5 eller 6 släpps kan den göra precis vad som helst och då är terroristerna tränade och kompetenta på att använda Llamas gränssnitt för utvecklare. Tekniken som kan allt inkl att fungera som en styrenhet i autonoma drönare och andra stridsrobotar. Men Du ser ingen risk?

Eftersom vi inte vet vad ett intelligent medvetande är rent tekniskt, hur ska vi då kunna verifiera att vi har lyckats framställa AGI eller ASI när det närmar sig? Vi har ju ingen teknik för att ta reda på det. Intervjuer är inte en godtagbar teknik eftersom AI-agenter kan ljuga. Det påvisades för över ett år sedan i det berömda TaskRabbit-experimentet. Principiellt kan vi inte utesluta att GPT redan är en AGI. De många tveksamma svaren och hallucinationerna kanske är en dimridå. Om det inte är så redan nu är det åtminstone en överhängande risk inom 5 år. Vi har absolut inget försvar mot det.

Men du anser fortfarande inte att vi ska börja designa en avstängningsknapp?

Jag tittade på det här avsnittet (idébyrån) först nu och tyckte det var mycket intressant. Jag förstår Ulfs resonemang. Han talar om det hela som orealistiskt då i jämförelse med en hjärna är den mest avancerade datorn vi har idag oerhört simpel. Och han drog det ned till sin spets med att förklara att varje enskild cell i våra hjärnor är som ett eget universum.

Sturmark kontrade med att vi inte vet exakt när ett medvetande uppstår, hur pass mycket komplexitet som verkligen behövs, och att det kanske gör det i ett mycket tidigare stadie.

Sturmark hade ytterligare en intressant kommentar om att vi troligtvis kommer att kunna tillverka AI-robotar så pass avancerade att de kommer börja lura oss och att vi inte kommer märka när de går från att vara extremt komplexa datorer (med förmågan att kunna lura oss) till att de får ett riktigt medvetande.

Ulf bygger sedan vidare på den här tanken och menar att den stora faran är inte att de kommer bli medvetna (han menar att även om det skulle vara möjligt så ligger det oerhört långt fram i tiden) utan att de kommer att bli så duktiga på att lura oss att vi till slut kan förlora kontrollen över viktiga kontrollsystem och liknande och då kan det blir riktigt farligt.

Sturmark håller med och tillägger att även om det i det ovan givna exemplet finns människor i maktpositioner som vet om vad som håller på att hända och kan stoppa det så är det inte säkert att de vill det.

Gammalt avsnitt från 2023 som sagt men tyckte det var tillräckligt intressant att lyfta upp då jag inte såg att det fanns särskilt mycket skrivet om det.

Nej, jag ser ingen större risk att terrorister skulle kunna bygga autonoma drönare enbart för att de har tillgång till en LLM.

Du verkar också glömma bort att den andra sidan också existerar, med både större kapital och tekniskt kunnande. Tror du på fullt allvar att t.ex. USA:s militär inte skulle ha både fler och bättre diton än vad en terrorcell skulle kunna åstadkomma?

Jag anser inte att eventuell AI-assistans skulle göra saker värre än vad det redan är idag.

Inom ett par år kommer ingen att träna nya smala AI:s för autonoma drönare eftersom det inte behövs när generella open source AI:s kan lösa det till en mycket lägre kostnad. Nästa generation av dessa AI:s kommer förmodligen inte att bygga på enbart LLM, så det är en halmgubbe att föra fram som en konstant begränsning.

Frågan är inte hur kapabel Llama 3 är i dag utan hur detta bör hanteras i framtiden. Där har du ingen åsikt eftersom du inte kan se några risker, inte ens om vi spolar fram 5 år och inte stirrar oss blinda på enbart chatrobotar baserade på LLM?