AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Gör som AI-bossarna.

Investera i en doomsday bunker ☠️

Top AI Executives Are Secretly Building Bunkers – Should We Be Worried?

https://felloai.com/top-ai-executives-are-secretly-building-bunkers-should-we-be-worried/

Förr brukade man ju säga "follow the money".
Numera är det "follow the doomsday bunkers".

🤷🏻‍♂️

P(doom) 92,5%

Fast bunkrar har väl byggts sen 50talet?

Av samma anledning som AI-bossarna nu bygger bunkrar inför AI Armageddon? De kanske var rädda för BARK på 50-talet? Binär Automatisk Relä Kalkylator. Dåtidens "språkmodell", eller: Liten Language Model LiLM.

Förklara för någon som inte är så kunnig i exakt hur AI kommer fram till sina svar: Finns en risk att vi helt enkelt fastnar kunskapsmässigt om alla förlitar sig på AI, eftersom det utgår från träning på vad som är mest sannolikt?

AI är förkortningen för Antikrist:

Anti-Iesus på latin.

Vi håller på att skapa vår egen Gud. Ett system som vi vördar och tillber och överlåter allt vårt tänkande och vår själ till.

Ja, det som är mest sannolikt är samtidigt det som är genomsnittligt. Dvs själva bulken av träningsdatat. Det innebär att AI-skapad musik, bilder, filmer och källkod ofta blir medioker och likriktad. Vi befinner oss på ett sluttande plan. I takt med att Internet fylls på med mer och mer mediokert innehåll kommer framtidens AI tränas på ännu mer urvattnad, medioker och opersonlig data.

En långtgående slutsats av detta är att hela apparaten blir väldigt meningslös och att en ASI knappast drar slutsatsen att det är högt prioriterat att fortsätta fylla upp Internet med meningslösa nöjen och att resurserna prioriteras om till något annat som en ASI anser är mer produktivt och meningsfullt, eventuellt i en intellektuell dimension som vi är helt inkapabla att begripa.

Samtidigt ligger denna mediokra data på en kunskaps nivå, och förmåga, som ligger över duktiga civilingenjörer när det gäller matte, fysik, och de flesta data relaterade yrken. I flera specialiserade ämnen (typ datorsäkerhet eller forskning i ren matematik) ligger kompetensnivån över vad även hyfsade doktorer kan klara.

Det kommer att vara riktigt svårt för nästa generation att komma till en kunskapsnivå där de på ett meningsfullt sätt bidrar till kunskapsutveckling överhuvudtaget, I skolan kommer ju alla de uppgifter de ställs inför kunna lösas riktigt smidigt, utan egen insats alls, genom AI:n.

Det ser man nu på universiteten när studenter skall lämna in inlämningsuppgifter. I princip enbart korrekta och riktigt välskrivna lösningar. Sedan blir det tenta och i bästa fall får man in ett blankt papper.

Det är en risk för mänskligheten som är lite mer smygande och allvarligare än att Tesla's Optimus tar till vapen och startar krig mot oss (vilket också är en risk).

Teknik utveckling har alltid gjort att kunskap blir onödig och försvinner. Frågan är alltid vad som kommer istället? Som ett exempel så kunde en teknik tidning på 30-talet publicera bygginstruktioner till den svenska folkbåten i trä. Sedan kunde en normal villaägare bygga en på tomten och ta med familjen ut i skärgården på sommrarna. Plastbåtar är bättre och kan inte byggas hemma. Nu skulle ingen ens veta hur man skulle börja. Istället ägnar vi tiden åt att scrolla på Facebook.

Tror att mycket har blivit sämre för människor. Utvecklingen far fokuserat på att skapa bekvämlighet men inte nya utmaningar att ersätta de gamla....

Om man zoomar in på IT-säkerhet specifikt och tar något genomsnittligt inom det fältet då får du något som är av professionell kvalitet inom specialistkompetensen IT-säkerhet. Film, musik, litteratur innehåller mer skräp som modellerna också tränas på. Medioker träningsdata behöver inte vara ett stort problem om 90% av datan inom ett ämne har hög kvalitet.

Visst men det är fortfarande samma problem. En människa som precis börjar med ett projekt tjänar inget alls på att göra en liten del av jobbet själv. Låt AI:s göra allt själv så blir det bättre. Finns inga incitament att utvecklas själv längre.

Risken finns att det inte kommer någon nästa generation filmskapare eller författare. Klart att en etablerad författare nu kan bli betydligt mer produktiv med hjälp av AI och säkert producera 10 böcker av hög kvalitet på samma tid som 1 bok producerades för 10 år sedan. Kommer att göra konkurrensen ännu hårdare för nya förmågor.

Ja, det är en annan aspekt av problemet. Om ingen lär sig nu, hur ser det då ut om 10-20 år? Men det spelar kanske ingen roll om vi inte överlever så länge. Här gäller det att fokusera på rätt saker.

Visst fast domedagen kommer nog inte att blir miljontals Optimus robotar som går från hus till hus och letar efter människor...

Tror mer på att vi blir irrelevanta och ignoreras.

jag ställde nyss följande fråga till Google: "how long do scientists think it will be before we can casually talk with humanoid service robots?".

Det är naturligtvis inte så att jag väntade mig något exakt svar, jag ville veta var uppskattningarna idag ligger någonstans. Svaret blev: omkring 10-15 år, alltså mot slutet av 2030-talet. Och då avses samtal som flyter oå naturligt, där även roboten är en aktiv partner, och via rösten. Instruera en robot med korta kommandon i text (från typ mobilen) och få någon slags svar i text kan man väl göra redan idag.