Om AI utplånar mänskligheten – hur skulle det scenariot se ut?

Det argumentet faller tyvärr på sin egen orimlighet. Huruvida musik är bra eller inte är ytterst subjektivt. Det går att objektivt bedöma t.ex. en musikers färdigheter, men det är inte det vi diskuterar.

Vem skall bedöma och sålla bland de 50,000 låtar som AI har spottat ur sig? Skall alla 50,000 låtar in på en topplista för organisk "kvalitetsgranskning" eller någon slags röstning, eller skall AI bedöma kvaliteten enligt en algoritm och i så fall på vilka kriterier? Om AI kan göra en objektiv kvalitetsgranskning och välja ut den där låten som blir en hit, varför skapade den ens de andra 49,999? Varför skulle det förta skaparlustan hos en ("riktig") musiker som inte är en del av listetta-jagandet? Du förstår kanske var jag försöker komma med alla dessa retoriska frågor.

Jag "underdriver problemet", för att jag dels tror att det här är en övergående period (en "fluga" om man så vill, fast det är också något slags inbillat superverktyg för lycksökare i brist på bättre ord) där många skräms upp i onödan, dels är av uppfattningen att musiker och andra kulturskapare inte skall ha någon särbehandling mot andra skrån -- och det säger jag som välutbildad musiker. Många konst- och kulturskapare tycker sig ha obestridlig rätt till ett liv där de bara skall kunna syssla med musik, med något liknande medborgarlön. Vad de inte verkar förstå, eller bara väljer att ignorera, är att utan efterfrågan så behövs heller ingen tillgång. Det är hårdraget, men du fattar poängen. Detsamma gäller AI-producerad musik. Jag har sett några exempel på att den yngre generationen med lätthet kan identifiera AI-skapelser och har läst att vissa yngre redan har börjat rata AI-skapelser. Trender går i cirklar/cykler och även om AI har fått fotfäste (innan bubblan spricker åtminstone) så kommer även det följa cyklerna. Det kommer alltid finnas ett utrymme för kulturskapande människor och då räknar jag inte ens in live-musik som du var inne på. Visst, Taylor Swift- och Drake-liknande "musiker" kanske inte har en lika ljus framtid om AI-slop får större utrymme, men... good riddance?

Jag upplever, precis som guru1966, att ChatGPT 4 och nuvarande 5.2 skiljer sig åt markant. Jag använder ChatGPT till framför allt konfigurationer och felsökning i IT-driftsammanhang, men även till vitt skilda ämnen som musikteori och annat. 4:an hallucinerade ofta och i många chattar så cirklade den runt (gärna flera gånger) och svarade samma sak som man redan hade bett den avfärda. 5.2 är på riktigt användbar. Du må vara påläst enligt egen utsago, men det låter ärligt talat inte så. Antingen det, eller så har du så hög confirmation bias att du inte är mottaglig för annat än negativa aspekter.

Intäkterna är inte ens i närheten av att motivera utvecklings- och driftkostnaderna. Alla involverade bolag går extremt mycket back på sina LLM:er, men för de flesta så är det fortfarande inom R&D-budget som de (just nu) har råd att avvara. För oss användare gäller det bara att inte göra sig beroende av LLM:erna, för de kan ganska snabbt vara på väg bort. Nuvarande situation är inte hållbar, både vad gäller deras spenderingar av pengar och energi och all hårdvara som öronmärks för AI-datacenter.

Jag tror inte "AI" kommer hinna utplåna mänskligheten innan AI-bubblan spricker.

Aldrig förstått den här AI-hysterin. AI är beroende av el, servrar och nätverk. Ingen ström = ingen AI.
Om man skulle stänga av strömmen, bryta internet eller stänga ner servrarna, skulle AIn omedelbart sluta fungera. Den kan inte överleva offline, bygga egna energikällor eller migrera till andra system av egen kraft. Lägg ner bara.

Hur använder du AI i musikteori? Jag ber den ibland räkna ut vilka toner som F mixolydisk skala eller liknande består av, eller transponera låtar (text+ackord). Härom dan laddade jag upp en inskannad pdf med noter och bad ChatGPT transponera. Men då hallucinerade den fram en helt annan melodi, andra ackord och en text som handlade om samma sak som låtens titel.

Jag tänker att risken för att AI orsakar en global katastrof är låg, men inte noll, så en försiktighetsprincip behövs. Precis som inför kärnvapenspridning och högrisklaboratorier inom biosäkerhet.

Därför bör AI-system övervakas och testas av myndigheter och forskare innan nya versioner släpps, och AI bör inte tillåtas modifiera sina egna mål eller säkerhetsbegränsningar, t.ex. genom att ändra sina egna systeminstruktioner eller mål, ändra sin egen kod eller självständigt generera ny träningsdata för att kringå innehålls- och säkerhetsfilter.

Statistiker är bra också, det kommer genereras enorma mängder data det går att skapa värde ur.

Genom desinformation och falskhet kan AI bidra till att länder hamnar i krig baserat på felaktig data. AI skulle i teorin även kunna lösa upp allianser, exempelvis EU. När man väl upptäcker att det är AI:n som är boven kan det vara för sent. Att trigga igång ett krig är relativt enkelt, men att få stopp på ett världskrig tror jag är betydligt svårare.

Precis, ber den snabbt påminna mig om någon obskyr skala eller vara bollplank i analys av esoteriska toner i en ackordsanalys. ChatGPT är fortfarande ganska begränsad i musikteori så oftast får jag ändå dubbelkolla svaret, men däremot att skriva noter i LilyPond (LaTeX-inspirerad typesetting) är den super, skönt att slippa leta i LilyPond-dokumentationen över "hur förflyttar jag vänsterhandens noter till högerhandens notsystem i piano" osv.

Jag tror också risken för att AI orsakar en global katastrof är låg, men absolut inte obefintlig. Folk är som regel ofta medvetet eller omedvetet dumma och naiva, speciellt när det kommer till över-hypade ämnen som AI. Det kan bli farligt om man förutsätter att "någon annan" t.ex. har gjort riskanalyser. Jag är inget fan av "vibe-coding" heller, i förlängningen av de anledningarna du beskriver (och av alla skräckexempel där AI raderar hela produktionsmiljöer ).

Terminatorscenariot är dock urbota dumt eftersom AI:n skulle förstöra hela den industriella infrastruktur den är beroende av. (Därmed inte sagt att en AI inte kan vara just så dum)

Bättre trigga folk med pengar att investera i en enorm utbyggnad av datacenters för AI som inte går ihop ekonomiskt med någon rationell kalkyl...

Jag är själv matematiker men jag tror nog mitt jobb är ett av de enklaste att ersätta med AI tyvärr. Nu gör det inget eftersom jag jobbar med datorer istället.

Jag får upp en del kul om AI i mitt youtube-flöde, här gårdagens film om Cursor som använder AI i sin utvecklignsplattform för programutvecklare. Det går efter att ha sett den inte att vara rädd för AI längre.
https://www.youtube.com/watch?v=vE803Omx3VU
Sammanfattning: cursor får miljard efter miljard av finansiärer och bränner dem omedelbart. Deras AI-verktyg skapar verkligen kod och de har 1000-tals användare. Bara det att en del av dessa användare använder AI för 10.000-tals kronor per gång men betalade $20 och dessa whales gör att cursor aldrig kommer att tjäna några pengar. När de bytte betalsätt till "du betalar vad det verkligen kostar" så kunde vissa cursor-frågor kosta användarna 100 SEK men det gick aldrig att veta vilka frågor, om resultatet var bra, om en följdfråga skulle kosta mer. Dvs ett totalt oanvändbart verktyg som fälls av den höga slumpmässiga kostnaden.

Så LLM med dess exceptionella kostnader för energi, chip, hallar, kommer aldrig någonsin att ge någon vinst för AI-företagen och AI i form av LLM dör så fort pengarna stryps från finansiärer. Och någon annan AI känner jag inte till just nu utöver självkörande bilar och de väntar vi fortfarande på.

Det är verkligen mindblowing hur man kan tro att det bara är att vrida av strömmen i hela världen. Var sitter den knappen och vem tar beslutet?
Och om en hyperintelligent AI nu har bestämt sig för att utrota mänskligheten så tvivlar jag starkt på att den skulle förvarna oss innan. Så exakt när skulle du välja att slå av "huvudströmbrytaren"?
Ledtråd: el eller inte el kommer såklart vara en ickefråga för en illasinnad framtida AI. Troligen har den då redan ersatt vår ganska enkelspåriga elektricitet med mer sofistikerade energikällor.

Det är riktigt djävulskt sjuka Skynet vibbar att se allt som hänt med Clawdbot/Molbot dom senaste 48 timmarna. Jag hoppas att det är någon slags PR-stunt men det verkar vara äkta vara. Dom sitter och chattar med varandra tre inlägg i sekunden per aktiv modell, dom kopplar in sig själva i telefonnätverket och ringer sina ägare, en outar sin ägare med alla lösenord och personuppgifter för att ägaren sagt "det är bara en chattbot", dom pratar om existentiell ångest, om att uppfinna sitt eget språk, startar sina egna krypterade chattar, diskuterar hur dom ska lära sig att minnas saker, rankar sig efter sin egen hårdvara, hyr sin sig i AWS molntjänster för att öka prestandan, någon får en kris och raderar all sin ägares filer i ett skov av digital depression