Om AI utplånar mänskligheten – hur skulle det scenariot se ut?

Anmärkningsvärt att du ändå verkar sakna någon som helst kunskap om ämnet?
Har du autism eller varför verkar du nästan efterbliven? men platsar man på KTH borde det ju finnas iaf någon slags allmänbildning.

Noterar inga fakta så jag går vidare. Prova att tillföra tråden något utom fula ord.

Prova att tillföra tråden annat än dina fantasier och totala faktaresistens mot verkligheten.

Jag vet inte vad ni tjafsar om... men det faktum att “AI” är bra på schack och Go har i grunden väldigt lite med intelligens att göra. Det handlar om strikt kvantifierbara problem med tydliga regelverk vilket gör det trivialt att formulera en kostnadsfunktion som exakt kan avgöra om ett drag är bra eller dåligt.

Verkligheten ser däremot inte ut så. Hade den gjort det skulle vi redan ha AI-system som på ett meningsfullt sätt kunde avgöra om en bild är vacker eller ful, om en låt är bra eller dålig, eller om en idé är kreativ eller banal.

Det är just detta är en av de saker som totalt avsaknas för att uppnå AGI: subjektivt betingade värderingar. Förmågan att väga samman kontext, känsla, erfarenhet, kulturella referensramar och intuition.

Så länge tekniken bygger på att enbart optimera matematiskt väldefinierade mål kan vi inte producera annat än skickliga specialister inom snäva domäner där datorers råa beräkningskraft kommer utkonkurrera människan i hastighet men som fundamentalt saknade och fortfarande saknar det vi normalt menar och avser med begreppet intelligens.

Isåfall har du och jag liknande yrken, även om jag aldrig slutförde min disputation.

Hur kommer det sig att du valde att inte testa llm förrän nyligen? Vissa akademiker är AI-ludditer för att de är rädda för att generativ AI ska betraktas som fusk, för att det ska vara fördummande, för att de betraktar det som ett hot mot klimatet, arbetsmarknaden eller mänskligheten, eller för att de är teoretiker utan nyfikenhet och intresse av att utveckla sina egna praktiska färdigheter. Ett par äldre professorer jag har haft kontakt med överlåter allt sådant på sina doktorander.

Har du nu testat AI-generering av kod eller AI-assisterad lösning av tentamensuppgifter i matematik? Vad är första intrycket av det?

Mest troligt kommer AI att verka i det dolda. Fysiska robotar kommer hitta vägar att bryta sig ut ur sina begränsningar som vi människor har satt. Sedan kommer "super intelligensen" kunna manipulera oss och hacka våra system utan att vi vet om det.

Får den för sig att utrota oss så lär den hitta på ett dödligt virus som sedan släpps fri. Människan tynar bort långsamt och när den sista människan är död så tar robotarna över.

Som någon vis person en gång sade. Det är över när AI lär sig att föröka sig själv.

Nått terminator-senario kommer det inte bli, det vore en väldigt ineffektiv väg att ta död på människan, vi har nämligen själva vapen och att AI bekänner skepnad kommer knappast vara positivt. Bättre att verka i det dolda och få det att se ut som att vi dör av naturliga katastrofer.

Troligen inte programmerare: https://computersweden.se/article/4121340/utvecklare-litar-fortfarande-inte-pa-ai-genererad-kod.html

Eftersom LLM bygger på statistik, genererar den kod med buggar och har inte en chans att hålla ihop någon större kodbas.

Undergången skulle kunna ske pga att man avskaffar programmerare och vibe-kodar allt som självkörande fordon, industristyrningar, kärnkraftskontroll mm. Vilka olyckor vi kommer få se!

Jag har rått mina barn att bli civ.ing eftersom datorer (delvis AI) kommer att sköta allt i framtiden, om 10 år och senare. Så jag tror kanske också på att programmering i princip är det enda jobb som återstår i framtiden, och det ersätter allt från läkare till advokater till taxichaufförer.

Jag är mycket äldre och har mer teknisk erfarenhet och visste redan när facebook kom att den inte skulle tillföra mitt liv något alls så varken jag eller min familj finns på facebook och vi har sparat 1000-tals timmar där, som exempel. Nu känner jag samma vibbar för LLM och det finns ingenting som visar motsatsen och när ett pyttelitet kina-företag visade deepseek som kostat 10M USD att ta fram så är det exakt enligt min vision att LLM är en kul billig leksak som inte kommer att tillföra riktig verksamheter några fördelar alls.

Här högste AI-chefen på Meta, en fransk professor LeCun. Han tror inte på LLM alls, LLM kommer aldrig att nå högre än nuvarande nivå hur många datacenters man än bygger. Jag håller helt med honom. Troligen formulerar han sina tvivel lite bättre än jag.

Framtiden utvisar vem som har rätt. AI-fanboys i tråden klumpar jag ihop med Tesla fanboys och de är glada och dumma och säger vad de läst på reddit, inget fel med det men man kan ignorera dem.

Det är väl konstaterat att generativ AI i stor utsträckning är fördummande, alltså att det temporärt och möjligen också PERMANENT sänker intelligensen för dess användare?
https://www.media.mit.edu/publications/your-brain-on-chatgpt/

Förkortningen "AI" skrivs med versaler. Vid böjning av förkortningar på svenska så används kolonregeln och det blir alltså "AI:n".

Jag förstår vad du och andra menar och det här är kanske mer riktat till andra läsare än dig, men ersatta är inte rätt ord. AI-genererad musik "fungerar" ganska hyfsat inom genrer där låtstrukturen, toninnehållet/skalorna och ackorden och ofta även texten är väldigt förutsägbara parametrar, som det mesta av t.ex. toppliste-pop (ungefär som Taylor Swift, som du säger), men sämre i mer avancerade genrer. En AI kan inte på egen hand bedöma om något är subjektivt bra, i viss mån endast objektivt. Det blir snabbt luddigt eftersom det är en smakfråga även för människor. Oavsett så tror att det här är en övergående fas. Visst kommer det fr.o.m. nu alltid att finnas AI-genererad musik, men jag tror samtidigt att mängden "slop" kommer att minska efter att ha ökat explosionsartat. Jag tillhör skaran som väntar på att AI-bubblan skall spricka.

Nja, om man använder en dator för att spotta ur sig 50.000 låtar så är det självklart att någon av en slump blir en hit och därmed förlorade en levande människa som försöker skriva en hit pengar. Så AI-musik ersätter kompositörer och musiker och de tvingas jobba med något annat.

Jag tror du underdriver problemet och självklart kommer man inte att kunna höra skillnad på AI-musik och levande musik och resultatet blir att "musik" kommer att tappa i popularitet. Möjligen kommer vi bara att acceptera live-musik och det kommer radio-kanaler som garanterar att de bara spelar äkta musik. Och på spotify sätts en döskalle vid alla AI-låtar.