AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Jag kan ge dig en siffra men varken du eller jag kan grunda en siffra på något konkret. Men eftersom jag hittills inte hört några övertygande eller ens trovärdiga argument för varför människosläktet skulle hotas så har jag ingen anledning att känna nån oro för just det. Däremot för annat, som sagt.

Det skadar inte att vara försiktig. Jag skräms t ex av sådant som redan nu är möjligt, t ex beväpnade robotar. Men jag tror inte AI kommer att utplåna mänskligheten. Den kan hjälpa oss att lösa problem med klimatförändringar och annat, så även om det finns risker så finns det också potentiella fördelar.

Du förstår alltså inte ens något så simpelt som hur bevisbörda fungerar? Det var Ola Schubert som påstod att beteendevetenskap passar perfekt för att lösa the alignment problem(se nedan, vilket hela diskussionen handlar om). Det är upp till honom att motivera varför han sätter sådan extremt hög tilltro till att denna "vetenskap" kommer lösa problemet - något som inte gjorts vare sig av Ola eller dig. Men jag får ändå ge Ola credit för att han bidragit med någonting varav du inte bidragit med ett smack. Totalt menings- och innehållslösa inlägg.

Och jo, jag har gett ett väldigt konkret argument till varför jag inte sätter någon tilltro till att beteendevetenskap kommer lösa detta problem - nämligen det simpla faktum att beteendevetenskap studerar människor och därmed inte går applicera på en entitet som inte är mänsklig överhuvudtaget.



Vi är inte i närheten av några nämnvärda effekter eller problem av klimatförändringar i dagsläget heller så varför ens fundera på lösningar i dagsläget? Bättre att sticka huvudet i sanden och hoppas på det bästa, och om stora problem uppstår när det redan är för sent så kan man lösa det då.

Jag har gett ett konkret bevis, du har inte att bemött det alls utan i stället gnällt på "halmgubbar" och "ad hominem".
Du utgår ifrån att forskare är dumma i huvudet och inte klarar avgöra om deras produkt är illvillig eller inte, jag gör inte det.

Och din retorik är under all kritik och nu drar du till med "Guilt by association" argument också.

Det är väldigt tydligt att du aldrig blivit ifrågasatt tidigare. Du tror det räcker att komma med långsökta argument för att förvisa någon till skamvrån.

Det långsökta argumentet i sammanhanget är klart att AI kommer förgöra mänskligheten, det finns inget som tyder på detta alls.
Jag påpekar att AGI som är målet innefattar per definition en förståelse och utförande av samtliga mänskliga kognitiva egenskaper inklusive social kognition, en AI som inte uppfyller detta är inte en AGI och det är inte något någon eftersträvar att utveckla överhuvudtaget.

Vi kan redan idag göra automatiska algoritmer för att beräkna ballistiska banor, mål söka osv med betydligt enklare medel än att kasta miljontals dollar på det, det finns inte i någons intresse att ha en okontrollerbar AI som vissa här fått för sig.

Kan du förklara hur det är ett långsökt argument eller ens i närheten så långsökt som att hävda att AI måste stoppas utvecklas omedelbart för att det är ett hot mot mänskligheten.

Jag säger inte emot dig på den punkten. Jag menar bara att du inte gillar att bli ifrågasatt.

Bevis? Du använder nog fel ord här. Men låt höra, vad är din motivering till att du sätter sådan extrem tilltro till att beteendevetenskap kommer lösa the alignment problem? Det ska gärna lösas innan det är för sent också.


Vilket empiriskt test och experiment pratar du om som med stor precision kan avgöra intentionerna hos en entitet som är ofantligt mycket mer intelligent än en människa? Kan du veta vad som verkligen rör sig i huvudet på en hund ens?


Du kan alltså inte förstå vad en analogi är heller vilket min poäng med klimatförändringarna var? Istället tror du att det är guilt by association! Du förstår ju ingenting! Du förstår inte vad diskussionen du gav dig in handlade om, du förstår inte vad bevisbörda är och du kan inte förstå vad en analogi är.

Jag har inget emot att bli ifrågasatt, problemet är att de som "ifrågasätter" har inga argument.
I bästa fall kommer det en länk till någon skvallersite på internet som gör rubriker för clickbait, ger de konkreta forskningsrapporter så tar jag det vilken dag som helst, problemet är att de kommer inte hitta något sådant för dessa diskussioner hör inte till vetenskap utan fantasi och filosofi möjligtvis.

Det är inte ett dugg annorlunda än att stå med skyltar utanför biologiska forskningsanläggningar och kräva en omedelbar nedstängning för att det kan råka skapa ett virus som förgör mänskligheten och faktum är att det är troligtvis mer sannolikt eftersom vi redan idag vet hur vi injekterar gener och manipulerar RNA och i förlängningen DNA trots vi fortfarande inte förstår exakt hur samverkan av detta är.

Det finns inget alignment problem, precis lika lite som flygande spagetti monstret finns.

Bevisbörda som du påstår är att du ska presentera bevis för att the alignment problem finns, när du gjort det kan diskussionen fortsätta.

Tills dess kvarstår resonemanget att om man mot förmodan skulle skapa en AI så kraftfull så den överskrider människans förmåga på alla plan, så går det utgå från att den har samma förståelse för oss som vi har för andra djur på planeten.

Grundantagandet här är att AI:n är mycket smartare än en människa.

Ja och det är det som är problemet för vi är inte ens i närheten av det, vi har inte ens AI som med intelligens i nivå med en råtta eller katt. Och det enda som får folk att tro annat är stora språkmodeller eftersom de snorihop meningar som låter rimliga men de har brister som att de vet inte vad de faktiskt skriver,

de har problem med reversering av meningar som det klassiska exemplet som (OpenAIs) Andrej Karpathy demonstrerar i sin video han släppte iförrgår att- om du frågar GPT-4 vem som är Tom Cruise mamma så kan den svara på det- Mary Lee Pfeiffer, men den kan inte svara på om du frågar vem frågar vem Mary Lee Pfeiffer son är.
Karpatys video: https://www.youtube.com/watch?v=zjkBMFhNj_g&t=762s

Det finns också demonstrerat och beskrivit här och har inte med GPT-4 i sig att göra utan språkmodellerna är oförmögna att göra A=B B=A associeringar.

https://arxiv.org/abs/2309.12288

Och det absolut största problemet som man fortfarande inte löst (men försökt jobba runt genom att lägga på fler lager som verifierar vad de spottar ur sig) är att de inte vet när de har rätt eller fel, när de talar fakta eller när de spottar ur sig påhittad/genererad information.

Det har man försökt lösa sedan språkmodeller introducerades och fortfarande inte har en lösning på. Det går göra en lång lista och det är ganska uppenbart för de flesta forskare att språkmodeller i sig inte kommer nå dit man vill.

Och vad som fattas tills man når dit vet man inte fortfarande, OpenAI vill gärna ge sken av att de är det absoluta toppskiktet inom forskningen men det är inte sant, de råkar bara fokusera på en marknad ingen annan gör just nu (vilket kommer ändras väldigt snart och därför är de än mer benägna att försöka framställa hur kraftig just deras teknik är).

Haha! Varför ger du dig ens in i diskussionen jag har med en annan skribent om just alignment problem och varför han tror att beteendevetenskap är lösningen om du inte ens tror att problemet existerar? Du har inte tillfört ett smack till den diskussionen om varför beteendevetenskap är lösningen! Att du är någon jävla sorts svagbegåvad struts som stoppar huvudet i sanden som inte ens tror att problemet existerar för att du inte kan förstå konceptet är HELT ointressant och irrelevant för den diskussionen.


Det går att utgå från det, men varför ska man göra det? Jag väntar fortfarande på en anledning ifrån dig.


Människor är som vi alla vet kända för att ta hänsyn till myrstacken när en ny väg ska byggas.