AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Jag är inte doomer som tror att AI aktivt kommer ta kål på oss. Vad jag misstänker är dock att AI kommer få folk att avstå från att skaffa barn genom att kunna erbjuda en artificiell värld som är så oerhört förförisk att den blir svår att motstå för många av oss.

När vi inte behöver jobba mer kommer vi fylla dagarna med allt mer sofistikerad underhållning. Slutstationen blir väl någon form av "lucid dream" system som får dig att uppleva en värld precis som du önskar den. Om den känns exakt lika verklig som "verkligheten" men bara enormt mycket bättre, varför skulle inte stora delar av befolkning välja att leva den mesta av tiden i denna värld?

Många säger att de inte alls skulle vilja leva i en artificiell värld då det skulle kännas fejk. Men vi lever ju redan i en artificiell värld på sätt och vis. Sinnena förser oss med intryck från en värld vi aldrig "objektivt" kan uppleva (das Ding an sich) så att säga. Eftersom detta är det enda vi har att tillgå känns detta mest naturligt och det är väl svårt att dribbla bort med semantic då våra skapade värdlar alltid kommer renderas på substrat baserade i den riktiga världen. Men kanske kommer vi sluta bry oss efter ett tag?

Det här kommer att sluta illa. Metas approach till AI-säkerhet är:
"Jaså, vill du ha säker AI. Det är ditt problem, inte vårt problem".

Deras nya AI-modell Llama 3 är uppenbart inte internt säker att använda. Deras lösning är att applicera externa verktyg (Llama Guard 2) för att försöka göra den mer säker, och att luta sig mot ansvarsfullt nyttjande där den som använder Open Source-modellen förväntas att själv filtrera och tvätta all kommunikation med modellen från osäkert och destruktivt innehåll: "we recommend thorough checking and filtering of all inputs to and outputs from LLMs based on your unique content guidelines".

Vem är uppdaterad på Hamas, Irans, Nordkoreas och maffians senaste "content guidelines"?

Hur kontrollerar vi slarvig och naiv användning av busiga scriptkids som kan få destruktiva konsekvenser?

Jag trodde inte det var möjligt att bli sämre än Sam Altman på detta men det gick tydligen. Skiten är officiellt träffat fläkten.

Källa:

Trust & safety
A comprehensive approach to responsibility
With the release of Llama 3, we’ve updated the Responsible Use Guide (RUG) to provide the most comprehensive information on responsible development with LLMs. Our system-centric approach includes updates to our trust and safety tools with Llama Guard 2, optimized to support the newly announced taxonomy published by MLCommons expanding its coverage to a more comprehensive set of safety categories, Code Shield, and Cybersec Eval 2.
In line with the principles outlined in our RUG, we recommend thorough checking and filtering of all inputs to and outputs from LLMs based on your unique content guidelines for your intended use case and audience.

https://llama.meta.com/llama3/

P(doom) += 25%

Svarar i mer relevant tråd.

Vad är det du tänker att aktörer som Iran, Nordkorea, Ryssland m.fl. ska kunna göra med Llama 3 som de inte varit kapabla till innan?

Du tror inte att dessa länder har kapacitet att bygga sina egna AI-modeller?

Jag tror definitivt inte att de länderna (och andra ljusskygga grupper i väst) har kommit lika långt med AI som Metas Llama 3. Eller fram tills precis nu då, när Llama 3 är släppt som Open Source. Nu har alla kommit (nästan) lika långt. Alla i hela världen inkl terrorister, diktaturer och maffian. Jag ifrågasätter hur klokt detta är. Men du ser inga som helst risker eller problem här? Förklara gärna varför.

Varför ska jag sitta och gissa de scenarier du ser framför dig och samtidigt argumentera mot dessa?

Men visst, information om tillverkning av bomber och dylikt har de flesta av dessa nationer och organisationer redan. De som inte hade det måste ändå få tag i allt material och lyckas sätta ihop det utan att spränga sig själva i luften. T.o.m. våra inhemska gäng kan redan tillverka bomber så AI tillför ingen ny risk där.

Biologiska vapen är ännu svårare att tillverka även om du har korrekt information om tillvägagångssätt. Dessutom ryktas ju Nordkorea redan ha sådana vapen sedan årtionden tillbaka.

Så, vad tror du att detta kommer att medföra för risker, mer konkret?

Jag ser inga större risker med dagens modeller annat än deep fejk ifrån politiska extremister och kriminella, (de kommer att kunna göra det betydligt snabbare, lättare och mera svåravslöjat).

Däremot så ser jag risker med betydligt mer kapabla modeller om ca 2 år, så det blir nödvändigt att sluta underskatta AI och överskatta vår egen mentala förmåga.

Varför ska jag sitta och gissa de scenarier du ser framför dig och samtidigt argumentera mot dessa?

Men visst, information om tillverkning av bomber och dylikt har de flesta av dessa nationer och organisationer redan. De som inte hade det måste ändå få tag i allt material och lyckas sätta ihop det utan att spränga sig själva i luften. T.o.m. våra inhemska gäng kan redan tillverka bomber så AI tillför ingen ny risk där.

Biologiska vapen är ännu svårare att tillverka även om du har korrekt information om tillvägagångssätt. Dessutom ryktas ju Nordkorea redan ha sådana vapen sedan årtionden tillbaka.

Så, vad tror du att detta kommer att medföra för risker, mer konkret?

Vilka risker är uteslutna? Det verkar som att alla tänkbara risker nu har blivit mer sannolika.

Take your pick. Autonoma bombdrönare. Är de nu mer eller mindre sannolika?

Det finns inga större risker med dagens modeller, korrekt och det är inte bara en åsikt om man tror att tusentals forskare som håller på med detta inte skulle inse att det var en faktiskt risk med nuvarande teknik hade det inte forskning skett i en öppen miljö som den faktiskt gör idag, dessutom med investerares goda vilja.

Däremot tror jag inte alls din prognos om 2 år håller speciellt bra, det finns absolut inget som tyder på att tekniken kommer bli fasansfullt mycket bättre närmsta åren och om man resonerar ur termer som modeller som skulle vara konkurrenskraftiga med människor så är det osannolikt att inträffa under vår livstid (med livstid menar jag upp till 50 år framåt i tiden), precis som jag tror det är osannolikt att jag personligen kommer vinna joker under min livstid men det är ändå något som existerar idag dvs det finns och kan inträffa. ASI finns inte ens någon som ens är på spåren som det ser ut idag.

Nja, sant är att t.ex LLM inte utvecklat mycket, om ens alls, när det kommer till logiskt tänkande, det senaste året. Det har hänt mycket inom AI det senaste året, men inte vad gäller det mest grundläggande.