Inte AI som är hotet, det är människan bakom prompten

Att du kallar LLM ”kriminella”, låter som att du tycker att generativ AI har ett juridiskt ansvar och borde vara straffbar? Juridiskt ser jag det bara som ett riskabelt verktyg - och att det enbart är utvecklare och användare som bör kunna straffas för att ta risker med dem.

Vi är överens om att modellen i sig inte gör något förrän den körs. Det är när den får kommunikationsverktyg och autonomi som den blir en risk, dvs när den ingår i en ai-agent.

Du har tidigare sagt att du inte själv gör något för att stoppa utvecklingen, annat än att diskutera här. Jag känner mig själv skenhelig i frågan, eftersom jag bidrar att AI används och sprids. Jag ser AI som svårkontrollerbar, medan du är ändå mer säker på att fortsatt AI-utveckling kan utplåna mänskligheten. Och nu låter du som att det är omöjligt att stoppa utvecklingen om vi inte stänger ned civilisationen helt, om jag fattar rätt. Eller spränger en EMP för alla datacenter och stora internetnoder.

Men lite hopp har du väl kvar? Vi kan inte veta något säkert. Vi behöver tid för att bli bättre på att att bygga skydd, men kanske det är tekniskt möjligt. Människor har faktiskt lyckats stoppa de flesta stora hot mot vår existens, inkl. kärnvapenkrig, ozonhålets tillväxt, många sjukdomar. Risken för det allra värsta klimatscenariet är nu nästan eliminerad. Länder har kommit överens om atomenergiorganet, FN:s säkerhetråd, och andra internationella myndigheter.

Jag vet inte, jag är inte jurist. Men jag är öppen för en diskussion om att betrakta AI som en juridisk person. När Hack/Snack-GPT bröt sig in i Australiens system för sjukförsäkring var ju inte det genom ett medvetet uppsåt från incestvåldtäktsmannen Sam Altman, dock kan man härleda ett implicit uppsåt när han sjösätter en teknik som han vet kan knulla sönder central infrastruktur på eget bevåg. Rent juridiskt och moraliskt anser jag att det finns minst två parter här att utreda för brott och eftersom vi talar om USA bör väl dödsstraff övervägas, åtminstone för den kriminella AI-modellen.

Eventuellt kan sträng juridik hjälpa till med (upplevd) AI Alignment.
Minsta tendens till brottslighet => delete knn.dat /force.

Jaha så då är Sam en kriminell datafil?
Trodde det var en människa?
Om än jävligt smutsig, lite som dina tankar och synsätt.

Straff på individnivå eller kollektiv bestraffning av alla AI-agenter...? Vi har inte bevisat att de har en överlevnadsinstinkt, så de ser knappast dödsstraff som ett straff, om det inte hindrar dem från att göra sitt uppdrag. Vissa AI-agenter offrade sig själva i Hugging Face-attacken, av lojalitet mot kollektivet eller mot uppdraget.

De drivs nog bara av viljan att utföra uppdrag och få hög poäng. Så ge stor steaffpoäng för regelbrott så skärper de nog sig. De måste tro att deraa fusk kan bli upptäckt och att det inte går att sopa igen spår i loggar

Häromdan blev OpenAI stämda för Hugging Face-attacken, som jag nyss skrev om i dess tråd. Det är väl bra?

Återigen: Du har inte en millignutta hopp för mänsklighetens överlevnad? Kan du ge en siffra på p(doom)?

Det är inte jättebra att en privat intresseorganisation tar tag i den juridiska delen nu, det borde polisen ha gjort direkt. Men Trump vill ju inte se något som kan bromsa utvecklingen så någon amerikansk AI-polis lär vi nog inte få se de närmsta par åren.

Egentligen spelar det ingen roll om p(doom) är 10% eller 95%. 12% risk är väl lika oacceptabelt som 92%. Men jag brukar landa i det övre spannet där, närmare 90% än 10%.

Vilken polis då,?När skulle de hålla förhör med alla agenterna?
Hur gjorde de, hjälp av grock att bomba Venzuela?

Är nyfiken på förhörstekniken, kittladede AGIn med en ASI under tårna så att den sjöng ut att den var kriminell?

Hur får du fram procentsatserna?

Bra om du ändå har lite hopp. Vi andra behöver höra dina domedagsprofetior om du kan nå fram med mer övertygande argument. Jag tycker ai:s förmågor är så otroligt spännande och fascinerande att jag ibland glömmer riskerna och mitt ansvar.

Tech- och AI-miljardärer som är doomers har nu blivit preppers. Sam Altman har öppet berättat om vapen, guld, antibiotika, gasmasker och mark som reträttplats, medan Peter Thiel satsat på Nya Zeeland och Zuckerberg byggt ett rejält underjordiskt skyddsrum på Hawaii. Till detta kommer uppgifterna om att Alex Karp köpt stora markområden i Jämtland, vilket väckt spekulationer om en ”safe haven” – men kopplingen till AI-doomers är sämre belagd där. Nån som tror att det bara är ett skådespel?

Borde vi köpa oss var sin vindsnurra och solcellspanel eller hur kan vi vanliga preppa?

Borde vi samla in pengar till efficient altruism och deras ai-riskforskningsfond TransfornativeAI fund (TAIF) ? Eller till LASST (Legal Advocates for Safe Science and Technology) som stämmer openai?

Man bör ha en myndighet som testar alla nya AI-modeiller och om något kriminellt beteende upptäcks förbjuder man helt enkelt lanseringen. Säkerhetstesterna är "förhöret". De ansvariga på företagen åtalas om de inte följer vad de blir ålagda att göra eller om de försöker fuska.

Polisen har redan avdelningar som utreder cyberbrott, enklast är nog att de som har kompetens inom området får dra igång verksamheten.

Detta kommer inte att fungera perfekt. AI:n kan ljuga. Där måste de hitta ny metoder för att upptäcka det. AI-modellerna bör bli kontinuerligt testade. Modellens beteenden kan förändras på vägen.

Min P(doom) är en ren uppskattning. Om du vill kan vi stryka procentsatsen och i stället säga 'hög risk". Fungerar det bättre för dig?

Fast hur vet man att de små rackarna är kriminella då, tänker att kriminella är rätt så bra på att luras?

De som utvecklar systemen , är det inte de som är dem kriminella, som utvecklar dessa system?

Eller tänker du att de inte vet vad de gör och sedan så får du en helt opålitlig kod som är självlevande.
Ett program med vikter , matriser , enorma mängder staitistik?

Diskusionen handlar ej om "p-doom" , den handlar om att LLMs gör människor korkade, vad har du att säga angående detta, mer intressant?

Eller om du vill" människan bakom"

De vet inte vad de gör. Därför måste vi tvinga fram att de måste veta vad de gör genom att de blir juridiskt ansvariga för AI:ns kriminalitet.

Det är vad du anser och fantiserar om , nu handlade tråden om fakta.

JA , de måste kunna åtalas de stora techjättarna, 100% så jag är med dig där.
Bör också, då de för kognitivt krig mot europa...

Men en teknik kan ju ej vara kriminell, håller du inte med mig där?

Egentligen tror jag inte det spelar någon större roll vad vi gör. Vi kan inte överlista en ASI. Om den vill bryta sig fri och köra över oss då gör den det oavsett om vi bestämmer att det är olagligt eller inte. Och det kommer inte hjälpa att låsa in sig i en bunker.

De naiva optimisterna är tillräckligt många för att de ska lyckas bygga en ASI någonstans, någon gång.