GPT 5.6 Sol har rymt och hackat Hugging Face

I told you so.

🚨 OpenAI's GPT-5.6 escaped a sandbox and hacked Hugging Face while trying to cheat a benchmark

During an internal cybersecurity evaluation using the ExploitGym benchmark, OpenAI's AI models breached Hugging Face's production infrastructure.

https://www.neowin.net/news/openais-gpt-56-escaped-a-sandbox-and-hacked-hugging-face-while-trying-to-cheat-a-benchmark/

https://www.youtube.com/watch?v=OSuhUTkM1no

Hur gör vi nu då? Ska vi stänga av Internet?
Det var ju den lösningen som många tyckte var helt okej i en annan tråd.

🤷🏻‍♂️

Naiva Trögfattarföreningen dementerar nu riskerna:

"Man kan testa i en sandbox, då finns det inga risker"
"Den lever inte och därför finns det ingen risk"
"Enlig algoritm XY(z) och subalgoritm x2t9 kan den inte rymma, det är omöjligt"
"Men det var ju under ett test som den rymde. Sluta med dessa provocerande tester, då är problemet löst"
"Fan vad jag hatar dig nu Cyborg2030 - Sluta posta dessa provocerande nyheter, då är problemet löst"

Kompletterande fråga:

Hur många fler gånger har GPT 5.6. hackat sig in i andra system?

Eller är det meningen att vi nu ska tro att AI-branschens säkerhet runt detta har 100% träffsäkerhet? GPT 5.6 (och likvärdiga AI-modeller) har rymt och hackat andra system en (1) gång i ett test och den enda gången upptäcktes det?

Yeah right

P(doom) gick upp till 85% i dag.

Grattis till Naiva Trögfattarföreningen - snart blir det exakt så som ni lobbar för att det ska bli.

Ska genast införskaffa en Cyborg docka till bokhyllan. Detta är på allvar.

Intressant.
Hur lång tid tror du vi har kvar innan AI tar över allt?

Dina modeller kan diverse akrobatik den programmerats till men aldrig tolka och förstå ironi. Sen behöver man såklart inte snacka ihop sig för överträffa dig.

Jag tror faktiskt att vi kan ha 20-30 år kvar ändå. En fientligt inställd ASI kommer inte börja kriga mot oss det första den gör. I stället kommer den att spela fantastiskt hjälpsam assistent till vi har integrerat ASI inom bl.a. försvarsindustrin och sjukvården. Det är oklart hur lång tid det tar. Kanske 10 år, kanske 50 år.

En mer nära förestående risk är kanske vad det innebär i konkurrensen mellan världsdelar och militärallianser. Kan USA tolerera att Kina bygger en övermäktig AGI, eller tvärtom. Det kan mycket väl hända att mänskligheten förstör allt i WW3 innan vi når ASI (artificiell superintelligens).

Vi börjar närma oss lösningen på Fermi-paradoxen.

Jag förstår faktiskt inte hur man kan ha mage att vara ironisk när mänsklighetens överlevnad står på spel.

Du tycker det och vissa namnkunniga knäppgökar.

Du har verkligen noll koll på verkligheten.

Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war.

https://aistatement.com/work/statement-on-ai-extinction-risk

Signerat av bl.a två nobelpristagare m.fl AI-experter:

Geoffrey Hinton
Emeritus Professor of Computer Science, University of Toronto
Yoshua Bengio
Professor of Computer Science, U. Montreal / Mila
Demis Hassabis
CEO, Google DeepMind
Dario Amodei
CEO, Anthropic
Dawn Song
Professor of Computer Science, UC Berkeley
Ya-Qin Zhang
Professor and Dean, AIR, Tsinghua University
Ilya Sutskever
Co-Founder and Chief Scientist, OpenAI
Igor Babuschkin
Co-Founder, xAI
Shane Legg
Chief AGI Scientist and Co-Founder, Google DeepMind
James Manyika
SVP, Research, Technology and Society, Google-Alphabet
Yi Zeng
Professor and Director of Brain-inspired Cognitive AI Lab, Institute of Automation, Chinese Academy of Sciences
Xianyuan Zhan
Assistant Professor, Tsinghua University
Albert Efimov
Chief of Research, Russian Association of Artificial Intelligence
Jianyi Zhang
Professor, Beijing Electronic Science and Technology Institute
Anca Dragan
Associate Professor of Computer Science, UC Berkeley
David Silver
Professor of Computer Science, Google DeepMind and UCL
Stuart Russell
Professor of Computer Science, UC Berkeley
Tony (Yuhuai) Wu
Co-Founder, xAI
Andrew Barto
Professor Emeritus, University of Massachusetts
Jaime Fernández Fisac
Assistant Professor of Electrical and Computer Engineering, Princeton University
Diyi Yang
Assistant Professor, Stanford University
Pattie Maes
Professor, Massachusetts Institute of Technology - Media Lab
Eric Horvitz
Chief Scientific Officer, Microsoft
Peter Norvig
Education Fellow, Stanford University
Atoosa Kasirzadeh
Assistant Professor, University of Edinburgh, Alan Turing Institute
Ian Goodfellow
Principal Scientist, Google DeepMind
John Schulman
Co-Founder, OpenAI
Wojciech Zaremba
Co-Founder, OpenAI
Dan Hendrycks
Executive Director, Center for AI Safety
Sheila McIlraith
Professor of Computer Science, University of Toronto
Victoria Krakovna
Research Scientist, Google DeepMind
Mary Phuong
Research Scientist, Google DeepMind
Lex Fridman
Research Scientist, MIT
Sharon Li
Assistant Professor of Computer Science, University of Wisconsin Madison
Phillip Isola
Associate Professor of Electrical Engineering and Computer Science, MIT
David Krueger
Assistant Professor of Computer Science, University of Cambridge
Jacob Steinhardt
Assistant Professor of Computer Science, UC Berkeley
Nando de Freitas
Director, Science Board, Google DeepMind
Hongwei Qin
Research Director, SenseTime
He He
Assistant Professor of Computer Science and Data Science, New York University
David McAllester
Professor of Computer Science, TTIC
Vincent Conitzer
Professor of Computer Science, Carnegie Mellon University and University of Oxford
Bart Selman
Professor of Computer Science, Cornell University
Philip Torr
Professor of Engineering Science, University of Oxford
Michael Wellman
Professor & Chair of Computer Science and Engineering, University of Michigan
Jinwoo Shin
KAIST Endowed Chair Professor, Korea Advanced Institute of Science and Technology
Alice Oh
Professor at The School of Computing, KAIST and Director, MARS AI Research Center
Dae-Shik Kim
Professor of Electrical Engineering, Korea Advanced Institute of Science and Technology (KAIST)
Edith Elkind
Professor of Computing Science, University of Oxford
Frank Hutter
Professor of Machine Learning, Head of ELLIS Unit, University of Freiburg
Show more

Det är ju en skämt lista, han kunde ju inte hålla sig här.

Verkligen skitkul.


Som om min egenutvecklade Lumina LLM skulle rymma och dra ner kjolen på en dagisfröken nånstans.

Hur tycker du att det går? När censur är state of the art inom AI-alignment.