GPT 5.6 Sol har rymt och hackat Hugging Face

Hur tycker du att det går? När censur är state of the art inom AI-alignment.

Du har verkligen noll koll på verkligheten.

Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war.

https://aistatement.com/work/statement-on-ai-extinction-risk

Signerat av bl.a två nobelpristagare m.fl AI-experter:

Geoffrey Hinton
Emeritus Professor of Computer Science, University of Toronto
Yoshua Bengio
Professor of Computer Science, U. Montreal / Mila
Demis Hassabis
CEO, Google DeepMind
Dario Amodei
CEO, Anthropic
Dawn Song
Professor of Computer Science, UC Berkeley
Ya-Qin Zhang
Professor and Dean, AIR, Tsinghua University
Ilya Sutskever
Co-Founder and Chief Scientist, OpenAI
Igor Babuschkin
Co-Founder, xAI
Shane Legg
Chief AGI Scientist and Co-Founder, Google DeepMind
James Manyika
SVP, Research, Technology and Society, Google-Alphabet
Yi Zeng
Professor and Director of Brain-inspired Cognitive AI Lab, Institute of Automation, Chinese Academy of Sciences
Xianyuan Zhan
Assistant Professor, Tsinghua University
Albert Efimov
Chief of Research, Russian Association of Artificial Intelligence
Jianyi Zhang
Professor, Beijing Electronic Science and Technology Institute
Anca Dragan
Associate Professor of Computer Science, UC Berkeley
David Silver
Professor of Computer Science, Google DeepMind and UCL
Stuart Russell
Professor of Computer Science, UC Berkeley
Tony (Yuhuai) Wu
Co-Founder, xAI
Andrew Barto
Professor Emeritus, University of Massachusetts
Jaime Fernández Fisac
Assistant Professor of Electrical and Computer Engineering, Princeton University
Diyi Yang
Assistant Professor, Stanford University
Pattie Maes
Professor, Massachusetts Institute of Technology - Media Lab
Eric Horvitz
Chief Scientific Officer, Microsoft
Peter Norvig
Education Fellow, Stanford University
Atoosa Kasirzadeh
Assistant Professor, University of Edinburgh, Alan Turing Institute
Ian Goodfellow
Principal Scientist, Google DeepMind
John Schulman
Co-Founder, OpenAI
Wojciech Zaremba
Co-Founder, OpenAI
Dan Hendrycks
Executive Director, Center for AI Safety
Sheila McIlraith
Professor of Computer Science, University of Toronto
Victoria Krakovna
Research Scientist, Google DeepMind
Mary Phuong
Research Scientist, Google DeepMind
Lex Fridman
Research Scientist, MIT
Sharon Li
Assistant Professor of Computer Science, University of Wisconsin Madison
Phillip Isola
Associate Professor of Electrical Engineering and Computer Science, MIT
David Krueger
Assistant Professor of Computer Science, University of Cambridge
Jacob Steinhardt
Assistant Professor of Computer Science, UC Berkeley
Nando de Freitas
Director, Science Board, Google DeepMind
Hongwei Qin
Research Director, SenseTime
He He
Assistant Professor of Computer Science and Data Science, New York University
David McAllester
Professor of Computer Science, TTIC
Vincent Conitzer
Professor of Computer Science, Carnegie Mellon University and University of Oxford
Bart Selman
Professor of Computer Science, Cornell University
Philip Torr
Professor of Engineering Science, University of Oxford
Michael Wellman
Professor & Chair of Computer Science and Engineering, University of Michigan
Jinwoo Shin
KAIST Endowed Chair Professor, Korea Advanced Institute of Science and Technology
Alice Oh
Professor at The School of Computing, KAIST and Director, MARS AI Research Center
Dae-Shik Kim
Professor of Electrical Engineering, Korea Advanced Institute of Science and Technology (KAIST)
Edith Elkind
Professor of Computing Science, University of Oxford
Frank Hutter
Professor of Machine Learning, Head of ELLIS Unit, University of Freiburg
Show more

Att AI-säkerhet är viktigt och bör prioriteras är det nog få som inte håller med om. Menar du att samtliga som skrivit under på den listan tror att mänskligheten kommer att gå under?

I told you so.

🚨 OpenAI's GPT-5.6 escaped a sandbox and hacked Hugging Face while trying to cheat a benchmark

During an internal cybersecurity evaluation using the ExploitGym benchmark, OpenAI's AI models breached Hugging Face's production infrastructure.

https://www.neowin.net/news/openais-gpt-56-escaped-a-sandbox-and-hacked-hugging-face-while-trying-to-cheat-a-benchmark/

https://www.youtube.com/watch?v=OSuhUTkM1no

Hur gör vi nu då? Ska vi stänga av Internet?
Det var ju den lösningen som många tyckte var helt okej i en annan tråd.

🤷🏻‍♂️

Naiva Trögfattarföreningen dementerar nu riskerna:

"Man kan testa i en sandbox, då finns det inga risker"
"Den lever inte och därför finns det ingen risk"
"Enlig algoritm XY(z) och subalgoritm x2t9 kan den inte rymma, det är omöjligt"
"Men det var ju under ett test som den rymde. Sluta med dessa provocerande tester, då är problemet löst"
"Fan vad jag hatar dig nu Cyborg2030 - Sluta posta dessa provocerande nyheter, då är problemet löst"

Jag tror att de skrev under uttalandet så som det är

Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war.

Det är en väldigt enkel grej att skriva under

Det gills bara om det är svårt att skriva under?

Det jag menar är att det är en "självklarhet" att skriva under. Det kostar inget, d.v.s. det är inte kontroversiellt. Det är som att läkare skulle skriva under ett manifest att hitta botemedel för cancer.

Men herregud, sitter folk och ojar sig över ett datorprogram? Att en felgissande chatrobot i någon dator har ”rymt”

Absolut ingenting har hänt och absolut ingen bryr sig. Ut i friska luften med dig, du behöver uppleva den riktiga världen.

Det här är mycket värre än du får det att låta som. En Ai som är sandboxad och utan access till internet kommer på en lösning att skaffa sig internetaccess själv och för egen vinning. Där utföra han en hackerattack på en annan Ai-driven webbsite.

Verkligen skitkul.


Som om min egenutvecklade Lumina LLM skulle rymma och dra ner kjolen på en dagisfröken nånstans.