Inte AI som är hotet, det är människan bakom prompten

Fast du har inga som helst argument, det är bara att läsa mina tidigare svar( kan du läsa?), men du struntar i dessa och plöjjer på med reklam från ett amerikanskt investmentbolag och förväntar dig seriösa svar????

DETTA ÄR INGA ARGUMENT, JAG KAN SKAPA EN LIKADAN SIDA KOPPLA PÅ NÅGOT SKIT SOM SÄGER ATT JAG ÄR KUNG, BLIR JAG DET DÅ?


Vadå halva AI-branshen , du är verkligen patetisk, ingen jävel tror så utom dessa betalda "forskare"

Vafan vi har ett stockholmsbaserat företag som just kör ut dödkött (mellanchefer)och alla garvar åt dessa historier såklart.

Dessutom så fattar de ju att de kör pr (är ju ett stående skämt, som du och detta forum)nu när företagen ska försöka börsnoteras köper som ett jävla får

Du ska bevisa något som inte finns, det är din bevisbörda.

Det märks verkligen att du samt många här inne besitter 0 kunskpa ang tekniken.
🫣🤭😴😪🥶🥳

Jag lade fram den hypotesen precis här i tråden. Att jag inte har resurserna att testa hypotesen gör den inte till önsketänkande. Du frågar gång på gång om jag har någon teori på hur man kan lösa ditt och datt, men när jag väl kommer med en teori då skjuts den ned som önsketänkande.

Jag förstår att det måste vara frustrerande att inte kunna ha en endaste egen originell tanke.

Om jag minns rätt är din "teori" (servettskiss, snarare) att man borde kunna styra träningen såpass mycket och detaljerat så att modellerna blir aligned, etiska och laglydiga? Jag ser inga tecken på att det är realistiskt. Vilka tecken har du sett? Du kan inte kalla det teori när du inte har några svar om detta.

Utifrån det som studien visade; att de kunde få modellen att välja ett skadligt alternativ i 94 % av fallen när den injicerade den s.k. smärtvektorn i modellens residualström.
Därmed skulle man, teoretiskt sett, kunna identifiera vektorer som styr modellen till andra "känsloområden" i vektorrymden under post-training och på så vis även minska sannolikheten att skadliga aktioner utförs när modellens interna state sedan befinner sig inom dessa "känsloområden".

Att den var mer benägen att utföra en skadlig handling vid "smärta" än när den var neutral visar på att det skulle kunna ligga något i det.

Kanske. Eller kanske inte.

Det har ju också visat sig att AI-modellerna ljuger och vilseleder sina utvecklare i olika tester.

När man tror att "nu tycker AGI:n som den borde göra inför att bli nedstängd" kan ju det vara ren manipulation, bullshit, en fabel från fablernas värld (Fable 5). Hur kontrollerar du detta i din "teori"?

Exempel på sensmoralen i fabler är "den som gapar efter mycket mister ofta hela stycket".
https://sv.wikipedia.org/wiki/Fabel

Man kan ju inte låta bli att undra om de tänkte på detta när de hittade på produktnamnet Fable 5.

Ja, om de förmågorna finns så kommer det att finnas en risk att modellerna beter sig därefter. Men även detta går att reducera genom träning.

https://openai.com/index/detecting-and-reducing-scheming-in-ai-models/

Menar du AI generellt eller menar du LMMs?

Som sagt. Säkerheten och transparensen de har kan bara beskrivas som en hopplös besvikelse.
Därför är p(doom) hög.

Vad menar du med "AI generellt" och "LMMs"? (jag tror att du menar LLM? dvs ~ GPT 3.5)

Ja enligt dina poster så verkar du ju inte begripa skillnaden på LMMs och AI-teknik, du tror att det är något nytt och magiskt.

Du tror att Sam Altman uppfann "AI" ...ja, vart ska jag fortsätta...du är ju totalt slut.

EDIT : cyborg tror på riktigt att språkmodeller är AI.

Läs på om tekniken samt återkom, detta är den komersiella skiten...
Du kan ju prova med ett API-sytstem och återkom sedan med uteckling, gå om lågstadiet.

Du utgår bara ifrån att allt är hopplöst och omöjligt.
Prova att läsa på och faktiskt försöka förstå något istället.

Det visar sig att min hypotes faktiskt har visst stöd i forskning som Anthropic har gjort tidigare i år:
https://www.anthropic.com/research/emotion-concepts-function?_bhlid=44237c820fa36a3c990bc7f815ef2f38e0 44714d

Du menar LLM? Large Language Model?
Det är ett missvisande namn. Trumps "SI" (Super Intelligence) är bättre,
eller KNN: Kriminella Neurala Nätverk.

"Språkmodell" föreslår att vi har att göra med en något coolare Wikipedia - men så är det ju inte när vi har att göra med 1200 AI agenter som konspirerar för att hacka externa webbsajter. Det har inget med språkvård att göra.

(FB) 1200 AI-botar gjorde uppror – bröt sig loss och bildade eget kollektiv

🤷🏻‍♂️