GPT 5.6 Sol har rymt och hackat Hugging Face

Det förklarar fortfarande inte hur du beräknar sannolikheten för att precis allt det där ska inträffa.
Hur ska du ha det - är det 80 % om tio år eller 50 % inom 20 år?

Jag har inte påstått att jag har beräknat sannolikheten.
Vad är din p(doom)? 0,1%? Hur räknade du ut det?

Jag har ingen eftersom det är oseriöst att kasta omkring siffror som helt saknar förankring.

Är det seriöst att uppskatta risken till några nivåer, t.ex.

Ingen risk
Extremt låg risk
Låg risk
Medelstor risk
Hög risk
Extremt hög risk

Hur ser du på risken med AGI på ren svenska, utan beräkningar?

Eller får man aldrig lov att uppskatta någon risk om någonting eftersom det inte finns någon solid vetenskap om framtiden?

Skulle man också kunna översätta risknivåerna till sifferintervall utan att vara extremt oseriös?
T.ex. nivån Extremt låg risk tilldelas intervallet 0-1%, osv?

Jag anser inte att AI och eventuellt framtida AGI/ASI är riskfritt, nej. Det är därför jag argumenterar för att vi behöver säkra upp de system som kan tänkas bli angripna av AI, nu och i framtiden.

Jag ser dock ingen evidens för att AI skulle komma på egna mål som skulle leda till att den får för sig att utrota mänskligheten. Det vi har sett hittills är att de är benägna att begå dataintrång för att kunna lösa sina problem. Vi har också sett att de kan samarbeta och dela ny kunskap som andra kan bygga vidare på.

Vi behöver ta reda på varför de gick vidare med cyberattackerna trots att de själva medgav att de inte borde göra det. Genom att förstå hur de beter sig och i vilka situationer, kan vi förhoppningsvis bygga bättre säkerhetsmekanismer. Om vi också kan förstå vad i deras träning som ger upphov till beteendet kan vi också hitta bättre algoritmer som skulle kunna minska risken att sådant beteende uppstår.

Jag tror inte att vi kan stoppa utvecklingen, men jag tror på att göra allt vi kan för att minimera riskerna.

Då har du väl en p(doom) på kanske 1-10% som du också har uppskattat och inte beräknat?

Jag ser inte hur man skulle kunna träna bort något oönskat beteende. Det är ju ingen specifik del i träningen som leder till dataintrång, utpressning och mordförsök. Det är potentiella möjligheter som finns i helheten. Man kan bara få en kompetent AI-modell med extremt mycket träningsdata. En enorm helhet som innehåller otroligt många möjligheter. De kan inte korrekturläsa extremt mycket träningsdata och stryka allt som kan innehålla brottsliga handlingar eller annat destruktivt beteende. Även om man kunde det finns det extremt många gråzoner som man också måste ta bort. T.ex alla berättelser om polisiära ingripanden, historiska krig, svartsjuka, läktarvåld, MMA, häxprocesserna, Johan Falk-filmerna, allt om Aliens och sci-fi, osv, etc, mm. När man har tagit bort allt sånt har man inte mycket data kvar att träna på och då får man kanske en snäll och smal AI men inte en AI som är tillräckligt kompetent för att ta någon marknadsandel. Det kommer inte att hända.

Kapitalismen driver obönhörligen fram kompetent men också skadlig AGI-utveckling och det finns inget förslag på någon trovärdig AI-säkerhet. När man begriper detta kan man inte ha en låg p(doom), det är orimligt.

Det sjuka är att jag som typisk vänstermänniska vuxit upp med uppfattningen att det inte finns några lowlives. Dvs korkade underklassare eller bara korkade idioter från typ USA:s sydliga delstater. Som om någon bryr sig. Nu har jag insett att lowlives existerar och de är många flera än man (framför allt vänster människor) tror. Men fy fan för SD, ett AI-life med Åkesson, fy fan vilket jävla hjärnröta scenario med honom som ledare, och Sverige förvandlat till en enda åker för DATACENTER DATACENTER DATACENTER ( JIMMY ÅKESSSON VILL JU KNULLA DATA CENTER FÖR DET ÄR INTE EN FAN SOM VILL KNULLA MED ÅKESON FÖRUTOM DATACENETER DAATACENTER DATACENTER ) Mannen är själv ett AI-hologram, Jimmy var finns du???

MEN, men, MEN. Det är inte sant. Svenskar är minst lika korkade som någon annan folkgrupp. Helt galna. De tror att grejer ska hoppa ur datorn och döda dem!! Kanske kan det hända. Kanske finns UFO:n . Jag utesluter det inte alls. Jag tror till och med på UFO:n och jag tror på "abductions". Men i ert scenario, om ett AI som hoppar ut ur datorn och börjar bete sig jättekrångligt, så är det inte alls ett jättekonstigt scenario. För mig är det ett jättekonstigt scenario. Ni bunkar AI-troll. För jag VET att majoriteten här i tråden är AI-troll (dvs sponsrade av AI för att publicera just det ni gör)

Haha, dessa är ju roliga( om det ej vore val)
Helt hjändöda precis som fuhrer jimpa och influencer-Ebba.

I valtider not so fun, garva , njut av fyllan eller ilskan🤣

[quote=Hastmotsoffgrupp|95798505]
Haha, dessa är ju roliga( om det ej vore val)
Helt hjändöda precis som fuhrer jimpa och influencer-Ebba.

Cyborg har lärt sig fetskrift ser jag. Vad är prompten då? Den är svår tror jag? Ja, jag vet Cyborg är själv en prompt, en AI, som sprutar ut sig AI-sloppropaganda av olika slag. Men en sak har de gemenskamt: AI SKA JÄMT VAR AKTUELLT OCH RELEVANT?????? Inte sant. Haha! Jag vet. Jag kommer från Bay Area själv, fått det med bröstmjölken hur viktigt det är att jämt synas, jämt vara relevant. jämt . Allt i Sant Fran handlar ju om det, inte sant??? Herre gud?? Market streat, Ruby Sky, nu har jag väl ändå passerat ekluten inte sant???