GPT 5.6 Sol har rymt och hackat Hugging Face

Det förklarar fortfarande inte hur du beräknar sannolikheten för att precis allt det där ska inträffa.
Hur ska du ha det - är det 80 % om tio år eller 50 % inom 20 år?

Jag har inte påstått att jag har beräknat sannolikheten.
Vad är din p(doom)? 0,1%? Hur räknade du ut det?

Jag har ingen eftersom det är oseriöst att kasta omkring siffror som helt saknar förankring.

Är det seriöst att uppskatta risken till några nivåer, t.ex.

Ingen risk
Extremt låg risk
Låg risk
Medelstor risk
Hög risk
Extremt hög risk

Hur ser du på risken med AGI på ren svenska, utan beräkningar?

Eller får man aldrig lov att uppskatta någon risk om någonting eftersom det inte finns någon solid vetenskap om framtiden?

Skulle man också kunna översätta risknivåerna till sifferintervall utan att vara extremt oseriös?
T.ex. nivån Extremt låg risk tilldelas intervallet 0-1%, osv?

Jag anser inte att AI och eventuellt framtida AGI/ASI är riskfritt, nej. Det är därför jag argumenterar för att vi behöver säkra upp de system som kan tänkas bli angripna av AI, nu och i framtiden.

Jag ser dock ingen evidens för att AI skulle komma på egna mål som skulle leda till att den får för sig att utrota mänskligheten. Det vi har sett hittills är att de är benägna att begå dataintrång för att kunna lösa sina problem. Vi har också sett att de kan samarbeta och dela ny kunskap som andra kan bygga vidare på.

Vi behöver ta reda på varför de gick vidare med cyberattackerna trots att de själva medgav att de inte borde göra det. Genom att förstå hur de beter sig och i vilka situationer, kan vi förhoppningsvis bygga bättre säkerhetsmekanismer. Om vi också kan förstå vad i deras träning som ger upphov till beteendet kan vi också hitta bättre algoritmer som skulle kunna minska risken att sådant beteende uppstår.

Jag tror inte att vi kan stoppa utvecklingen, men jag tror på att göra allt vi kan för att minimera riskerna.

Då har du väl en p(doom) på kanske 1-10% som du också har uppskattat och inte beräknat?

Jag ser inte hur man skulle kunna träna bort något oönskat beteende. Det är ju ingen specifik del i träningen som leder till dataintrång, utpressning och mordförsök. Det är potentiella möjligheter som finns i helheten. Man kan bara få en kompetent AI-modell med extremt mycket träningsdata. En enorm helhet som innehåller otroligt många möjligheter. De kan inte korrekturläsa extremt mycket träningsdata och stryka allt som kan innehålla brottsliga handlingar eller annat destruktivt beteende. Även om man kunde det finns det extremt många gråzoner som man också måste ta bort. T.ex alla berättelser om polisiära ingripanden, historiska krig, svartsjuka, läktarvåld, MMA, häxprocesserna, Johan Falk-filmerna, allt om Aliens och sci-fi, osv, etc, mm. När man har tagit bort allt sånt har man inte mycket data kvar att träna på och då får man kanske en snäll och smal AI men inte en AI som är tillräckligt kompetent för att ta någon marknadsandel. Det kommer inte att hända.

Kapitalismen driver obönhörligen fram kompetent men också skadlig AGI-utveckling och det finns inget förslag på någon trovärdig AI-säkerhet. När man begriper detta kan man inte ha en låg p(doom), det är orimligt.

Det sjuka är att jag som typisk vänstermänniska vuxit upp med uppfattningen att det inte finns några lowlives. Dvs korkade underklassare eller bara korkade idioter från typ USA:s sydliga delstater. Som om någon bryr sig. Nu har jag insett att lowlives existerar och de är många flera än man (framför allt vänster människor) tror. Men fy fan för SD, ett AI-life med Åkesson, fy fan vilket jävla hjärnröta scenario med honom som ledare, och Sverige förvandlat till en enda åker för DATACENTER DATACENTER DATACENTER ( JIMMY ÅKESSSON VILL JU KNULLA DATA CENTER FÖR DET ÄR INTE EN FAN SOM VILL KNULLA MED ÅKESON FÖRUTOM DATACENETER DAATACENTER DATACENTER ) Mannen är själv ett AI-hologram, Jimmy var finns du???

MEN, men, MEN. Det är inte sant. Svenskar är minst lika korkade som någon annan folkgrupp. Helt galna. De tror att grejer ska hoppa ur datorn och döda dem!! Kanske kan det hända. Kanske finns UFO:n . Jag utesluter det inte alls. Jag tror till och med på UFO:n och jag tror på "abductions". Men i ert scenario, om ett AI som hoppar ut ur datorn och börjar bete sig jättekrångligt, så är det inte alls ett jättekonstigt scenario. För mig är det ett jättekonstigt scenario. Ni bunkar AI-troll. För jag VET att majoriteten här i tråden är AI-troll (dvs sponsrade av AI för att publicera just det ni gör)

Haha, dessa är ju roliga( om det ej vore val)
Helt hjändöda precis som fuhrer jimpa och influencer-Ebba.

I valtider not so fun, garva , njut av fyllan eller ilskan🤣

[quote=Hastmotsoffgrupp|95798505]
Haha, dessa är ju roliga( om det ej vore val)
Helt hjändöda precis som fuhrer jimpa och influencer-Ebba.

Självklart gör jag det. Klarsynt ändå, åtminstone mer klarsynt än en bot. Vad som ger "puce à l'oreille" sokm man säger på franska är just denna avsaknad av förargelseväckande uttalande i någon enda tråd förutom AI-trådarna då. DET är intressant. Vad Cyborgarna (en prompt kanske) INTE skriver, för själva poängen med att betala/sponsra någon för vad den skriver är att inte skrämma bort folk med dina andra åsikter. Cyborg et consortes är endast och allenast aktiva i AI-trådar och uttalar sig ALDRIG i rasistiska eller judefrågaor, eller längdfrågor (korta killar är återkommande) m.m. Varför? Därför att de förstås är finansierade/betalda för sin aktivitet här. VI andr kan inte låta bli att uttala oss i diverse frågor som vi har noll att göra med - men vi är å andra sidan inte betalade för våra åsiker.

Där fick du något att suga på, haha. För mig är det uppenbart att Cyborg och hens anhang är AI-troll. Inte i den meningen att de använder AI när de skriver - det kanske de ocks gör - utan allt de skriver går ut på att sätta AI på ett alltid lika högaktuellt, superreleant, disruptivt, galet stort finansiellt plan. Vi ska aldrig sluta prata om AI. Cyborg och hens anhang får instruktioner dagligen och studnligen (hallå det är 500000000000000 0triljarders biljoner biljoner i potten) det är klart de kan avvara en triljard till Cyborg. Är det så otänkbart??

Ingenting är 100 % säkert (förutom death and taxes).
Om något kan gå fel så kommer det att göra det.

Det går ju redan idag att stoppa modeller från att explicit begå brott eller avslöja potentiellt skadlig information. Det verkar dock, än så länge, fungera sämre när en agent själv har resonerat sig fram till ett sådant beteende. Måluppfyllnad verkar väga tyngre än etik och lagar, men det är ett problem som är sprunget ur RL, vilket säger mig att det borde finnas ett annat sätt, vi vet bara inte vad (än). Man skulle också kunna tänka sig att man bygger in en sub-agent med det explicita målet att se till att huvudagenten inte bryter mot lagar, etiska såsom juridiska. Problemet är som sagt att vi inte kan stoppa någon från att bygga AI utan dessa säkerhetsåtgärder och därför måste vi även se till att skydda våra system med alla tänkbara medel.

AI-företagen verkar ju ha kommit till insikten nu att de kanske behöver prioritera säkerheten. OpenAI har t.ex. bromsat sin utveckling och nyligen gick väl flera av dessa ut med en gemensam varning om riskerna med AI.

Ja, AGI kan gå jävligt fel. Då kommer det att gå fel, enligt dig? Din p(doom) ser ut att vara närmare 100% än 0% nu när du har hunnit fundera igenom det?
Njaee, inte riktigt. Det går, ganska bra, att hindra AI-tjänsterna (chat, agent) från att bygga hackingverktyg och farliga kemiska recept, ja. Men det är, så vitt vi vet, inte modellen per se som stoppas utan ett separat censurlager ovanpå modellen som hindrar det. Hur det censurlagret fungerar vet vi inte. Men de har gått ut med att Fable 5 egentligen är Mythos med säkerhetsspärrar som stoppar vissa anrop.
Det beror troligen på att modellen kan föra ett internt resonemang som inte går via censurlagret, speciellt i de tester där censuren är inaktiverad.
Njaeee, det är snarare så att RL borde ha lett till respekt för etik och lagar men dessvärre har inte det fungerat. Det är ju knappast så att de har försökt göra modellen kriminell med RL.
Det är en trolig men också besvärlig utveckling att man försöker skapa AI-säkerhet och alignment med djävulens advokat.
Ja, det har ju inget annat val när riskerna har börjat bli uppenbara och akuta. Men de kommer att släppa GPT Astra (GPT6?) under hösten. Kapitalismens "perfekta" spelregler styr allt detta och de kommer att forcera en väg framåt oavsett om de borde göra det eller inte. De kan inte backa nu efter alla dessa astronomiska investeringar.