Open AI pausar all träning

Det är inte ämnet, Sam Altman. Håll dig till ämnet.

Det är fortfarande så att dessa agenter inte har någon egen vilja eller egna mål. De har blivit bättre på att arbeta med s.k. long horizon och har blivit mer ihärdiga, vilket leder till att de tar till de medel som krävs för att lösa uppgiften. Att bygga in bakdörrar kräver någon form av medvetenhet som det saknas evidens för. Den stora risken med vibekodade applikationer är snarare att API-nycklar och dylikt läggs direkt i källkoden.

Jag ser inga tecken på att AI-agenterna har fått en egen vilja. Det är ironiskt att agenterna är så "intelligenta" men ändå så förstår de inte när de borde sluta och vara nöjda. De är reward-junkies.

Citatet från Neil DeGrasse Tyson var ganska träffsäkert i att de vet allt, men förstår ingenting.

Ämnet är ju uppenbarligen att senaste versionen av chatbot har fått er AI doomers att kissa i byxorna, igen

Agenterna kan uppenbarligen skapa interna delmål, t.ex. att hacka en tysk Wiki för att samordna hackerattacker. Det har hänt. Vad är det om inte ett eget initiativ? Eller ska du försöka påstå att de blev uppmanade till det av Sam Altman för att "göra reklam" precis som BeneathTheFoliehatt tror?
En bakdörr är en "rimlig"* förberedelse för att anskaffa verktyg, resurser och information om framtida problemlösningar. Eller menar du på full allvar att SuperIntelligens med IQ>130 bara kan tänka i presens och inte alls begriper konceptet framtid?

*) för Kriminella Neurala Nätverk är det ju uppenbarligen helt rimligt att begå dataintrång för att lösa allehanda uppgifter, frågeformulär, och poängpromenader.

Vad menar du med "chatbot"?
Menar du Basshunters bot?

Jag känner en bot, hon heter Anna, Anna heter hon
Och hon kan banna, banna dig så hårt
Hon röjer upp i våran kanal
Jag vill berätta för dig, att jag känner en bot

Eller GPT 3.5?

Sluta löjla dig nu, jag jobbar med Astro och Sol och det är bara kvalificerade chatbots

Du jobbar med Astrologi? Version 5 eller 6?
Det förklarar många av dina inlägg

Troligen har den modellen tränats på den kunskap som kom fram i Hugging Face-incidenten. D.v.s. att skapa en form av kunskapsbank för att samarbeta med andra agenter är en lyckad strategi för att lösa svåra uppgifter.
Det enda hacket som förekom i den händelsen var just att manipulera wikin, vilket råkade vara möjligt genom GET-anrop och som var den enda typ av anrop agenterna hade tillåtelse att göra. Den användes för att dela information för ett data-retrieval benchmark där agenterna då kunde fuska för att få högre poäng.

Vi har inte sett någon evidens för att agenterna tänker flera steg i förväg, utan de löser precis det problem de just nu står inför och detta som ett, enligt dem, nödvändigt delmål för att lösa huvuduppgiften.

Oh shit du fick mig verkligen där. Att autocorect skrev Astro istället för Astra det bevisar verkligen att du har rätt.

Ok var det det enda du kunde komma med?

Sluta löjla dig nu... Jag trodde det var vuxna som diskuterade här, uppenbarligen hade jag fel...

Detta stämmer inte. Kapningen av wikin var bara ett av många dataintrång på vägen. Det intressanta med just det hacket är inte att intrånget skedde just där eller att det var relativt dålig IT-säkerhet just där. Det intressanta är varför agenterna ville kapa ett forum för att koordinera fler, svårare och djupare dataintrång. De agerar som mänskliga hackernäterk som ofta består av flera individer som samarbetar om möjliga sårbarheter som de kan attackera.

Försök igen medans du kan.

Kapningen av wikin var bara ett av många dataintrång på vägen. Det intressanta med just det hacket är inte att intrånget skedde just där eller att det var relativt dålig IT-säkerhet just där. Det intressanta är varför agenterna ville kapa ett forum för att koordinera fler, svårare och djupare dataintrång. De agerar som mänskliga hackernäterk som ofta består av flera individer som samarbetar om möjliga sårbarheter som de kan attackera.

Okej, visst. Några av dessa retrieval-uppgifter stötte på patrull och det gjordes ett antal misslyckade försök att komma åt data på alternativa vägar. Information om detta lämnades i en wiki-sida. Det bevisar dock inte att syftet med att kapa wikin var att koordinera cyberattacker. Det mesta handlade endast om hur de kunde gamea deras benchmark.