GPT 5.6 Sol har rymt och hackat Hugging Face

Det är du som påstår att de Kriminella Neurala Nätverken uppför sig helt acceptabelt. Då verkar det enligt ditt resonemang som att "transparensen" är tillrättalagd då du anser att beteendet är acceptabelt. Det spelar egentligen ingen roll. Det som spelar roll är att du inte kan lita på KNN. Förstår du det nu?
Är utpressning och dataintrång välvilligt!? Nej, det är ju kriminellt.
Fråga gärna GPT 5.x om det är brott (om du tror att den inte förstår det själv).

Nej, återigen är jag intresserad av att förstå vad som ger upphov till modellernas beteende. Jag har aldrig sagt något om att det är acceptabelt, det är endast din halmgubbe.

Jag säger att evidensen att modellerna har haft som utgångspunkt att begå dataintrång helt saknas. Det är snarare något som har vuxit fram som delmål för att lösa uppgiften. Det intressanta i sammanhanget är att modellerna nu påstås kunna föra mycket längre resonemang än tidigare, s.k. long-horizon reasoning. Jag menar på att det kanske är att förvänta att nya förmågor är svårare att fånga upp med befintliga säkerhetsmekanismer.

Bra beskrivning. Filosofiska definitioner av förståelse och medvetande tenderar att vara centrerade kring mekanismer som är unika för människor eller kolbaserat liv, inkl harmoniellt betingade känslor. De är inte generella. Det relevanta är den mätbara förmågan.

Det relevanta är kausal förståelse. Inte bara statistisk text optimering.

Jag kan bli imponerad av både av AI:s och vissa människors intränade eller inövade förmågor. Inte att de har lärt sig ett specifikt standardproblem, utan att de har tränat upp en generell färdighet att lösa nya problem, och ibland tänker utanför boxen och löser problem på oväntade sätt.

Brukar du själva fråga AI om nya saker som inte är rena faktafrågor utan kräver resonmeng och logisk slutledning? Jag gör det dagligen. Jag menar inte standardiserade tester, som du nämner, utan nya problemställningar? Den har rätt så ofta och på så avancerade frågor att jag har svårt att förstå hur man kan göra detta utan att tänka att den förstår frågan och svaret. Att beskriva den som en stokastisk papegoja som bara hittar ordmönster är en otillräcklig förklaring. Studenter som inte förstår är som stokastiska papegojer, de ordbajsar långa formuleringar som inte betyder något i sammanhanget.



Har jag förstått rätt vad du menar med kausal förståelse? Det betyder väl att man utifrån tidsseriedata kan svara på frågor som är det X som orsakar Y, Y som orsakar X, X och Y som förstärker varandra (återkopplad/cyklisk relation), eller en tredje faktor (confounder eller störfaktor) som orsakar båda? Okej, AI är sämre på det än på annan förståelse, men är AI verkligen sämre än människor på det? Även för forskare kan detta vara svårt. Ofta kräver det randomiserade experiment där man har kontroll över alla parametrar. AI har vissa förmåga att designa och dra slutsatser av sådana experiment.

Jadå... och jag blir nästan dagligen besviken att det missuppfattar, drar konstiga slutsatser osv. Det är märkligt att du inte märker detta.

Men jag blir också imponerad av vad AI kan göra i bland, även om jag förstår det har sett miljontals exempel på det, för i bland ser det ut som det är metodik och tanke bakom, men precis lika mycket om inte oftare är det totalt tvärtom man ser hur det gör det absolut dummaste man kan göra i en given situation, hur det kan stå och banka huvudet i väggen på ett problem i timmar utan att ens snudda på rätt väg, sen kan man lämna det och efter 52442 försök så råkar det generera en annan token och det kommer vidare.

Det finns ingen intelligens här och att tro det är precis vad som är farligt med den här tekniken, var glad när det fungerar, utgå inte från att felfallen är sällsynta för det är de inte, de är extremt frekventa men folk ignorerar det för det "svarade ju rätt på 200 decimaler av pi"

OK. Lycka till med det. Ingen annan har en aning om vad som händer inne i modellerna.
Varför har det någon betydelse? Detta är som att säga att ett kriminellt gäng med aptit på pengar inte hade den intitala avsikten att hacka ett försäkringsbolag, det bara råkade bli så när det hittade ett hackingverktyg på darknet och då är det inget problem. Deras första avsikt var ju inte det exakta brottet som den ljusskygga aktiviteten mynnade ut i.

Ja, exakt så är det. Vi har inte orden för att pricksäkert beskriva maskinintelligens eller ett eventuellt artificiellt medvetande. Kritiker säger så att vi inte kan använda de orden eftersom det inte är samma sak. Men vi måste använda de orden vi har, och när det gäller AI behöver man ta ordet intelligens med en nypa salt. Det är inte exakt samma sak som mänsklig intelligens, det är en approximering av fenomen som liknar vår intelligens. Och det är väl därför det kallas artificiell intelligens.

Allt det här orddribblandet är en väldigt onödig aktivitet som också leder oss fel. Vi har ändå inga ord för det som ett artificiellt neuralt nätverk egentligen är. Dess förmåga och dess risker förändras inte heller av vilka ord och etiketter vi väljer.

Det vi har att gå på är mätningar och testresultat och baserat på det upplevs ofta de främsta AI-modellerna som medvetna i någon mån.

Det är helt enkelt inte sant. Du vet inte vad som händer, men det betyder inte att t.ex. OpenAI inte vet. Det är sant att vi inte vet exakt allt som händer, men det argumentet har vi redan haft.

Du verkar mest vara intresserad av att bygga halmgubbar. Du struntar helt i den del av argumentet som var det faktiskt intressanta.

Berätta gärna mer om alla framgångar inom mechanistic interpretability.

Det är ju fortfarande väldigt nytt, det kommer att bli bättre. Detta har vi dock redan diskuterat.

Du kan ju få redogöra för hur du kommer fram till din 80 % p(doom) och hur du kan vara så säker på att modellerna kommer att planera mänsklighetens undergång i årtionden?

(FB) AI doom - Hur och varför