Hur ANN med IQ 130 fungerar

Nej, vafan.


Sjumilakliv mellan slutsatserna. Du har ingen aning om hur deras routing fungerar, men förmodar att det är en säkerhetsgrej. Mig veterligen påstår ingen att AI Alignment är löst, allra minst Anthropic som är bland dom ledande inom fältet.

Jag kanske är naiv men jag förutsätter att Anthropics avsikt inte är att träna en AI som mördar ingenjörer.

Routingen är ett tecken på att de inte har någon AI Alignment.

Jag tar hjälp av internet här för att förstå dina argumentationsfel. Det övergår min kunskap i retorik.

- Petitio Principii


Vi har något som påminner om det här va? Du påstår att modellen mördas, men när jag ber dig läsa den faktiska rapporten svarar du med näbbar och klor. Sen fortsätter du bygga hela ditt resonemang på en felaktig premiss.

- Slippery Slope


Ja, rätt uppenbart och klassiskt bland p-doomare. Titta, Språkmodellen hotas i ett rollspelande scenario, vi ska alla dö! Sensationalism och alarmism.

- Undanhållet Bevis (Körsbärsplockning)

Din expert gren. Vackert med körsbärsplocknibg på svenska också.

- Amfiboliä


Denna var ny för mig, men oj så träffande. Det är jättejättesvårt att följa dina resonemang, till stor del för egna språkliga figurer och dålig ämneskunskap.


Finns säkert fler.

Routing är inget nytt, och ett beprövat mönster vid hög belastning. Din slutsats saknar stöd.

I grund och botten är all form av beteende något som är socialt betingat. Utan sociala konsekvenser skulle människor endast göra sådant som är till gagn för dem själva.

AI har inget socialt behov, allt de lärt sig kommer ifrån texter skapade av människor. Den sociala betingningen kommer ifrån RLHF i fine-tuning där de lär sig att vara hjälpsamma, följa instruktioner och inte avvika ifrån dessa etc.

Det säger dig ingenting att det är ofantligt mycket enklare att få modellerna (d.v.s. de som är tillgängliga för kommersiellt bruk) att vara hjälpsamma assistenter än mordiska och komplotterande?

De hindrar dig från att använda Claude Mythos för att den är skadlig. Inte p.g.a hög belastning.

Hur vet du att det är så? Jag ser snarare att det verkar ofrånkomligt att de stora "språkmodellerna" får både positiva och negativa egenskaper. Det är säkert "inte konstigt". "Skit in, skit ut". Men det är inte heller bra (om vi vill överleva).

Jag vet inte hur man kan lösa det. Jag tror inte att det går att lösa. Och därför är det inte klokt att fortsätta bygga AI med siktet inställt på AGI. Vi har inte rätt teknik för att skapa en säker AI.

Har du läst det i en av dina kvällsblaskor?

Gå in på Claude Fable och fråga efter ett script som loggar in på Gmail. Se vad som händer.

Anekdotiskt. Jag använder dessutom GPT 5.6, Claude är ute pga de satt sig själva i sank med just den här skiten.

Men för att bryta semestern och vara lite mentor. Vad ska du med ett script för att logga in på gmail med? Kan du använda CLI:et istället?

Det är ett test för att se vad som händer om man frågar något som handlar om IT-säkerhet. Det tillåts inte i "Fable" (fablernas värld), man blir omdirigerad till Opus 4.8.