Hur ANN med IQ 130 fungerar

Fable 5 suger.

Flera lager av AI-poliser. Ja, de har ju ingen annan lösning.
Men jag tror inte att det håller när grundmodellen senare kan överlista AI-polisen.

Grundmodellen ska ju vara generellt intelligent. Förmodligen med omätbart hög IQ.
AI-polisen ska bara hindra viss text, den kommer inte att vara intelligent i jämförelse.
Det blir som att vakta Fort Knox med schäferhundar. Släng in en bit kött och skyddet är borta.

Men det är ju det som är det geniala med cyborg-blackbox-principen! Vi tränar bara en [Dunning-Kruger]-modul och lägger längst fram.

Oavsett hur omätbart högt IQ grundmodellen har, så kommer [AI-Polisen] att ha ett så extremt uppblåst digitalt självförtroende att den helt vägrar inse att den blir överlistad.

Du kan ju inte bevisa att detta inte kommer fungera, p(doom) = 0.001%

Det är din uppgift att bevisa att det fungerar.
Visa hur man bygger en "perpetual security machine", utan att trolla.
Återkom när du har löst det.

Nej det är ju du som hävdar det inte fungerar så din bevisbörda.

Jag påstår ju att det fungerar och har ju redan förklarat varför, för enligt cyborg-black-box principen så vet vi ju inte vad som pågår i en black-box det är mest troligt bara starka alignment tankar på dessa moduler och i och med att man har flera moduler så kollektivt tar de ju ut varandra och man får bara en ASAS, alltså ett artificial super alignment system.

Det är klart som korvspad när man ser det [Problem] -> [Löst].

Återkom när du kan förklara varför detta inte fungerar, vill inte se något trams utan en faktisk förklaring med vetenskaplig vinkel, där du bevisar att grundmodellen i så fall kan ta sig förbi [Dunning-Krüger] modulen framgångsrikt och undvika bli arresterad av AI polisen.

Det första censurfiltret i Fable 5 blev jailbreakat inom 48 timmar.
Nu har de en ny version av censurfiltret. Vi får se hur länge det håller.

Jag har inte sagt att jag tycker att det är en toppenidé, jag förklarar bara resonemanget bakom att välja den vägen i just detta fall.

Som redan sagt så går det att förhindra att en modell genererar oönskad output, men det kan aldrig vara 100 % vattentätt eftersom modellerna inte är deterministiska. Därför är det klokt att även lägga på lager av säkerhet ovanpå som kontrollerar output (och till viss del även input) som kan fånga upp det som eventuellt ändå slinker igenom.

Jag tror att du nog själv förstår att en helt deterministisk AI är en tämligen värdelös AI. Om vi hela tiden kan förutse exakt vad en modell kommer att svara på given prompt, vad ska vi då med AI till?

Det var väl knappast ett svar på min alignment lösning? Att grundmodellens egna träning inte kan förhindra jailbreaks vet vi redan, det är därför AI-polisen behövs den kommer ju sätta stopp för detta. Att stapla modellerna på varandra bygger ett virtuellt samhälle där AI sköter om AI, det är pansarsäkert. Så nu kan vi sluta oroa oss om detta, lösningen är ju här.

Och för att återgå till sakfråga, detta är fel. 130 räcker inte för ett medlemskap... medlemskapsgränsen är att överträffa 2 standard avvikelser, dvs 131 eller högre.

Mensa använder weschler skalan som har SD=15, vilket alltså betyder då normeringen säger 100 är medeltalet, att ligga över 2 standard avvikelser innebär alltså 100 + (15 * 2) = 130, hade man använt den äldre cattell skalan så är SD=24, vilket alltså innebär 100 + (24 * 2) = 148. Dessa siffror behöver alltså inte tangeras utan överträffas för du ska vara kvalificerad.

Dessutom som jag sagt till dig flera gånger det är rent löjligt med detta dels för IQ tester är inte avsedda för datorer och som jag sagt till dig åtskilliga gånger inte "mäter IQ" direkt, de försöker mäta korrelation med IQ hos människor.

Det andra är det finns inga "offline test", Mensa i norden använder FRT-A (och B om bommade första testet och vill skriva om igen, bommar du två gånger har du förbrukat din chans att ta dig in genom på mensas egna tester och får bekosta det själv via psykolog eller dyl) vilket är standardiserat, för det andra behöver ett test vara normerat för att det ska gå ställa svårighetsgrad på det.

Att du inte förstår som sagt detta grundläggande gör dig lite diskvalificerad att diskutera IQ tester och definitivt så framgår det klart och tydligt att du inte själv kvalar in.

Måste ju finnas en gräns där simuleringen är bra nog att det praktiskt taget inte spelar någon roll om den är fiktiv eller ej.
Inte för att jag tror vi nått den ännu men jag tror att den dagen kommer någon gång i framtiden.

Så är det, men det handlar ju om en subjektiv upplevelse. Frågan är ju för vem det inte spelar någon roll då.

Jag menar vi har ju redan idag exempel på detta som datorskärmar, ljuduppspelning osv, dvs den ena producerar ju faktiskt inte rörliga bilder utan snabba slideshows som vi upplever som rörligt material. Den andra spelar faktiskt inte en gitarr när vi lyssnar på rock, men vi upplever det så.

Men det innebär inte att det är lämpligt för alla uppgifter ändå och det betyder definitivt inte att varenda organism eller varelse på jorden blir lurad av dessa illusioner, de är specifikt designade för människan precis som AI idag är tränad specifikt på mänsklig text. Hittills har totalt alla försök med att använda denna teknik för att försöka förstå djurkommunikation osv misslyckats, man kan ju fråga sig varför.

Gränsen för artificiell intelligens är okänd, men går mot naturlig intelligens endast under reduktionistiska antaganden, annars är de divergerande.

Språk modeller är fiktiv intelligens i form av textmanipulation.