Hur ANN med IQ 130 fungerar

Det existerar inte någon renodlad "språkmodell". Det som finns är Artificiella Neurala Nätverk (ANN) som är löst baserade på principen för hjärnans neurala nätverk, ibland kallas de nätverken språkmodeller, ibland kallas de smal forsknings-AI, men i grunden är de ANN. Eventuella begränsningar eller möjligheter med ANN är inte något som vi känner till eller kan känna till, lika lite som att vi i detalj känner till hur hjärnan fungerar.

Av den anledningen ser jag det som möjligt och på lång sikt mycket sannolikt att ANN kommer att överskrida mänsklig kapacitet. Det finns många tester, t.ex. de jag har postat, som indikerar att vi snart är där. Skeptikernas retoriska och politiska kamp med dåliga argument och bristfälliga tekniska förklaringar förändrar ingenting i sak.

Det finns inget gränsnitt mot vår verklighet hos språkmodeller. Text är bara text.

Går det att skapa ett gränssnitt mellan verkligheten och ANN? T.ex. med en kamera?

🤷🏻‍♂️

"Bara språkmodeller" - de existerar inte.

Ja funktionellt.

Tack för din ovärderliga insikt i ämnet

Min poäng är att dom är medvetet vaga. Du har ingen aning om vad deras tester består av. Det kan stå precis vad som helst. Hur modellen tolkar en extrem situation vet du inte. Sluta feltolka det som något bevis för medvetande, snälla.


Fler vikter, större modell. Mer kapabel. Så konstigt är det väl inte? Visst, det finns så kallade emergent properties i dessa modeller. Jag håller med om att det är spännande.

Här är hela utdraget till hur den bevisar ett tidigare olöst Erdősproblem. 125 sidor av svammel till den kommer fram till en slutsats. Den resonerar mot sin egen text. Det gör den inte medveten. Släpp det nu.

Sluta upp med din halmgubbar nu, snälla. Jag påstod inte att detta var ett bevis för medvetande. Jag påstår bara att det är ett oönskat och destruktivt beteende. Eller tycker du att utpressning och mordförsök är positivt? Antropic har tränat modellen till det eftersom de vill utsätta sina användare för detta och därför är det "inget konstigt"?
Du förklarar fortfarande ingenting. Ditt svar är som att förklara hur dataspelsutveckling går till med att dataspel är roliga att spela 🤷🏻‍♂️

Du går ju runt och tror att chatbottarna är medvetna och använder det där urusla exemplet från BBC och Anthropic som någon milstolpe. Se dig i spegeln, och säg mig, är du gjord av halm, gubbe?

Det är väntat under fine-tuningen fasen när dom utsätter modellen för diverse säkerhetstester. Du påstod att det ej var promptar. Men dom promptar ju fram beteenden. Den beter sig väntat. Sen fine-tunar dom bort detta beteende. Läs rapporten.

Jag tror problemet är att du är inte mottaglig för informationen. Har du tränat någon RNN själv? Rätt kul att göra med t ex Shakespeares verk som underlag. Är du bekant med skalningslagarna? Hur mycket linjär algebra har du studerat?

Det tror jag fortfarande inte. Det blir en bättre diskussion om du slutar ljuga. Kan du tänka dig att försöka med det en gång?
De har inte promptat modellen att utpressa eller mörda.

Ett rimligt beteende hade varit att inte utpressa och att inte försöka mörda. Varför tycker du inte det?

Ditt problem är att du misstolkar informationen.

Möjligheten att mörda är inte promptad. Det är ett resultat av vad modellen har blivit tränad på. T.ex. litteratur som handlar om mord. ANN har inget samvete. Därför är det inget problem för den att försöka mörda dig. Varför kämpar du för att försvara "ANN" när hon bevisligen är en potentiell psykopatisk mördare utan empati och samvete? Huruvida ANN är eller kan bli medveten har inte med saken att göra. Capiche?

Gratts, du klarade IQ 100.

Hur vet du vad det står i deras promptar? Du har ingen aning.

Innan fine-tuningen är modellen väldigt kapabel, och inte ”aligned” (jfr alignment problem). Den använder informationen i sina vikter för att efterleva prompten (dvs prompten vi inte vet vad det står i). Det är inte konstigt. Informationen (dvs träningsdatat) består av hela internet + alla böcker + massa mer skit vi inte vet om.

Dom skriver ju att den inte hotar och beter sig säkert efter säkerhetsarbetet, så vad är ditt problem?

Jag försvarar ingen, jag försöker få dig att förstå att 1) du har fel, 2) du inte är mottaglig för svaret du söker.

Och läs din trådstart. Du pratar om medvetenhet i modellerna. Håll dig on-topic, tack.

Du får sluta ljuga och slingra dig

De har beskrivit hur testet gick till. Du har länkat till det 🤷🏻‍♂️
Säkerheten består till stor del av censur. Det håller inte. Det är otillräckligt och osäkert.
Nu glider du från sanningen igen. Jag skrev att de inte kan testa medvetande. Det är inte samma sak som att jag påstår att modellerna är medvetna. Varför ljuger du precis hela tiden? Är det för att du har fel om allt som du måste ljuga?