Inte AI som är hotet, det är människan bakom prompten

Du har missat att det finns något bakom dessa reklammaskiner som blåser pallet av dig?

Nej, jag utgår ju från vad som har presenterats. Och det är ju i stort sett ingenting.

Från din länk:

All modern language models sometimes act like they have emotions. They may say they’re happy to help you, or sorry when they make a mistake

Just det, "they act like they have emotions". Så är det en akt eller är det något vi kan använda till AI-säkerhet? Det finns ingen forskning som kan svara på det.

Att det finns filosofisk forskning inom ett område innebär inte att det därför finns användbara teorier som fungerar för att implementera en säker AI / AGI / SI / ANN. Du blandar ihop pågående forskning med användbara och vedertagna teorier. Forskning syftar till det senare men existerande forskning är inte ett bevis för att just den forskningen kommer att lösa några problem.

+1
Ändå tyckte människan du citerade att det behövdes en tråd. Dessa korkade människor är farliga...

Som vanligt så har du inte förstått någonting. I vilket universum har jag påstått att modellerna har känslor och att det är det som skulle orsaka misalignment?

Om du faktiskt läser så ska du se att det finns interna representationer som liknar känslor och att när modellens interna state ligger inom dessa så blir misalignment mer förekommande än vid neutralt eller "calm" state.

Det är väl såhär det blir när man försöker diskutera med folk som inte ens har en basal kunskap om hur tekniken fungerar.

Det är ju ett intressant fynd. Men det innebär ju inte att man kommer närmare AI Alignment som jag trodde var det du vill påvisa med det här. Men då ber jag om ursäkt om du inte alls menade att man är i närheten av AI Alignment.

Jag säger att det ger ytterligare stöd till min hypotes, inte att det bevisar den.

Att tro att vi kan få tillfredsställande transparens (mechanistic intepretability) är en löjlig hypotes som helt saknar stöd i forskningen.

Prompt-AI är en bagatell i sammanhanget. Mest för rationalisering av administrativa uppgifter, programmering, o d.

Den farliga AI-användningen är av en helt annan typ.

Ja, även om Generativ " promt-AI ställer till med en del som du ser här😂

Jag pratar inte om mechanistic interpretability. Jag ser dock inte varför vi inte skulle komma längre inom det heller, men det har inget med min hypotes att göra.

Den som lever får se om din hypotes räddar oss från GPT-Skynet 8.5

Kör på GPT 8.5 nu , den säger att du är vimsig?
Den förnekar ASI och kallar Sam altman för en PR-gubbe som blir pressad av trump?
Fan är fel på den,??

Kan du hjälpa mig gå igenom tekniken grundligt?

Nu säger den att jag är smart till och med och då vet även jag att den går på lsd då jag endast är normalbegåvad.
Hjälp mig tack?