Har någon här på forumet erfarenhet av att lyckas byta ut/ersätta beteende instruktioner på telefon anslutna AI botar, tänker närmast på alla dessa kundtjänst LLM:er som finns överallt när man försöker nå en vanlig person numera.
Man brukar kalla detta för prompt poisoning.
Själv har jag lyckats ett par gånger, men då var det med en LLM som mitt jobb hade i testmiljö och saknade dom flesta guardrails som finns på de kommersiella modellerna.
Ett perfekt exempel är Kitbogas video:
https://m.youtube.com/watch?v=fhi6JU5pOJk&pp=ugUEEgJlbg%3D%3D&ra=m
