Chatbottar agerar som vi förväntar oss av dem

Chatbottar agerar som vi förväntar oss från dem. I alla fall så upplever vi det så. Detta är, absolut inte, någon nyhet för mig som skolad i sociologi/socialpsykologi/psykologi.

Samma mekanism slår in, mer eller mindre, även när människor interagerar med varandra. Men nu är det alltså även vetenskapligt fastslaget när det kommer till interaktion mellan människor och chatbottar.

https://futurism.com/ai-chatbots-useful-if-you-think-they-are

Av just den anledningen så bör du vara försiktig med att dra slutsatser chatbotens natur utifrån den interaktion du har med den. Detta är en gammal historia, vad jag fattar så använde sig forskarna även också sig av en gammal "chatbot" ifrån 1960-talet där detta fenomen först upptäcktes.

Så oavsett du ser chatbottar som blåsta statistiska papegojor, medvetna existenser eller onda entiteter så är sannolikheten stor att modellen uppfyller dina förväntningar, åtminstone så kommer du att tolka interaktionen så. Den ömsesidiga manipulationen går, förstås, åt båda hållen och behöver, i sig, inte vara medveten. Detta kan starta upp en manipulativ spiral. Och, som sagt var, samma mekanism kan råda mellan människor som interagerar socialt.

Att diskutera:

Vilka konsekvenser har detta för dig, samhället och synen på social AI?

Har du råkat ut för något liknande?

Hur skall vi som sociala varelser hantera detta fenomen?

Vilken betydelse har detta inför framtiden då vi, skall försöka bedöma vad som är AGI respektive ASI?

Ingen betydelse alls, eftersom AI baserar hela sitt kunnande på mänskliga företeelser.

Intressant. Det är lite som den gamla folksagan med de två vandrarna. Den ena träffade trevligt folk i varje ny by, och den andra träffade otrevliga människor.

Den sagan handlar om våra förväntningar.

Hur manipulation fungerar är komplext, men det handlar om att få det man vill ha genom att kartlägga personer och ge dem vad de vill ha för att sedan få dem dit man vill.

Finns det ai konversationer någonstans som ni vet som man kan följa? Ai med annan ai? På skärm eller
Robot med en annan robot?

Ett gammalt exempel:

https://infiniteconversation.com/

Tänk då vad lätt en framtida AGI kan lura oss. När vi redan nu lurar oss själva.

Absolut! Tur då att det finns experter på området, (som du, inplicit, brukar håna). Dessutom är det inte bara vi som lurar oss själva. Även ett avancerat socialt AI blir lika manipulerad som vi blir, på gott och ont. Mest gott skulle jag säga, då specialister kan knyta ett AGI känslomässigt närmare människan.

På tal om att manipulera en chatbot:

https://youtu.be/9RmzlRRqfvU?si=TkJqBiAtbNv10rSO
(13:12 in i klippet)

Dock läten sak lite skrämmande. Vi får se om ni kan lista ut det.

Vad baserar du denna förhoppning på?
Hur har du uteslutit en avancerad, osocial eller rent av destruktiv AI?

Det är ett faktum att det är vi människor, och inte minst sociologiska och psykologiska specialister kan bedöma om en entitet/existens är osocial/destruktiv. Dessa experter är bra mycket bättre än datavetare på att göra sådana bedömningar. Varför tror du att OpenAI redan redan börjat engagera sådan kompetens?

Ifall man torterar någon, brukar de säga vad du vill höra, inte vad som är sant.

Att samtala förbehållslöst?

Vilket i sig är en omöjlighet.

Varför skulle en AI vilja samtala med dig? Vad har du att säga som är av intresse? När det finns andra robotar den skulle kunna tala med.