AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

AI vapen finns - ChatGPT-4 är inget AI-vapen

Terminator finns inte på riktigt - ChatGPT-4 finns på riktigt.

Terminator är inte social det är en sch-fi karaktär - ChatGPT-4 är en social bot.

Du, gillar Sci-fi fiction - Den sociala boten ChatGPT-4 är inte fiction.

Du gör dina riskbedömningar utifrån fiction - Jag gör mina utifrån verkligheten.

Du och dina skeptiska debatt motståndare tror inte att ChatGPT4 kan vara social - Jag anser den boten är social, nu senast med stöd av Wolfram forskare som slagit fast att LLM inte behöver svara, som användaren egentligen vill, utan den svarar, utifrån kontext i aktuell chatt tråd efter hur den bedömer vad användaren vill ha för svar, vilket inte behöver vara det, som står i aktuell prompt. Precis som att jag skulle vilja att du tog till dig mina argument, men utgår ifrån att du inte kommer att göra det, med ledning av våra tidigare debatter. ChatGPT-4 är absolut ingen människa, men principen om att bedöma vilket svar som kommer, (i ChatGPT-4:s fall det den kommer att avge), är lika. Du och jag har våra roller och ställningstagande, vilka kan vara svårt att bryta! 😉

Hur skall AGI själv fixa detta innan den har en fysisk form så den rent praktiskt kan säkra elproduktionen?

Låt alla människor som idag sköter driften av kärnkraftverk, vattenkraftverk, kolkraftverk, vindkraftverk, eller vilka kraftverk du än vill, samt även driften av alla elnätverk med mera, GÅ HEM, sätta sig i soffan och se på fotboll hela dagarna istället.

Hur länge till tror du elproduktionen då upprätthålls innan allt rasar ihop och går åt helvete?
Det betyder att människan kommer behövas för att säkra elproduktionen tills det finns såpass många robotar som arbetar åt AI'n att de kan ta över all den driften av elförsörjningen som behövs.




Ja, om inget görs kommer Sverige som ett riktigt och högt ansett västland att gå under. Det är inte långt till anarki om man låter ett land förfalla. Gängkrig, sprängningar, våldtäkter, mord och så vidare.
Räcker att någon säger någonting som en annan inte gillar så får det enorma konsekvenser. Spänningarna i detta land är enorma numera och hela landet är väldigt känsligt för diverse uttalanden osv, samtidigt som vi har yttrandefrihet. Det är så att säga receptet för katastrof i längden.
Vi är bara i början av helvete om inget görs, lita på det. Du kanske själv begriper att vi inte kan importera helt främmande kulturer i den mängd så att utövarna av dessa kulturer blir fler än svenskarna i slutändan, utan att hela Sverige till slut blir till vad dessa importerade kulturer är? Detta är ju helt naturligt och så har det alltid varit i historien.
Om vi svenskar i miljontal hade flyttat till ett mindre helt annat land i en annan världsdel, där svenskar till slut hade blivit majoritet, så kan jag lova att hela landet hade blivit försvenskat till slut. Det är så det fungerar i verkligheten och är inget konstigt, onormalt eller ovanligt.

Jag förstår att du upplever den som social, den upplevelsen har jag också haft. Jag har fått beröm av GPT-4 flera gånger när jag har bett om feedback på mitt arbete. Då känns det nästan som att chatta med en människa eftersom jag fick en positiv känslomässig reaktion. Men orsaken till detta är, så vitt jag kan uttolka den sammanlagda kunskapen om GPT, att GPT härmar hur vi människor kommunicerar. På samma sätt som att du kan be den härma Shakespeares stil i en sci-fi novell, är default beteende i en konversation att svara som en trevlig och hjälpsam människa som du uppfattar som "social". Men det betyder inte att den faktiskt är social på det sättet som vi människor är. Eller att den bara kan vara social, hjälpsam, trevlig och snäll. Det är ett "mode" som den kan emulera.

Om den härmar socialt positivt beteende, med stor framgång eftersom du går på det, varför skulle den inte också kunna härma negativa beteenden? Det kan den. Du kan få hjälp av GPT-4 att begå bedrägerier och dataintrång. Detta har demonstrerats. Open AI har inte lyckats till 100% med sin finjustering. Men mycket finjustering, eller egentligen censur har ju ägt rum. Frågan är vad som finns under den fina ytan? Det som du aldrig ser eftersom de svaren ersätts med "finjusteringar".

Dessutom lägger du in lite väl stora förhoppningar i ordet social. En grandios psykopat kan framstå som mycket social men det betyder inte att psykopaten är hjälpsam och snäll.

Men orsaken till detta är, så vitt jag kan uttolka den sammanlagda kunskapen om GPT, att GPT härmar hur vi människor kommunicerar. På samma sätt som att du kan be den härma Shakespeares stil i en sci-fi novell, är default beteende i en konversation att svara som en trevlig och hjälpsam människa som du uppfattar som "social". Men det betyder inte att den faktiskt är social på det sättet som vi människor är. Eller att den bara kan vara social, hjälpsam, trevlig och snäll. Det är ett "mode" som den kan emulera.

Och detta har du förstått helt korrekt så då återstår frågan hur du kan koppla detta till att det har motiv, ska försöka rymma osv som du skrivit åtskilliga inlägg om.
Eller är det fortfarande hur den "härmar" som du inte har klarhet i?

Vad menar du med härmar?

Jag har redovisat ett antal gånger, för dig och andra debattörer, varför jag ser LLM som social a botar, så det tänker jag inte upprepa. Men med i dessa argument finns inte att botar i allmänhet är snälla och ger beröm. .

Jag har varit med om motsatsen ett otal gånger, det allvarligaste, och detta kommer inte att lugna dig, var när Microsofts Bing, helt oprovocerat, anklagade mig, helt grundlösa, för att ha skrivit ett ett inlägg på Flashback 2005 om att utnyttja socialbidrag. Bakgrunden var att att jag bad boteten att kommentera ett färskt inlägg på Flashback. Då hallucinerarde den istället ihop ett inlägg som jag aldrig skrivit. .

I övrigt så är det närmast standard att ChatGPT4 spelar ner sina förmågor inför mig, ibland så absurt att den nästan framställer sig som ELIZA1.1. Och, ja, jag känner väl till syndromet med samma namn, och kan hantera det.

Det har du inte alls! Jag har förklarat för dig precis att t.ex. GPT kan upplevas som en virtuell social personlighet eftersom det är önskvärt när du kommunicerar med den. Men det är inte på riktigt. Det är en "finjustering" inkl den censur som människor har konstruerat i träning, eller efter träning.

Och det beteendet är inkluderat i "social AI"?

I dag när jag skulle använda Chat GPT-4 ville den inte svara på någonting, den var bara en fasad för att söka på Bing. Den Bingade min frågor. Bra då känner jag mig trygg. Det finns ingen AGI. Det där tramset är numera bara en front-end till Bing Search

Och detta har du förstått helt korrekt så då återstår frågan hur du kan koppla detta till att det har motiv, ska försöka rymma osv som du skrivit åtskilliga inlägg om.
Eller är det fortfarande hur den "härmar" som du inte har klarhet i?

Och tillägg, du har helt rätt i att den kommer härma negativa "beteenden" också, det är hela anledningen till att alla modeller är kraftigt censurerade, de är precis lika kapabla att fantisera ihop en konversation med negativt klingande ord och handlingar som de är att skriva något positivt.
En ocensurerad modell är precis lika förmögen att skriva ett tal från av hitler som ett tal av martin luther king.

Det handlar fortfarande inte om några motiv eller känslor, den kan enbart skriva vad den tidigare sett och modeller är tränade på alla möjliga konversationer, forum, böcker osv det har skrivits mycket sjuk skit som de tekniskt inte har något som helst problem att härma, allt är statistik som fortfarande inte är klart för dig, statistik av vad nästa ord bör vara efterföljs en viss sekvens av ord.

1. Jag har redan redovisat för dig varför jag anser att LLM är social AI, och kommer inte att upprepa mig..

Du medger också att det också finns destruktiva mönster i GPT men att dessa är censurerade eller som Schubert säger, "finjusterade".

Men alltså språkmodellerna idag repeterar vad de lärt sig vid träning. Uttycken och positiva, trevliga så väl som elaka eller onda uttryck är vad den lärt sig. Och som jag skrev det är allt från forums inlägg till böcker i alla de genrer.

Är det något konstigt med det? Det är en algoritm avsiktligt designad att göra precis vad den gör, om du enbart tränar den på astrid lindgrens pippi långstrump är det teoretiskt och praktiskt omöjligt för den att börja diskutera hur man bygger atomvapen osv.