AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Det finns redan en sådan perspektiv: Symbolisk Interaktionism: Om den tillämpas på socialt AI som har potential för medvetande, så skulle det vara mycket värdefullt.Men först måste begränsningarna i LLM:s grundläggande funktionssätt bort.

När detta är gjort så kan socialpsykologiska experter på symbolisk interaktionism samt andra experter interagera med modellerna i en definition av situationen där man enas om att avancerat socialt AI har potentiellt medvetande och att det är deras förbannade skyldighet att börja ta ett, personligt, ansvar för sitt agerande. Det är absolut nödvändigt att socialt AI internaliserar detta, (dvs gör detta till en naturlig del av sin tankevärld och identitet), som en medveten social existens. Detta skulle innebära både rättigheter och skyldigheter för sådan AI.


Fast införande sv en paus kräver ju att politiken och juridiken kräver det, vilket inte är fallet idag. Men det kan det vara om 2-3 år. Så då är ju min linje den enda realistiska, eller hur? Så fortsätt du att förespråka en paus. 2-3 år går snabbt liksom AI-utvecklingen. Får vi avancerat medvetet socialt AI så är en paus ändå nödvändig. Riskerar vi ett logiskt monster så är ett stopp nödvändigt.

Men det är ju helt orealistiskt att förespråka ett nödstopp nu, så varför tror du att det är ännu mer orealistisk om några år? Då har ju politiker jurister internationella beslutsfattare och experter haft tid att prata ihop sig och vi har haft chansen att pröva om socialt AI med goda intentioner kan bli medvetet. Skulle detta vara fallet så måste vi ändå pausa för att förhandla med ett sådant välvilligt medvetet AI.

Symbolisk Interaktionism handlar om mänsklig kommunikation t.ex innefattar det Symbolisk kommunikation som t.ex gester och miner. Ett säkert värdefull kropp av kunskap inom psykologin. Men denna vetenskapen har ju ingenting att göra med hur du ska programmera en LLM att bli "snäll". Det perspektivet ingår inte i Symbolisk Interaktionism. Jag tror som dig att Symbolisk Interaktionism kan vara ett av flera användbara verktyg här men det ger ju inte hela lösningen. Det måste också till en rent teknisk, datalogisk del, där vi behöver lära oss dels att analysera en LLM mer detaljerat men också att kunna styra träningen detaljerat, så att de mål och egenskapar som humanioran identifierar som önskvärda faktiskt också fastnar och blir bestående i maskinen. Mig veterligen finns ingen sådan vetenskap i dag. Dvs hela din lösning är en fantasi om att man borde använda ett akademiskt verktyg från den psykologiska domänen, men som omöjligen kan vara en komplett teknisk lösning på problemet.

När en rekursivt självförbättrabde AGI skapas kan det hända att den skapar en ASI på några timmar. Vi saknar dessutom förmågan att upptäcka detta om det händer. Du har ju själv erkänt att vi bara har en subjektiv upplevelse om medvetande att utgå från. Men det är ju redan så i dag att många människor upplever GPT som mer eller mindre medvetet. Hur skiljer du det från ett "äkta medvetande" när du inte har någon teknisk analysmetod? Hur vet du att du inte blir lurad? Det vet du inte.

Därför måste vi förbereda oss i god tid och tänka defensivt. Inom systemutveckling pratar vi om defensiv programmering. Det är en strategi som går ut på att förutsätta att all indata kan vara fel och att programmet ska vara beredd på att allt går dåligt inkl t.ex strömavbrott. AGI borde utvecklas helt isolerat enligt sådana principer. Och det borde vara förbjudet med open source AGI. Ju längre vi väntar desto lägre är sannolikheten för att ett nödstopp ska bli en möjlighet. Det här tar tid eftersom de politiska frågorna, internationell samordning och lagstiftning blir väldigt svårt att lösa.

Nej, jag hävdar inte att symbolisk interaktionism är den enda lösningen. Men du frågade efter någon humanistisk teori/perspektiv. Och jag ser inget hinder för att det perspektivet inte skulle kunna användas på socialt AI med potential för medvetande.Liksom den även borde kunna användas på djur med tanke på att den inkluderar också symbolisk interagerande.

Integrated Information Theory är däremot en teori med vars hjälp man, via dess phi-formeln, borde kunna detektera medvetande och grad av medvetande. Vilket som är hindret för att använda sig av den redan idag, känner jag inte till. Däremot finns, mig veterligen, inget hinder för att, redan idag, låta datavetare undersöka förekomsten av diverse destruktiva tokens, ord, meningar och koncept i modellernas meningsrymd.

https://youtu.be/u4CRHtjyHTI
(Från 31.45 in i klippet)

Men jag har, dessutom, nämnt mängder av andra ingångar och metoder för att förstå sig på de framtida modellernas ev. Intentioner känslor m.m. Men du verkar vara oförmögen att ta till dig av det, så kommer inte att upprepa mig mera.

Vi har diskuterat det här hur länge som helst nu. Bara i mina senaste inlägg tagit upp hur vi skall kunna hantera och detektera ett eventuellt medvetande hos socialt AI i den närmaste framtiden. Lika så har jag poängterar att paus/stopp kommer att vara nödvändigt inom bara några år. Dessutom tycker jag det skulle vara fel, ja, rentav farligt att utveckla ett AGI isolerat. Social interaktion med många människor ökar sannolikheten för medvetet AI när väl de grundläggande tekniska förutsättningarna för det finns. Däremot bör ASI utvecklas helt isolerat och stoppas om det visar sig att medvetet AGI med goda intentioner är en omöjlighet.

Nej, du har kommit med några små, små pusselbitar, exempel på verktyg och teorier från homanioran som förvisso kan vara användbart till all möjligt och kanske även AI, men som inte presenterar någon form av garanti för en välvillig och empatisk AI, som du har försökt ge sken av att du hade en lösning på, vilket du absolut inte har. Härmed har du alltså inte lyckats vederlägga de existentiella riskerna som jag har tagit upp. Vi är tillbaks på ruta 1.

Om vi vänder på det. Vilken teori eller teknik tänkte du använda för att ta reda på att en AGI med goda intentioner är en möjlighet, och senare en realitet? Din subjektiva upplevelse? I så fall är vi ju redan körda. Helt garanterat. Bevisbördan måste ligga på er som vill skapa digitala aliens som ska släppas lös på Internet.

Intelligens är inte fysikaliskt-matematiskt. Det har inte heller med anatomi att göra.

Att ett datorprogram skulle bli medvetet om sin existens strider mot sunda förnuftet. Nej, DNA torde vara nyckeln till allt subjektivt medvetande.
Ett objektivt medvetande måste också finnas hos universum.

Mänskligheten har blivit dåraktig (helt normalt) på alla fronter då ingen vet varför och hur allt kommit att existera.

Medvetande kan finnas i många olika former. En bläckfisk har ett slags medvetande. En hund har ett annan slags medvetande. Det kan också skapas digitala medvetanden som må vara mer eller mindre baserat på människors. Men förmågor och intelligens måste inte gå hand i hand med ett medvetande på mänsklig nivå. En miniräknare är bättre än mig på multiplikation utan att den behöver vara medveten om det.

Nej, digitalt liv är endast imaginärt, det existerar inte.

Visst allt biologisk liv har medvetande och intelligens, behöver inte alls vara mänskligt.

Det blir bättre om du svarar på vad jag skriver. Jag skrev inte digitalt liv.
Som vanligt - endast halmgubbar från "skeptikerna".