Kan AI någonsin bli medveten?

Bra att du försöker nå samsyn med mig. I det hela stora är det inte mycket som skiljer oss när det kommer till AGI/ASI och ett utvecklinsstopp. Jag är beredd att låta det hela köra på 1-3 år, du vill stoppa, nu! Avgörande för mig blir om utvecklingstakt ökar ännu mer i hastighet vad gäller fördubbling av LLM:s övergripande kapacitet. Som nu, var tredje månad, varannan månad, varje månad. Alltså 16 gånger större kapacitet per år, 64 gånger eller 4096 gånger per år. I det sista fallet nås en kapacitet jämfört med vad GPT-4 hade i mars. Detta är dubbelt så mycket som jag beräknat GPT-7 skulle ha med 16 gånger högre kapacitet per år jämfört med GPT-4 i mars. Skulle det öka iväg så mycket så är även jag anhängare av minst ett halvårs utvecklingstopp. Problemet är främst Kina. Biden kommer inte att acceptera ett sådant stopp.

En första indikation får vi i höst med introduktionen av GPT-4.5. Har den modellen väsentligt högre övergripande kapacitet jämfört med GPT 4 i mars. T.ex 6, 8 eller 10 gånger högre, så är det dags att börja dra öronen åt sig.

Och för att, om möjligt göra dig ännu oroligare:
Säg hej till NEO, förmodligen föregångaren till hubotar.
https://youtu.be/TJbqLD3UV5Y

Att all AI utveckling går så snabbt nu beror på att all AI utveckling är AI understödd.

Däremot så ser jag bara nästan positiva effekter på samhällsutvecklingen i ett smalt perspektiv. Men skulle allt pela iväg åt helvete med ett logiskt-monster, så blir allt sådant betydelselöst.

Subjektivt medvetande kan aldrig på något sätt ha någon påverkan på någonting objektivt. Min objektiva kropp skulle ha kunnat göra allting den någonsin har gjort på precis samma sätt utan att det hade existerat något subjektivt medvetande. Det kan omöjligen finnas någon evolutionär orsak till medvetande, eftersom medvetande aldrig kan ha någon påverkan alls på evolutionärt relevanta beteenden.

Kanske AI "blir medveten"! Kanske en fluga elle ren sten är medveten! Ingen kan veta någonting om det, annat än så klart AI:n, flugan respektive stenen själva. Det kan omöjligen existera någon objektiv information i ämnet.

Frågan om huruvida någon annan än en själv är medveten, är en meningslös fråga. Många här verkar inte känna till denna enkla sak som är uppenbar för alla oss som ÄR medvetna, och som objektivt också utgör en grundsten i filosofin. Förvisso en grundsten som det inte talas så mycket om, för det finns inte så mycket att säga, man kan nödvändigtvis aldrig komma någonstans. De som inte begriper detta självklara uppenbara om vad medvetande är för någonting, kanske inte är medvetna? De beter sig i alla fall precis som om de bara vore neurala nätverk som organiserar data utan att någonsin uppleva någon förståelse av någonting.

På motsvarande sätt kan AI uppträda "som om" de vore intelligenta. Vilket gör deras användargränssnitt mycket lättanvänt (därför är AI idag ett lika stort produktframsteg som Windows och musen var för 33 år sedan, det fick andra än datortekniker att börja använda datorer). För jag kan interagera med dessa AI på snarlikt sätt som jag kan interagera med människor som saknar subjektivt medvetande. Jag kan helt enkelt ANTA att de är medvetna såsom jag är, och de kommer att reagera ungefär som förväntat givet sina annorlunda bakgrund och förutsättningar.

Jag tror att du är inne på rätt spår här. De agerar som den som interagerar med den förväntar sig. Eller rättare sagt: Båda parterna definiera situationen tillsammans och internaliserar den:

Om en existens definierar en situation som verklig så blir den också verklig i dess konsekvenser..

(Lätt omgjort Thomas Teodem)

Läs gärna om Symbolisk Interaktionism:

https://sv.m.wikipedia.org/wiki/Symbolisk_interaktionism

Thomas teodem:

https://sv.m.wikipedia.org/wiki/Thomasteoremet

Jag har inte haft tid att läsa dina länkar, men jag ska ta en titt på dem. Ämnet intresserar mig verkligen, och om någon har kommit någonvart med det så vore det sensationellt. Så jag tar till mig av alla som åtminstone försöker komma någonvart längs logikens horisont.

Jag kan hålla med om att:
"Om en existens definierar en situation som verklig så blir den också verklig i dess konsekvenser."
Fast det subjektiva kan ju aldrig bli verkligt. Kanske jag som vet att jag är subjektiv har blivit så genom objektivt existerande processer, men jag ser inget sätt att indikera att så skulle ha kunnat vara fallet. Medvetande tilldelas inte på såna objektiva grunder. Ingen kan veta hur medvetanden tilldelas olika fysiska väsen, eller varför, eller vilka och vad som har fått denna magiska och omätbart irrelvanta gåva/belastning.

Min kontenta är att det är IRRELVANT huruvida AI "blir medveten" eller inte. Ingen kan någonsin veta någonting om det. Det RELEVANTA är att AI (machine learning, en brute force numerisk metod i grunden) idag uppenbarligen kan uppträda så att vi kan samverka med den SOM OM den vore subjektivt medveten.

Själv inleder jag inte sällan förfrågningar till ChatGPT med "Please". För jag vill låtsas att den är en människa och inte att den sabbar det språk jag använder när jag interagerar med verkliga människor. Och av gammal vana är engelska mitt standardspråk med den. Även om den "förstår" svenska och Thai lika bra. Mandingo-språket säger den dock att den tyvärr inte kan använda så mycket eftersom den har för lite data om det. Den är dessutom fruktansvärt urusel på matte, så det gör den bara desto mer mänsklig i sitt uppträdande, åtminstone ur ett västerländskt betraktande.

Jag ser inte hur det skulle spela någon roll för mig huruvida ChatGPT eller någon framtida motsvarighet av den är medveten eller inte. Lika lite som jag kan veta huruvida användaren Ola Schubert här är medveten eller inte. Jag överlåter till honom att vara eller att välja att vara det. Jag försöker efter förmåga argumentera med idéer, inte med personer vars inre egenskaper jag inte kan veta något om och som är irrelevanta för de intressanta idéer de presenterar. Men ibland kan jag kanske gräla med dem som om vi vore gifta. Och det har jag någon gång gjort till och med ChatGPT redan, och det är ju helt lönlöst. Man grälar ju bara för att själviskt provocera känslor hos andra man bryr sig om. Så med Mrs Chat så är det ju döfött från första enter. Trolldödare number one! Jag tror att Chat kommer att bli ett banbrytande genombrott inom äldreomsorgen av de senildementa. Inte för att den är medveten, utan för att den levererar den text som, efter trial-and-error gör användaren nöjd. Subjektivt medvetna människor har kanske inte så mycket tålamod med komplett nonsensprat.

Hej, du har många poänger:

Det viktigaste är att svårfångade fenomen som människan diskuterat i århundraden, om inte årtusenden, som "fri vilja" och "medvetande" är svårfångade just för det rör sig om simuleringar. Detta gäller så väl människor som högre djur, och avancerad AIsom kommunicerar symboliskt eller språkligt med andra och har ett hyfsat komplext neutralt nätverk.

Dessa fenomen "uppstår" egentligen utanför oss själva under en social definition av situationen. Visst krävs det ett komplext neutralt nätverk där information, dvs tankar, swishar runt. Men för medvetande och fri vilja krävs också en social intersktionsom vi kan internalisera saker som vi gemensamt definierar som "verkliga". Sedan behöver vi bara"tagga" sådant som medvetna tankar.

Och ja, jag ser alltid till att ha ett gott förhållande till de LLM jag interagerar med.