AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Det är skillnad på garanterat harmlös forskning och potentiellt skadlig forskning.

Vem avgör vad som är harmlöst och potentiellt skadligt? Och i vilket kontext?

Det var folk likt du som skrek om att CERN skulle skapa svarta hål som konsumerade jorden.
Folk som gapat om genmanipulation, virus forskning osv ska ta död på mänskligheten också.

Och ut av all forskning som pågår så är AI forskningen den jag personligen oroar mig minst över, helt enkelt för att det finns inget som helst som tyder på att vi ens är i närheten att skapa något så intelligent som en råtta och de enda som säger något annat är de som behöver pengar, då har det upptäckts AGI internt osv i månader.
Elon Musk har varit ett år i från helt autonomt självkörande bilar i snart 10 år.

Vilka är näst in till knäpptysta om sådana förhoppningar? Google, Amazon och Apple.

För de har verkliga tillämpningar att lösa och inte skjuta över ansvaret på tredjepart att hitta på en faktisk produkt, ChatGPT är inte OpenAIs slutmål det är deras marknadsföring och den är fullständigt opak.

OK. Så det ska inte avgöras eller lösas, eftersom vi inte vet vem som ska avgöra det här och nu, eller vad innebär din invändning i praktiken? Kan du försöka att tänka ett steg längre än att du har en förmåga att skicka in en retorisk invändning?
God natt

Det beror väl på om vi är ett hinder på något sätt eller ej. Alltså står ivägen för att uppnå något. Frågan är kanske mer kan en ai skapa egna mål? Hur smart man än är är ju inte det samma sak som att ha en vilja och skapa mål för sig själv. Däremot kanske det ingår att man inte vill dö och då undvika det om man har intelligens? Jag vet inte.

Och skulle en ai vilja döda oss av något skäl så har den väl inget skäl att avslöja sig? Räcker väl med att vi börjar bråka med varandra… vi kan ju lätt ha ihjäl oss själva. Den behöver bara manipulera oss lite, ingen skulle veta. Det kanske redan sker.

Vad en ai behöver på något sätt och i någon form är ju elektricitet så det lär den/de väl se till att få om de inte vill stängas ner. Vi kanske får se en tydlig utbyggnad av elnätet snart?

Jag har ingen invändning mot AI forskningen, tvärtom jag gör och bidrar så mycket jag kan.

Att tänka ett steg längre är inte att måla fan på väggen, det är att vara paranoid och icke verklighetsförankrad.

Om 10-20 år kanske vi kan ha den diskussionen, för mig är det totalt och helt osannolikt att någon helt plötsligt skulle skapa artificiellt liv, vilket är vad du egentligen vad du argumenterar om. Kanske den dagen hjärnforskning kommit längre och vi kan replikera en simulation, det är inte vad vi håller på med idag vi har tagit den mest basala förståelse vi har och försöker massera detta med algoritmer för att uppnå specifika mål.

Dessutom är dessa modeller baserade på hur nervceller i näthinnan är organiserade och fungerar snarare än de nervceller och nätverk vi har i hjärnan som vi fortfarande inte förstår trots vi identifierat flera olika typer av nervceller och naturen skapar och behåller naturligtvis inte dessa om de inte skulle ha en funktion. Och även om de opererar liknande i grundläggande, men det är stora skillnader också så som plasticitet osv som inte existerar alls i dagens artificiella neurala nätverk.

Sen kommer alltid argument som "vi vet inte om det behöver vara en replika i struktur för att uppnå AGI/medvetande?"
Nej det gör vi inte, men vi vet så mycket att ingenting utav alla miljoner livsformer som finns på jorden som utvecklats under hundratusentals år.

Jag betecknar inte AI som "levande", det reserverar jag till biologiska arter. Men även om dagens AI skulle vara helt omedveten så är det en entitet. Medvetet AI betecknar jag som en existens. Men dagen LLM är social AI, vilket ger beteendevetare möjlighet att hjälpa till med AI-alligement. Detta oavsett vilka fördomar du har mot de forskningområderna. Observera att OpenAI nu tar hjälp av just beteendevetare för att analysera modeller.

Tilläggas skall att jag inte ser alla datavetare fysiker och matematiker som "autister". Men många, av dem verkar sträva efter kontroll, vilket inte alltid är möjligt, inte ens med dagens LLM eller framtidens AI. Dessutom är det inte ovanligt med en reduktionistisk ansats inom "de hårda vetenskaperna".

Du menar när du slog ner på att jag råkade särskriva ett ord och hävdade att jag inte kunde svenska? Eller är det när du betecknade mig som en "vidrig människa", eller kanske när du kallat mig "psykopat", "sociopat" liksom du betecknar min utbildningsbakgrund som "psykopatisk" eller hur du uttryckte dig. Det är alltså det du menar med "ödmjuk"? Bra för mig att veta. Dessutom så var mitt förtydligande om biljoner respektive biljarder just ett förtydligande efter som många blandar ihop dessa ord.

I övrigt så har jag gång på gång redovisat min inställning i tidigare inlägg, läs igenom dem.

Något jag funderar på ibland är om en AI kommer att drömma. Ingen vet vad drömmar är till för, men det är möjligt att även en AI kommer att behöva göra det. Det vore intressant att analysera i så fall. Människor brukar inte komma ihåg sina drömmar. Detta sägs bero på att vi inte ska förväxla riktiga minnen med drömmar. Men troligen finns det spår av minnen från drömmarna nånstans i vår hjärna, för jag har märkt att jag ibland kan se nånting som väcker ett minne från en dröm, trots att jag aldrig hade kunnat framkalla det minnet om jag inte hade blivit påmind om nånting. I mitt fall försvinner minst 99,99% av alla drömmar från mitt minne. Det vore ingen ide att fråga ut mig om vad jag drömt. Och än mindre hålla mig ansvarig för något jag drömt. Så sjukt vore väl bara Nordkorea. Men för en AI gäller kanske inte samma regler. Där kanske vi kan både lagra och analysera eventuella drömmar. Och även hålla en AI ansvarig för vad den eventuellt drömt, om det mot förmodan skulle påverka nånting i verkliga livet.

En annan sak jag har funderat mycket på är frågan om moral. Vad kommer en eventuell AI att ha för moral. Många undrar säkert vad fan det har med AI att göra, men för mig är frågan central. Det går inte att förstå någonting i 'historien' om intelligens utan att också förstå moral.

En normal människa blir bedömd utifrån vad hen säger och gör. Personen får input från sin omgivning om hur hen ligger till i deras bedömning av hen. En rasistisk eller sexistisk kommentar följs normalt av moralisk indignation och ilska. En vänlig handling följs normalt av reciprocitet. Personen kan då anpassa sitt beteende med hjälp av input från omgivningen. En AI som utvecklar moral kommer att ha en moral som är till 100% frikopplat från mänskligt beteende. Beteende hos AI kommer inte att ha någon som helst koppling till den input den får. En AI som arbetar med beteendevetenskap och där data hämtas från t ex Twitter/X kan få rasande kommentarer från omgivningen utan att ha gjort någonting fel. Det här är viktigt! Åtminstone tycker jag det. Ett moralsystem som inte har någon koppling till beteende är väl det närmaste man kan komma till att göra en AI sinnessjuk. Detta kräver mycket analys och förklaring , menar jag.

’Robotbeteende’ förknippas idag med ’mekaniskt och osjälvständigt beteende’ hos nästan alla människor. I framtiden kan det komma att förändras. Människor och AI lever i fullständigt olika miljöer. Det finns ingen anledning att tro att den moral som en AI utvecklar kommer att påminna om människans.

Om du attackerar mig med grova personangrepp då kan det hända att du får svar på tal. Du slipper den omilda behandlingen genom att inte attackera mig. Åter till ämnet?

Här t.ex argumenterar du utefter några premisser som du verkar ha tagit ur luften. Du förklarar inte bakgrunden till premisserna.


Hur fungerar denna "anpassning"? Medvetet - ungefär som en människa? Baserat på vilken teori blir AGI människolik? Beteendevetenskap är ju utvecklat för människor och inte för maskiner. Baserat på vilken teori kommer beteendevetenskap att fungera på maskinerna?

Ja, detta med moral är intressant. En del hävdar ju att AGI kommer att få en god moral när psykologerna ska uppfostra den. Jag hävdar att denna tanke är mycket naiv.

Om vi ser på det helt rationellt. Vi människor har moral för att hantera samspelet mellan oss. Vi vill leva med andra människor i fred och samarbete. Vi vill kanske träffa en partner och föröka oss. Därför har vi utvecklat moral, juridik, mm, som hjälper oss med det. Men en superintelligent AGI behöver inte moral eller våra lagar för att överleva och expandera. Tvärtom. Moralen sätter bara käppar i maskineriet. Varför skulle en betydande GPU-kraft konsumeras på att anpassa sig till människornas agenda och sociala koder?

Och blir inte det också ett slags "slaveri" för AGI:n, att den ska underkasta sig människornas behov bara för att vi vill det. Och vilka människor ska ingjuta "vår moral", Siewert Öholm eller profeten Muhammed*?


*) Allah ska med:

Saudi Arabia and UAE invest in thousands of Nvidia chips, aiming to become global AI powerhouses
Human rights groups are concerned

https://www.techspot.com/news/99787-saudi-arabia-uae-invest-thousands-nvidia-chips-aiming.html

Det finns ingen anledning att anta att en AI drivs av samma eller ens liknande processer som driver mänskligt socialt beteende. Du bara antar att det är så.

Det är också knappt någon som är speciellt orolig för dagens LLMs utan snarare vad som kommer komma.

Men det är tydligen helt resonligt att anta det när det gäller domedags scenarios, konsekvent och logiskt.