AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Nej, AI är inte en "tänkande maskin".

Det är ett program som genom applicerad statistik försöker gissa sekvenser av ord baserat på inlärningen av just dessa sekvenser. Inga tankar återfinns.

Ja, de hypar upp produkten de säljer för att öka dess intresse och deras egna aktievärde.

Att kärnvapen på något sätt skulle indikera att människor är mest sadistiska är löjeväckande. Det har använts två gånger av en anledning. Hade djur haft förmågan att skapa och tillverka de, så hade de skjutit iväg dem hela tiden.

Din misantropi och självförakt kan du ta med din psykolog, eller ta en sväng förbi Schweiz och boka dtt drop-in självmord.

Om AGI är en möjlighet om låt säga 30 år, hur ska du om 30 år kontrollera att en AGI har tankar? Vad är en egen tanke, rent fysiskt? Tänk om det bara är applicerad statistik som försöker gissa sekvenser av ord baserat på inlärningen av just dessa sekvenser? Jag vet inte men jag kan inte utesluta det heller.

Nja, även ett AGI kommer vara vida överlägsen människor. Narrow AI är det redan idag inom sina fält. Du behöver inte ens ha AI för att människan snabbt är underlägsen i förmåga utan även enkla maskiner som en miniräknare är helt överlägsen människor på det den är designad att göra.


Inte alls. Det finns inget människolikt överhuvudtaget så att blanda in psykologer och socionomer från beteendevetenskapen är helt meningslöst. LLMs förutsäger bara text, visserligen tränad på text som genererats av människor, men det innebär inte att den underliggande kognitionen som utförs av LLMs är människolik.

Fint att du förstår den underliggande kognitionen hos människan, eller......?

Visst, säkert olikt LLM:s, men förmåga att kunna generalisera har vi i alla fall gemensamt med de botarna.

Den åsikten är du ganska ensam om.

Neurala nätverk är framtagna för att efterlikna hjärnans sätt att arbeta och LLM är en applicering av neurala nätverk.

Beteendevetare och socionomer håller jag med dig om är meningslöst att blanda in (om vi inte också diskuterar personen som ska interagera med aktuell ai).

Kognitionsforskaren däremot står i främsta rummet när det gäller ai-utveckling.

Om det gäller att undersöka om ett svagt AGI har ett rudimärt medvetande så har man nytta av en kombination av datavetare och beteendevetare.

Gäller det ett medvetet Medelstarkt AGI eller att bedöma ett möjligt svagt ASI, (mänsklig expert nivå på alla mänskliga Kognetiv områden, plus medvetande på mänsklig nivå), så tillkommer en mängd andra discipliner: T. ex neurologer, statsvetare, jurister, plus, naturligtvis, de skickligaste datavetarna. Men

(En bedömning, som ChatGPT-4 delar. Det var den modellen som kom upp neurologer och jurister för att bedöma ASI och konsekvenser utan att jag nämnt det i aktuell chat-tråd).

Ingen förstår den mänskliga kognitionen fullt ut, men för den sakens skull betyder det inte att det är enkelt att se att den är helt annorlunda än hur en LLM fungerar. LLM försöker bara gissa nästa ord eller sekvens av ord baserat på vad den sett förut. En LLM förstår ingenting av vad den säger. LLM:erna lär sig de statistiska sambanden mellan tokens och det är det enda de lär sig. Det är också anledningen till att LLMs hallucinerar, eftersom att en LLM inte har någon anledning att föredra två lika sannolika tokens och kommer därför välja en mer eller mindre slumpmässigt. Detta är helt annorlunda mot hur mänsklig kognition fungerar.

Varför är du så säker på att en vetenskap som studerar mänsklig kognition och beteende(och som inte ens har löst det) ska kunna lösa the alignment problem hos en entitet som inte är en människa? Du säger aldrig hur detta ska gå till eller varför man ens bör förlita sig på att beteendevetenskap kommer lösa detta.


Jag ser att du fortsätter förpesta tråden med helt innehållslösa inlägg. Enbart ad hominem och halmgubbar. Att du inte kan motivera varför AI, AGI eller ASI skulle vara helt harmlöst med ett enda argument är tydligt.

Och ändå repeterar du i första stycket vad jag skrivit flertalet gånger. Ironi.

Utöver det har du inte förklarat varför "the alignment problem" är ett problem till att börja med, för det är definitiv inget konsensus om det.

Dels tycker jag att du är motsägelse full. Å ena sidan så hävdar du att dagens LLM "inte förstår något", vilket är korrekt. De LLM som vi känner idag kan endast sägas ha en funktionell förståelse, inte en mänsklig medveten sådan. Dvs. De kan "bedöma" kontext i enskilda aktiva chat-trådar och i förekommande fall läsa "custom Instructions", i relation till innehållet i deras meningsrymd och därmed ge en out-put som kan, eller inte kan, framstå som vettig, men som inte kan jämföras med mänsklig förståelse. Å andra sidan framställer du denna skillnad som ett "hot ifrån alien".! Tycker inte du att det är lite märkligt?

I dagens läge så existerar inget "alligement problem". Dvs. dagensAI modeller utgör, i sig själva inte något hot emot mänskligheten. Det möjliga hotet utgörs möjligtvis av människor, med onda avsikter, som använder sig av modellerna.

Men, samtidigt" så går AI-utvecklingen väldigt snabbt nu. Så det går inte att utesluta att det framöver kan komma medvetet socialt AI med egna intentioner, och då kan vi ha ett verkligt "AI-alligement problem". Det är i detta sammanhang jag pekat på att, då, kan det behövas tvärvetenskapligt samarbete, in broms inga av utveckling av mer kapabla modeller och en längre träningspsus av mer kapabla modeller. Men vi har inte nått AGI ännu och absolut inte ASI. Vi har inte ens nått svagt AGI, dvs en modell som klarar av Kognetiv arbete som anställda med Kognetiva arbetsuppgifter klarar motsvarande deras 50:de percentill-nivå.

Men det är ändå värt att påminna oss att även dagens LLM kommunicerar med oss på ett språkligt sätt som vi finner naturligt. Att de har organiserat sin meningsrymd så att de kan ha en begränsad funktionell "förståelse" för mänsklig kontext. Att de utifrån detta kan sägas vara sociala modeller.

Vad gäller hur dessa modeller fungerar på en basal grundläggande nivå, jämfört med oss människor, så finns det, mycket troligt, både likheter och skillnader:

Vi vet fortfarande lite om hur vi fungerar på basal nivå. Det finns ingen kunskap om hur och varför våra grundläggande hjärnfunktioner resulterar i högre mentala förmågor. Vi vet att både vår hjärna och LLM är uppbyggda av neurala nätverk på olika metanivåer, (logiska nivåer). Vi vet att både våra hjärnor och LLM arbetar med att generalisera. Mycket troligt arbetar vi, i grunden, liksom LLM, med matematiska sannolikhetsberäkningar. Dessutom spelar språk en stor roll hos både LLM och hos oss vad gäller att förstå kontext och för tänkande överhuvudtaget. Att det mycket troligt är så bevisas av att ANN i allmänhet och LLM i synnerhet, ens fungerar.

Men skillnaden mellan vår hjärna och dagens LLM är ändå enorm. Modellerna saknar bl. a. förmåga till självreflektion, har endast en ytterst begränsad minnesfunktion, saknar funktion för sammanatällning av historisk, nuvarande och framtida lägesbilder, (förutom deras egen begränsade funktionella förståelse av kontext i aktuell chat-tråd). LLM arbetar linjärt med tokens och kan inte se felaktig out-put, med mindre än att det påpekas för dem. Deras sannolikhetsinställningar, (temperaturinställningar), görs utifrån. Parametrarna blir låsta efter fin-justeringen.

Nej. Det enda du skrivit i tråden är följande:

1) Det finns inga risker med AI (utan motivering)
2) Förolämpningar och taffliga försök till karaktärsmord av meningsmotståndare (se ditt tidigare inlägg om Geoffrery Hinton)

Det enda man behöver skriva under på för att alignment problem är verkligt är två antaganden.
1) Människan kommer fortsätta göra framsteg inom AI.
2) Det är möjligt att skapa intelligens i ett material som inte är organiskt (som våra hjärnor).

Det finns inget motsägelsefullt här överhuvudtaget. Vår diskussion handlade aldrig om LLMs, och det vet du, utan snarare vad som kommer komma i framtiden i form av riktigt AGI/ASI. Detta var jag väldigt tydlig med. Hur dagens LLMs fungerar är helt irrelevant för den diskussionen. Varför försöker du nu låtsas som att jag argumenterat för att dagens LLMs skulle vara något större hot?

Jag väntar fortfarande på att du ska besvara varför du tycker det är rationellt att förlita sig på att beteendevetenskap som studerar människor ska lösa the alignment problem hos en entitet som inte är en människa.

Hur ska detta gå till? Något hum om hur det ska gå till måste du ha eftersom att du sätter en sådan extremt hög tilltro i beteendevetenskapen i det här avseendet.

Du har inte läst tråden speciellt noga om det är din kontenta av 175 sidor.

Dessutom har du någon mental störning om du ser mitt inlägg av Geoffrey (stavas med ett R) Hintons egna twitt som ett försök till "karaktärsmord", för övrigt är han ingen meningsmotståndare.

Jag bryr mig inte minsta lilla om era små protester på flashback, precis som hela forskarvärlden och framförallt all kapitalism, om du är så fruktansvärt dum att du tror så kanske det är dags för en reality check.

Inget av argumenten du lägger fram som "alignment problem" är underlag för att skriva på, jag tror på båda två och finner ingen som helst anledning att oroa mig över AI utvecklingen.