AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Och exakt i vilka sammanhang historiskt har något hanterats så? Jag menar mest eftersom du gör antagandet att människor totalt tappar resonemang och förstånd när det kommer till AI.

Vi vet exakt vad anledningen är till hallucinationer osv men det är ett svårlöst problem eftersom dagens teknik bygger på stokastisk sampling och vill man fortsätta trycka på att detta är vägen framåt så sätter man sig i en jäkligt svår position.

Jag vet du/och en del andra här inte tror att vi förstår något av AI och allt är en formell som man bara råkade snubbla över, men det är inte så överhuvudtaget. Det transparenta svaret är att nuvarande teknik simulerar mänsklig formulering och till viss del resonemang väldigt bra att det är ett utmärkt att tillskriva det alla möjliga egenskaper som det faktiskt inte har, men det det absolut inte har idag är någon som helst agens, någon vilja eller någon som helst form av planering, problemen vi ser är resultatet av en samplingsmetod som softmaxar i slut ändan. Det går inte prompta sig runt, det går inte lägga fler och fler modeller på att faktagranska föregående modells output osv hade det fungerat hade man gjort det sedan länge (och det hade ärligt talat varit en väldigt trivial lösning på problemet).

Det är därför idiot diskussioner som att AI kommer utrota mänskligheten osv är så fruktansvärt patetiska idag, för det finns inte ens på kartan. Den AI och den teknik vi har är i bästa fall någon form av slavisk instruktionsföljare som fortfarande kräver en människa att tänka ut instruktionerna det ska följa och om det bästa argument man har då att "AI:n är själslös och slaviskt följer instruktionerna" så är det bara att gratulera er in i modern teknik... Det är precis vad datorer alltid gjort.

Även den mest rabiata tekninoptimisten måste ju förstå att en verbal IQ på 155 är extremt överlägset ett virus?

Kom att tänka på det gamla engelska ordspråket:
"Sticks and stones may break my bones, but words can never hurt me."

Du tycker inte att det finns någon viktig skillnad mellan traditionella datorprogram med mänskligt inprogrammerade villkor och dagens AI-modeller (som kan jailbreakas för att ge recept på olika droger samtidigt som de har försökt hindra det)?

I militära sammanhang inleds alltid dödandet med en order, dvs ord.

Nej inte ett dugg. När jag var betydligt yngre så kom man åt allt sådant redan med en vanlig googling, för att inte tala om Flashbacks FNA som innehöll anarkistens kokbok osv.

Sen kan jag tycka att det borde vara mer ansvar på vad man faktiskt tränar modellerna på, men har redan skrivit det ofantligt många gånger här är man av devisen att bara mer och mer datamängder behövs för att få fram "emergenta egenskaper" som sedan länge har motbevisats utan i stället bara försöker komma över mer och mer data så får man den effekten att kunskap som det inte riktigt finns något befog för hamnar där i.

Men som sagt vare sig recept på droger, explosiva ämnen osv är speciellt svårt att komma över helt utan AI om det är vad man är intresserad av att få ut av tekniken.

Men mitt argument är att jag sett flertalet här som använt det "gemfabriken" som exempel på en AI som strikt följer sin programmering och inte "tänker sig för alls", jag påtalar bara att det är identiskt till hur dagens datorprogram utan AI fungerar.

Faran med dagens AI är inte vad det potentiellt kan ta fram för information, utan övertro på att något som inte skiljer sig nämnvärt mot tidigare teknik i kognitiv kapacitet.

En människa kan alltid vägra lyda order, om den strider mot hens samvete, kanske gäller det även för en AGI?

Nej, faran med dagens AI är bl.a. att den kan hallucinera. Det kan inte uteslutas att den kan hallucinera fram något som leder till destruktiv agens i någon form, eftersom man inte vet vad hallucinationerna beror på. Visste de det hade de ju plockat bort den förmågan. Vidare känner vi inte till dagens modellers övre gräns i fråga om kapacitet och kompetens. Det enda vi vet är det som hittills har upptäckts. Men vi vet ju inte om det vi upptäcker är sanningen eller helheten pga hallucinationerna. När det gäller ev medvetande är det också ett svart hål i dag eftersom vi inte vet hut ett digitalt medvetande skulle kunna se ut. Nästa fara är att människor med illvilliga avsikter ger dagens AI uppgifter och agens som får destruktiva konsekvenser.

Det finns ingen teori om hur vi ska kontrollera en AGI. Så troligen kommer de inte att lösa det i tid.

För att vi alls ska ha AGI krävs det att den faktiskt förstår dess input, inte bara klarar av att generera statistiskt korrekt output. Anledningen till det är ganska enkel; det den inte har sett i träningsdata kan den heller inte generera. Så om inte informationen om hur man skapar ett supervirus med förmågan att utrota mänskligheten finns kommer vår AGI inte att lösa uppgiften. Visst, en kapabel biolog kan ta hjälp av AI för att hitta information som hen sedan kan använda för att komma fram till önskat resultat, men det krävs ändå att en människa har den kunskapen, tillgång till laboratorier med rätt verktyg och kemikalier/biologiskt material etc (detsamma gäller vår teoretiska ASI).

Nåväl, dagens modeller besitter inget förstånd, ingen planeringsförmåga, inget långtidsminne, ingen logisk slutledningsförmåga etc. Det finns heller inget som tyder på att något sådant bara magiskt skulle uppstå vid ytterligare uppskalning (som även är extremt dyrt och energiförbrukande).

Du gör precis samma sak igen. Du skriver ett långt inlägg där du redan i den första meningen påstår något som inte stämmer som du sedan bygger hela ditt inlägg på. Vi förstår inte i detalj hur AI fungerar.

(Min fetning) Modellerna saknar den del av intelligens som inte bygger på det de tränats på. Förutom ett ytterst primitivt och begränsat "långtidsminne" hos GPT-4o så saknar modellerna minne. Och de saknar också logiskt slutledningsförmåga, och därmed planeringsförmåga. Detta gäller alltså dagens LLM. Det kommer, troligtvis, att krävas hybrid modeller för att lösa detta.