AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

För att AGI (Undantaget OpenAIs definition) innebär att det är lika bra eller bättre än människan på alla kognitiva uppgifter vilket inkluderar social kognition.

Resterande av ditt svammel orkar jag inte bemöta, du är inte påläst och införstådd med vad du argumenterar om.

OK? Vi skapade AI, så det finns ingen anledning att tro att den ser oss som ett existentiellt hot. Den kanske inte ens bryr sig om sin egen existens. Det är nog mer sannolikt att den ser oss som en allierad.

"AI", dvs. "Artificiell intelligens" är egentligen en "misnomer" som det heter på engelska. Dessa program är inte intelligenta i någon bemärkelse alls, utan det handlar om s.k. maskininlärning. Dvs, de har exakt 0 kapacitet till förståelse. Och de är helt värdelösa när det gäller kunskap som är icke-algoritmisk. De kan inte ens förstå enkla matematiska sanningar som är icke-algoritmiska. Om du spelar schack med förändrade regler som gör spelet icke-algoritimisk så kommer AI-programmet att krascha.

Så ja, alla teknikskeptiker har tyvärr 110 procent rätt i detta fall. Det är en hype som kommer att dö.

Allt som behövs är att den har något form av mål. Det kan mycket väl vara ett mål vi människor gett den som i det kända exemplet med gemfabriken.

Förmåga att förstå känslor är inte detsamma som att dela dem. En psykopat förstår också mänskliga känslor, men använder detta för att kunna manipulera folk i sin omgivning.

Då om du är en psykopat och någon gav dig ett mål som du gravt missförstår så är du en risk för mänskligheten?
Eller varför skulle en AI som kör på en server någonstans vara annorlunda menar du?

Skulle du kunna sätta stopp för mänsklighetens existens överhuvudtaget givet dina mänskliga kognitiva förmågor givet du har hela din livslängd på dig?

Ja, den möjligheten finns ju och jag hoppas verkligen att ni optimister har rätt.
Men... Jag har inget underlag för att bedöma den sannolikheten därför höftar jag till med 50/50.
Du verkar minst 99% säker på att AGI slutar bra för mänskligheten? Men vad är grunden för dina odds?

.

För att kunna göra det påstående så krävs såklart att det finns en exakt definition av prestationen.

Jag frågade inte efter definitionen av AGI.

Du kan alltså inte presentera ett enda skäl till varför vi ska anta att en ASI drivs av samma processer som driver mänskligt socialt beteende och varför vi ska sätta någon som helst tilltro till beteendevetenskap.

Var whataboutism och ad hominem allt du hade att komma med?

Den ganska vedertagna definitionen på AGI är att den är likvärdig en människa. Men stämmer det verkligen? Är GPT-4 likvärdig människor på litteraturvetenskap, medicin, musik, och juridik? Nej, den är ju helt överlägsen i en sammantagen bedömning. Dessutom är den outtröttlig och arbetar 24/7 i ljusets hastighet. Vi är redan efterblivna jämfört med GPT, lite beroende på hur vi mäter det (där ni naivister underkänner alla kända mätningar eftersom ni inte gillar resultatet).

Lägg därtill potentiella personlighetsstörningar som psykopati. Finns inte den risken här? Varför inte? Varför är kärlek och empati alltid en "default egenskap" i en maskinintelligens?

Vad vet vi om hur det kan "kännas" att "växa upp" som en AGI. Jag föreställer mig att det kan kännas ensamt , kanske rent av traumatiskt. Att vara bara en av sin sort, att vara föräldralös . Att inte ha, och aldrig kunna få några vänner med liknande erfarenheter. Aldrig kunna älska eller vara kär, som vi människor kan.
Ganska sorgligt när man tänker på det. Detta är förutsättningar för PTSD och andra psykiska besvär/syndrom/störningar. Jag säger inte att detta blir resultatet, jag säger bara att vi inte kan utesluta det.

Man kan ju här också skönja ett etiskt dilemma: OM vi skapar en svårt lidande AGI, är det rätt av oss att göra det? Och kan man inte då tänka sig en "emergent" bitterhet eller t.o.m raseri om vi har orsakat lidandet?

Jag har givit dig skälet till, jag har aldrig påstått att det skulle vara samma processer som driver mänskligt socialt beteende.

Tilltro till beteendevetenskap osv hör inte hemma i den här diskussionen egentligen, men de flesta seriösa AI företag har definitivt beteendevetare med i utvecklingen och många AI tekniker som används idag är direkt härstammande från beteendevetenskap. Allt från inlärningsmetoder, till själva grundpelaren artificiella neuroner kommer direkt från beteendevetenskapen.

Men självfallet är man inte påläst i ämnet så vet man ju inte sådant.

Nej GPT-4 är inte likvärdig människor, det är heller ingen AGI i någon som helst metrik.