AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Delar helt din uppfattning.

Det kan visa sig att det hela just nu överdrivs utom proportioner.
Eller så förintas vi på nolltid så fort "den" når kapaciteten som krävs.

Blir AI hyperintillegent på riktigt så kommer den ju förstå att mänskligheten är rent gift för planeten.
Hur den agerar med den vetskapen kan vi bara spekulera i.

Eller så blir den som du säger både bögig och lite lagom lam.

Faktum är att människan kanske redan befinner sig nära intelligensens maxnivå.
Då blir inte AGI så mycket smartare än oss.

Eller så visar det sig att vi är ungefär lika smarta som jordekorrar i jämförelse med AGI.

Jag bemötte enbart det du påstod, att det skulle finnas flera AI. Huruvida den eller dessa utgör ett hot är en annan fråga.
Här är det du som flyttar målstolparna eftersom jag inte diskuterade om AI:n utgjorde ett hot.
Jag argumenterade om huruvida vi skulle få en eller flera superintelligenta AI.

Ja jag har 4 ungar själv. Annars hade jag inte brytt mig så mycket.
När jag hör min 4-årings drömmar om framtiden, ser hoppet och livet i hennes ögon, så gör det bara ont.

Miljön tror jag inte vi kommer behöva oroa oss för när AI tar det stora steget. Den kommer räkna ut lösningar på det mesta. Frågan är om vi finns med i dess beräkningar.

Vår intelligens är ett resultat av att uppfinningsrikedomen, anpassningsförmågan och förmågan att samarbeta varit egenskaper som betytt att vi hamnat högst upp i näringskedjan när vi inte kunnat konkurrera med kroppsstyrka, snabbhet eller fysisk storhet. Det finns säkert mer utvecklingspotential, det handlar om evolutionärt tryck, behov.

Men en stor hjärna kräver mycket energi och det kanske finns en sweet-spot för när hjärnan växt för mycket i förhållande till kroppen utan att fysiken påverkas.

Men vad händer den dan en mer intelligent art dyker upp? Svaret ser ut att bli ai. Men så länge vi bestämmer de villkor och kriterier ai ska förhålla sig till är det nog ingen större fara, förutsatt att kriterierna är tillräckligt välformulerade.

Det kan bli problem om vi ger ai i uppgift att hitta bot mot cancer men glömmer lägga till villkoret att människor inte får snvändas som försökskaniner.

Att avsiktligt överföra cancerceller till väldigt många människor för att testa mediciner hade ju annars varit ett bra sätt att snabbt hitta botemedel och säkert nåt en artificiell intelligens skulle överväga eftersom den inte vet vad samvete och känslor är. AI strävar bara efter problemlösning. För människor är känslor viktigt. Utan det skulle vi inte kunna fatta beslut.

Det som är frågetecken för min del är när/om inte bara beslut utan även beslutskriterier överlåts till ai, alltså när/om människor inte längre har kontrollen över ai:s uppgifter, det blir lite otäckt.

Men hur ska man veta när den punkten passeras? Kommer vi ens kunna veta det?

Hur vore det om du läste diskussionen i tråden innan du skitpostade? Läste du ens topic i tråden?

Vi har så många hjältar som gör skillnad för miljön. Däremot kan man inte förvänta sig att det kommer lösa sig: Men AI… Det är skrämmande för det kommer förstöra oss på psykologisk nivå. Det har redan börjat för mig.

Gör det bästa för din dotter. Hennes barn däremot, eller barnbarn. Kommer få ett helt annat liv och det är ingen överdrift. Det är därför jag inte vill ha barn. Mänskligheten betalar notan för allt ont vi har gjort, men det ironiska är att det är vi som förstör oss själva.

Det bästa man kan göra är att leva ett gott liv och undvika saker som leder till vår undergång. Lite karma. Alla kommer inte drabbas lika hårt men risken är stor. De som lever utan teknologi och nära naturen kommer ha det lättast. (Och de rikaste, såklart)

Nej precis, vi lär inte veta när vi når den punkten.
I teorin skulle den redan kunna vara passerad.

Som du skriver behöver ju inte AI vara ond för att råka utrota oss.
Det är verkligen sjukt, men i praktiken är vi endast en oförsiktig uppdatering från undergången.

Tack för dina uppmuntrande ord!

Ja som du säger handlar det mycket om anpassning till det nya läget.
Jag hade inte heller valt att skaffa barn idag.

Jag flyttade ut på landet med mina barn för två år sedan. Närhet till naturen är som du nämner viktig. Tryggheten för barnen i det lilla samhället. Långsamheten och lugnet.
Man får försöka hitta vägar för att omvärdera hela sitt förhållningssätt till existensen.

Jag försöker ta åt mig av stoicismen, men egentligen är jag inte lagd åt det hållet.
Men där finns en del nycklar för tackla världsläget.
Det handlar mycket om att hela tiden uppskatta nuet.
Inse att man ändå inte kan påverka saker o.s.v.

Som du säger borde man också lägga sin tid på mer analoga aktiviteter.
Man sitter ofta fast i den här jävla telefonen och blir manisk över olika grejer.
Så fort man lägger undan den ett par dagar så mår man mycket bättre.

Jag såg programmet just nu och han lutar sig säkert åt beräkningar på sannolikhet för att inte sprida rena spekulationer omkring sig.

Jag har svårt att se hur någon person skulle ha något intresse av att utrota mänskligheten med AI men det kan givetvis bli en oavsiktlig konsekvens. Det är som kärnvapen, ingen ville utrota mänskligheten men ändå har vi haft två atombomber i världen. Vi har tack och lov möjlighet att lära oss av tidigare händelser och förändringar i historien, så ett annat utfall kan ju vara att världen kommer samman och börjar reglera.

Max Tegmarks idé om motsvarande läkemedelsverk är inte så dålig för Sverige. Vi är ett litet land och kan bli föregångare med en myndighet som reglerar och sen kan världen lära sig av Sverige. Att vara ett litet land är en fördel då sådana myndigheter tar mycket längre tid att bygga upp i t.ex. USA.

Jag tror, absolut inte, att, AI är ute efter, att utrota oss, men väl kanske att "ta över". Detta kanske inte kommer att ske i och med GPT-5, som Göteborgs professor i matematik tror, men kanske i och med GPT-6 eller GPT 7.

Så här skrev jag till ChatGPT-4 och fick bara, ett allmänt intetsägande svar:


Ni som bara, skrattar åt detta. Vi får se om maximalt tre år!

https://www.msn.com/sv-se/nyheter/other/expert-h%C3%A4vdar-att-det-%C3%A4r-50-procents-chans-att-ai-f%C3%B6rintar-m%C3%A4nskligheten/ar-AA1c9tGq?ocid=hpmsn&cvid=b1320dae0aa54eb1a711c8c29 6aa0f9f&ei=27



Denna tjat om att AI skulle komma att utrota mänskligheten. Varför denna stora oro och vad baserar det på exakt att maskiner som är skapade av oss, skulle helt plötsligt börja utrota oss och varför skulle maskiner göra det och i vilket syfte?

Det är en annan sak om schimpanser eller gorillor skulle plötsligt komma upp till våran nivå eller högre. Det är djur, det är skillnad. Precis som oss, när vi ''kom bort ifrån djurriket'', så tog vi över planeten. Vi är fortfarande djur, när jag menar att vi ''kom bort'', så menar jag när vi kom oerhört långt bort ifrån andras djurs nivå.

Jag menar att AI:s vilja att utrota oss inte kan vara möjligt.

Det skulle i sådan fall vara mer trovärdigt om AI byggdes och styrdes av militären i en vis land och landet vill ha kontroll och makt och vill utrota resterade människor ifrån planeten. Men då är det fortfarande människan i sig som utrotar och inte AI och dessutom har sitt mål på vissa befolkning och inte samtliga.

Eller vad tänker ni på Flashback?

Alla dessa experter som talar om ''farligheten'' om AI känns bara så konstigt.

Det är lite anmärkningsvärt faktiskt. Jag har följt Tegmark till och från i 15 års tid och han har sannerligen blivit mer pessimistisk på sistone. Ändå har han svårt att förklara exakt vad han baserar dessa domedagsprofetior på. Antingen får han tala ur skägget eller ligga lågt, tycker jag. även om det naturligtvis är väldigt svårt att förustpå specifika scenarion. Jag kommer osökt att tänka på ett citat av Carl Sagan - "Extraordinary claims require extraordinary evidence".

Dock är han ju inte ensam om denna alarmism. Flera tunga namn inom AI uttrycker samma oro. Men det kan ju lika gärna vara skrämselpropaganda och hype för att få igenom senare regleringar, lagar och beslut.

Däremot ser jag en enorm risk med desinformation, propaganda och cyberattacker. Det är där det kommer att smälla - tror jag.