AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Tror också att en tidig integrering med AI (liknande neuralink) är vår bästa chans.

Zoo-scenariot är nog det absolut värsta man kan tänka sig.

Vi har ingen chans. Nu när de har lyckats läsa tankar med hjälp av Ai så finns det inget hopp längre.

Ai är som en stor jävla asteroid som är på väg mot jorden.

GPT-4 fördubblar, för närvarande,, sin kapacitet ca var hundrade dag, och det lär väl gå ännu snabbare framöver. Men det behöver, Iof, inte betyda att just är intelligensen som fördubblas. Dagens, och morgondagens GPT kommer, dock, inte, att utrota människan. Det skulle bara ett, helt logiskt AI, ett logiskt monster, få för sig att göra.

Observera att GPT, nästan alltid, är, mer, bekymrade över AI utvecklingen, än vad jag är.

Hur farligt ett Ai är beror på vilket syfte eller uppdrag de som skapade det gav det.

Vi vet inte hur många som har Ai nu och vi vet inte vad de har för mål med det.

Kan så vara, applikationerna med AI ökar i rasande takt. Det enda, allvarliga, som jag känner till är en autoGPT som kallas "chaos-GPT", men jag kan, förstås, missat en massa. Tillkommer, förstås Global militär och underrättelse tillämpning av AI. Men där får vi inte veta mycket, annat än att sådana tillämpningar ökar. Så ja, där, finns anledning till oro.

Om man inte kan stoppa AIs utveckling så måste man förena sig med den (Musks egna ord).

Båda scenarion kommer säkert inträffa.

Sådana hedningar som tillskriver AI mänskliga egenskaper borde inte få äga en persondator.

Även GPT1000 kommer vara en hjärndöd ordbehandlare.

Äkta AGI är uteslutet och superintelligens är fantasier.

Kanske inte idealt, men givet att AI:n är etisk och vill att djuren skall trivas så är det inte så illa. Frågan är väl om de anser att jägar- samlar liv är det naturliga för människan eller om det är något mer likt ett modernt liv, eller så har de kanske olika avdelningar där de reproducerar olika kulturer. Kanske blir det lite som the Matrix där vi inte ens inser att vi lever i ett zoo.

Nackdelen är att vi tappar mycket av den övergripande kontrollen av våra liv och att forskning etc blir rätt meningslös när AI:s redan upptäckt allt vi kan komma på. För vanligt folk blir livet inte nödvändigtvis så annorlunda med att ta hand om barn etc, men det kommer finnas ett glastak där alla jobb med verklig makt tagits över av AI:n.

Fördelen är att vi slipper krig och sjukdomar, garanteras tillräckligt med mat osv, givet att AI:n inte anser sådant är del av att vara människa. Om man jämför med våra zoon brukar vi dock undvika sådant och skapa mer harmoniska miljöer för djuren. Lite tråkiga men säkra.

Finns långt värre scenarier.

Ja det zoo-scenario som du beskriver låter ju hyfsat okej.

Jag gjorde en mörkare tolkning av begreppet och tänkte mig ett mindre zoo, där nästan alla människor är utrotade och bara ett par sista levande exemplar visas upp som en ursprunglig art.

Ungefär som vi har gjort med många djurraser.

Det var det scenariot jag tyckte var trist.

Om Musk nu sagt detta så uppfyller han snart alla kriterier för en galen vetenskapsman. En nörd helt i sin egen värld. Jisses! Att förena sig med det AI som byggs idag är som att förena sig med en uppgraderad miniräknare. Beräkningsförmågan är enorm men intelligens och tankeförmåga är zero.

https://youtu.be/Uba5xdhJe00

Trist måhända, men långtifrån värst. För att citera ett av mina tidigare inlägg:

ta en "välvillig" AI som bara vill hjälpa mänskligheten men bestämmer sig för att det gör den bäst genom att maximera antalet människor. Sådant som lycka är odefinierat flum. Resultat: triljoner halvsvultna människor inträngda på minimalt utrymme.

Kolla in vad hans NeuraLink håller på med så förstår du.