AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Du menar väl ändå att Elon Musk (med förlov sagt en ytterst stor pratkvarn) skriver på Twitter om att han vill införa humanoida robotar på Teslas fabriker, så snart Teslas egna sådana är färdiga (oklart när)?

[quote=Cyborg2030|88634288]OK. Och hur skulle ett filosofiskt utkast kunna se ut i frågan om hur vi överlistar en AGI som är smartare än oss?
Jag vet inte, men det finns tid för forskarna att lista ut det.

Nej, det är transformer-arkitekturen som medförde att världen imponerades av ChatGPT. Uppskalning har gjort modellerna bättre, men det finns ingen anledning att tro att ytterligare uppskalning magiskt kommer medföra att modellerna lär sig att resonera eller får ett medvetande.

Oh, really? Det jag menar är att det är meningslöst att sitta och gissa hur framtidens teknologi kommer att se ut eftersom vi med allra största sannolikhet kommer att ha fel.

Självklart gör jag det. Men dåtidens experter trodde på allvar att tekniken som fanns då bara var några år (någon trodde 20-30 år, vilket skulle varit för ca 10 år sedan) bort ifrån att bli medveten och ta över världen. Det är lätt att bli fartblind och tro att man står inför en exponentiell utveckling när man i själva verket bara befinner sig precis innan en platå.

Om vi leker med tanken nu och säger att jag har rätt i att enbart uppskalning inte är tillräckligt. Vad säger att vi kommer att hitta nyckeln till AGI inom fem, tio, femtio eller hundra år? Eller så vänder vi på det och säger att det visst räcker med enbart uppskalning. Hur många år tar det för resten av infrastrukturen att komma upp i den nivå som behövs för att klara av energiförsörjningen, alternativt helt omintetgöra problemet genom teknologiska avancemang som t.ex. kall fusion och liknande?

Det beror på vilket tidsperspektiv man anlägger, hur mycket man måste vara eniga om och om hela mänskligheten måste vara enig vid samma tidpunkt.




Absolut brister där. Men FN-stadgan är väl första gången som en mycket stor andel mänskligheten skrivit under på grundläggande principer. Ett annat exempel är Paris-avtalet. När det kommer till AI så har EU lagstiftning som snart kommer att börja implementeras. Internationella möten har hållits. OECD har kommit med rekommenderar för medlemsländerna.


Hm, jag har heller inte påstått att det skulle vara någon enkel uppgift.


Kanske det, men ingen existentiell katastrof för mänskligheten i sig. Huvudsaken att värderingarna är hållbara över tid och ändå gynnar huvuddelen av mänskligheten.

Nej. Jag menar att robotarna är i drift nu. Om de inte blåljuger om det, men det har jag svårt att tro. Spelar det någon roll? Robotarna kommer att produktionssättas. Det är inte ett dugg viktigt i konteten x-risk om de kom förra veckan eller om 2 år. Det förstår du väl?

Hur vet du att det finns mycket tid kvar? Historiken visar oss att tekniska framsteg inom AI och AI-chip går snabbare nu än vad någon hade kunnat gissa för fem år sedan. Det känns som att du ligger ungefär fem år efter i utvecklingen här. Din inställning hade varit relevant 2019. Men inte 2024.
Ledande experter t.ex. Ilya Sutskever anser att du har fel där.
Det är irrelevant om enbart uppskalning är nödvändigt eller inte, eftersom algoritmerna kommer att utvecklas parallellt. Det finns ingen verklighet som vi känner till där enbart uppskalning händer. Men i halmgubbarnas land där du lever är ju detta bekvämt att föreställa sig?

Det finns många tekniska framsteg som vi kan skönja vid horisonten. Bättre algoritmer, eller andra slags AI än enbart transformers. Kombinationer av transformers och annan teknik. Chip-utveckling som förvånar oss åter igen. Implementationer i kvantdatorer om några år. Hårdvaruutveckling med hjälp av AI, vilket redan är aktuellt. Andra tekniska framsteg som vi inte kan gissa oss till i dag. Det finns ett antal lovande vägar framåt och att någon av vägarna lyckas inom några år menar jag är uppenbart mer sannolikt än att all AI-utveckling stagnerar helt, vilket du verkar luta dig mot eftersom framtiden inte går att bevisa?

Jag tycker det är jättebra att humanoida robotar kan ta industrijobb, även om jag inte tror att Tesla blir först med detta på allvar. Jag skulle vara överlycklig om robotar under min livstid kunde ta över merparten av byggnadskonstruktion, även av kraftverk. Men vi har ändå begränsade resurser på jorden, så fysikaliska realiteter kvarstår - oavsett hur smart AI eventuellt blir och hur robotiserad tillverkningen blir. Robotar kommer nog däremot kunna utöka resursutnyttjandet, t.ex. genom havsbottengruvor där det inte är möjligt för annat än robotar att arbeta.

FN har ju sagt åt Israel och Palestina att sluta kriga nu i flera generationer. Har det hjälpt? Nej, det har inte hjälpt. Vad ska få oss att tro att FN-resolutioner eller stadgar om AI fungerar på Kina och Ryssland med FN:s track record så här långt? Det finns absolut ingen anledning att tro att FN kan lösa detta.

Arc-snillet Francois Chollet som Beneath länkade en intervju till igår säger att OpenAI genom ChatGPT och closed sourcing har försenat utvecklingen mot AGI med 5-10 år. Orsaken är att AI-spelarna numera håller modeller för sig själva, istället för att dela med sig på ett vetenskapligt sätt (det senare skapar typiskt sett snabbare utveckling).

Och med kvällens diskussion har vi konstaterat att verklighetsförankrade forskare inte ser något problem.

Men framförallt att AI forskning kommer fortgå så länge vi kan förbättra den och att det inte är någon med sunt förnuft både inser att det är lönlöst och inte slösar tid på att designa monsterfällor för fantasi skapelser.

Jag tolkade det som huvudpoängen han hade var primärt att ChatGPTs hype gjort att nästan all storskalig "AGI forskning" enbart fokuserar på transformers (som uppenbart inte hanterar ARC) i stället för att försöka utveckla ny teknik.

Men även det andra nämndes som bidragande anledningar, men jag kan missuppfattat hans kommentar.

Robotar är inte begränsade till vår mänsklig biologi som gör det svårt för oss att arbeta och resa i rymden. När vi har automatiserade robotfabriker som bygger robotar som bygger fler robotfabriker kan vi ganska snart expandera detta till månen och mars. Vi är inte alls begränsade till jordens resurser. Som BTW inte alls är slut på långa vägar. Det är bara det att många resurser finns på havsbotten och under glaciärer eller i eländig terräng som öknar och berg och det är inte lönsamt i dag att bedriva gruvdrift överallt. Men om arbetskraften är gratis blir läget väldigt annorlunda.

När jobben försvinner blir UBI oundvikligt och vi når efter det fram till en postekonomi. Då spelar det ungefär ingen roll om någonting är dyrt längre, då handlar det bara om vad vi vill prioritera först. Dvs om vi har kontroll över AGI vilket det inte ser ut som att vi kommer att lyckas med.

Ja, han hade flera synpunkter, bl.a. att GPT/Transformers-hypen "tog syret ut rummet", men poängen var att han anser att AGI försenats med åtskilliga år på grund av GPT, tvärtom vad Cyborg tycks anföra.