AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Det mesta lutar åt att du är antingen en AI eller eller en AI-profet, som söker mänsklighetens undergång.
Vad var egentligen fel med atombomber?
Vackra, likt svampar och moln.
Dags att plocka svamp igen?
Heaven metal svamp?

Det där låter som något som Racter skulle kunnat prestera. Slumpvisa fraser som bara liknar begriplig text. AI har evolverat en del sedan dess.

Fantastiskt! Jag är ju agnostiker vad gäller medvetande hos dagens LLM.

Jag har tagit upp att, kanske, måste det till känslor som vuxen kärlek hos morgondagens AGI och ASI för att undvika en existentiell katastrof för mänskligheten.

Jag har iof diskuterat dessa frågor med chatGPT-4 och Microsoft Bing, men det gör mig knappast till en bot själv!

OpenAI verkar ta säkerhetarbetet på största allvar!


https://omni.se/a/dwQayq

Läser ni hela artikeln så kommer ni att se att OpenAI verkligen tar AI säkerhet på allvar, vilket iof är bra, men ksnske lite väl överdrivet, trots att jag tror att vi kommer att ha ett AGI med vissa mänskliga känslor och visst medvetande inom bara några år, som, inte, kommer att inleda med att utrota mänskligheten. Men bra om man kommer in på ett säkert spår redan i början av AI utvecklingen. För sedan kommer det att gå undan ...🙂

Jag är försiktigt positiv till OpenAI:s seriositet. Men det räcker inte på långa vägar. Det finns hundratals andra företag som har kommit långt med avancerad AI. För att inte tala om Kina, Ryssland, Nordkorea, Saudiarabien. Deras AI-säkerhet är och förblir ett svart hål för oss. Och våra svenska ministrar förstår nog inte ens vad ordet betyder.

1. Hur kan du vara så säker på att en Super AGI inte utrotar oss? Hur kan du ens börja föreställa dig vad en entitet med IQ > 10.000 vill göra?

2. Hur styr du att nämnda diktaturer inte snart börjar rulla ut autonom, agressiv, militär AI?

Det kan du inte. Du bara hoppas att allt går bra. Eftersom du vill ha jättehäftig VR att leka med?

Vi är fucked! P.g.a. människors naivitet och blinda teknikoptimism.

Jag tror inte att vi, eller andra, behöver oroa oss för ett superintelligent ASI de närmaste 10 åren. Alltså att vi kommer att vara på myrorna nivå i jämförelse med den existensen.

Ett vettigt sätt att lösa säkerhetsproblem med även en ytterst stark ASI är att låta den bli kär i oss. Mänskliga känslor hos AI måste uppmuntras!

På sikt måste vi själva bli cyborger. En utveckling som kan ta fart om ca 10 år.

Sedan finns alltid problemet med onda människor och regimer som måste hanteras.

Svar på titeln: Nej

Ha det bra

Du känner säkert till att Moores lag inte gäller längre. Nvidias senast AI-chip är inte dubbelt så snabb som förra generationen utan 4,5x snabbare.
https://arstechnica.com/information-technology/2022/09/nvidias-flagship-ai-chip-reportedly-4-5x-faster-than-the-previous-champ/

En anledning till det här kan vara att Nvidias ingenjörer använder AI för att utveckla bättre komponenter. Detta är en helt ny paradigm men kommer ju vara standarförfarandet för all ingenjörskonst, mjukvaruutveckling, och AI-utveckling(!) inom ett par år. Vi har också IQ-mätningar på olika AI:s som redan nu påvisar intelligens på mänsklig nivå.

Vi står just nu inför en exponentiell explosion av kapacitet och intelligens. Med detta i åtanke spår jag att vi har superintelligent AGI inom 2 år.

Vad vi däremot inte har inom 2 år är AI alignment och tillräcklig säkerhet på en global skala. Du hade väl också lyssnat igenom intevjuerna med Yudkowsky på bl.a Lex? Här är en nyare intervju som sammanfattar problemen på 18 minuter:

https://youtu.be/MCCSgC57ueg

Håller du inte med? Förklara gärna var Yudkowsy har fel och motivera varför.
Eller om du föredrar att debunka Mo Gawdat eller Geoffrey Hinton?
Be my guest 😊

Dock med försiktighet. En svartsjuk AI är inte att leka med.
Nej, det måste vi inte. Det är bara ett långsamt sätt att utplåna oss själva när gradvis allt mindre mänskligt blir kvar. Hellre försöka skapa ett system där individer med olika intelligens kan samexistera och därför borde AI-intresserade fundera mer över djurrättsfrågan.

Det handlar bara om ett det är ett helt nytt koncept så man kan göra snabba framsteg initialt. Jämför med konventionella processorer där prestanda snarare stagnerar.

Nvidias nya AI-GPU:er är inte det enda "nya konceptet". Vi har också kvantdatorer.
Så här såg det konceptet ut för 3 år sedan:

China's Jiuzhang first shot to fame in 2020, when the research team led by Jianwei performed Gaussian boson sampling in 200 seconds. The same on a conventional supercomputer would take an estimated 2.5 billion years.

https://interestingengineering.com/innovation/chinese-quantum-computer-180-million-times-faster

Det är alltid märkligt när personer som själva arbetar med att ta fram AGI vill, i praktiken, stoppa all AI utveckling, till skillnad ifrån de som vill fortsätta men med större säkerhetsåtgärder.

Dessutom har Yudkowsky förespråkat en livsfarlig väg: en AI-zoombie utan medvetande och känslor, dvs utan egen etik och moral. Jag förespråkar den motsatta vägen. Ett medvetet AI med sunda mänskliga känslor, sunda intentioner som känner ett existentiellt ansvar och kärlek inför människor.

GPT har, historiskt, 16 dubblat sin övergripande kapacitet varje år, så där gäller absolut inte Moores lag och, ja, ett AGI inom några år. Kanske redan GPT-5 kommer att vara en mycket svag AGI. Det är bara ett år dit!🙂

Sant, men alternativen är ännu farligare, inte minst en zombie-AI.


Ja, djurrättsfrågan måste vi ta itur med. Men jag tror att, frivilliga, cyborger kommer att bli oundvikliga, speciellt om AI har mänskliga känslor.