När når vi AGI?

Har svårt att tro att vi nånsin kommer dit, även om Musk & Altman verkar tro det.

Visst, den klarar att läsa in ett fullt bibliotek, ha tillgång till den sortens bformation och kunna dra slutsatser osv.
Den kan såklart även lära sig att hantera de flesta slags uppgifter, men därifrån till att klara alla uppgifter som en människa klarar, dit kommer vi inte.

Det är ändå stor skillnad på ettor/nollor och en människa, som man inte kan bygga/programmera bort.

Ja man kan ju alltid fantisera som små barn och man har valt tankesättet allt är möjligt tills motsatsen är bevisad.

Men för att återgå till den tekniska diskussionen…

Det Nvidia demonstrerade igår på CES är väldigt intressant och imponerande om det nu fungerar så bra som de vill framställa, men om de nu lyckas generera så hög kvalitet på syntetisk videodata som de antyder, så kan jag köpa att modellerna kommer bli dramatiskt bättre- speciellt imponerande hur de utifrån verklig sensordata påstod sig kunna rekonstruera vägbanan från riktiga bilar (för inte nog med om den har så bra kvalitet som presenterades så har de ju uppenbarligen uppfunnit världens bästa packalgoritm också… för jag kan inte tänka mig Huang menar att bilarna har radar/lidar/kameror osv och man enbart genererar en massa video…)

Men med det sagt, något som Nvidia definitivt gör och använder AI till helt rimligt och korrekt är till just det att argumentera/interpolera fram riktig data alltså DLSS. Det är något som däremot definitivt fungerar och är ofantligt smart eftersom att får man stabilitet och konsistens i detta så blir det enormt energieffektivt, det är otroligt mycket billigare att slänga på mängders mängder med enkla tensor/matrismultiplicerare än att bygga komplexa ALUs eller tom SMs för att köra CUDA. Så där är en enorm nyckel för att energieffektivisera.

Det är ju bara synd att Nvidia inte kommit på idén att träna fram ett nätverk för att träna modeller, som förutsäger träningsprocessen av nätverken… då hade de ju inte behövt kränga snordyra super komplexa chip för att träna AI och man hade ju inte behövt terabytes av HBM heller eftersom de redan knäckt nöten med världens bästa och snabbaste kompressionsalgoritm.

Det du ska förklara är varför fri vilja inte skulle kunna finnas. Nej fri vilja innebär att du själv väljer i situationer där du har möjlighet att göra det. Som varje gång du går på restaurang och kan välja mellan ett antal rätter osv.

Men de här diskussionerna har inte överhuvudtaget i AI gruppen att göra, så ta nu dina röster i huvudet och ring vårdcentralen.

För att summera det hela:

Vi har inte fri vilja utan fabricerar och simulerar bara det utifrån de sociala roller och förväntningar vi bedömmer andra har på oss.

Exakt samma sak med ett framtida AGI, när det lärt sig fabricera och simulera "mänsklighet" tillräckligt trovärdigt.

I inlägget du citerade stod följande: "Om du har fått en fri vilja då är du styrd av den vilja du har fått, det är raka motsatsen mot fri vilja.".

Fri vilja är en oxymoron

För att summera det hela:

"Vissa datavetare" påminner mest om stokastiska papegojor, helt oförmögna att se något utanför sin egna snäva tekniska ramar. Därför är det mer givande att diskutera med ChatGPT-4o, som tros att boten, i huvudsak, bara försöker uppfylla användarens förväntningar och är, naturligtvis, inte, ännu självmedveten, ens på simulerat vis.

Dock skall du ha credit för att du skrivit om Nvidas senaste innovationer. Jag var tvungen att fråga ChatGPT-4o för att fatta något. Men om Nvida har lyckats så kan det få stor betydelse för den fortsatta AI-utvecklingen.

Aha. Sakta kryper verkligheten fram.
Den ÄR alltså inte social, som du brukar hävda.
Den producerar bara text som du anser är trevligt formulerad.
Men texten kommer inte från en tänkande varelse som har personliga egenskaper.
Samt. Om den hade varit medveten och haft sådana egenskaper, kan du ändå inte avgöra det subjektivt från de texter du läser, eftersom en medveten varelse kan vara oärlig och det finns inget sätt att undvika den risken. Dessa slutsatser handlar mer om vad jag kan om psykologi än om teknik.

Förhoppningsvis aldrig. Det är en ren dödsdom för mänskligheten. Kort och gott så kommer det inte något gott ur skapelsen av en digital gud. Det borde även den mest ofilosofiska nöten förstå.

Kan du utveckla varför?

Dödsdom hur? På vilket sätt?

Varför är en digital gud något dåligt?

Jag frågar mig själv ibland att om mänskligheten inte klarar av att hållbart och rationellt styra sig själv, begränsa sig själv (tex vår konsumtion och naturförstörelse), vore det då inte bra om någon utomstående (tex en ASI) gjorde det åt oss? Med resultatet att vi inte utplånade oss själva? Vilket är exakt vad vi är på väg att göra just nu.

AI kanske kommer utrota mänskligheten, men mänskligheten kommer garanterat utrota mänskligheten, för det finns inga tecken på att mänskligheten trots kännedom om riskera är kapabel att dra i bromsen, varken vad gäller antalet kärnvapen, artificiell intelligens, onödig konsumtion, eller farlig vetenskaplig forskning.

Vilka stora skillnader mellan en maskin och människan är det du syftar på?

Min uppfattning är att människor enbart är biologiska maskiner. Som utvecklas via evolutionen, dvs långsam men ständig förändring.

Maskiner däremot utvecklas de också, men snabbt och utan begränsningar av egenskaper hos föregående generation (flygplan behöver inte ha flaxande vingar). Ai har ju utvecklats genom att utgå från hur biologisk intelligens fungerar, men sedan tagit bort biologiska begränsningar (som att vi tex inte kan läsa miljontals böcker och ha dessa i närminnet). Det verkar rimligt att maskinerna kommer kunna överträffa biologin inom precis alla områden.

Dels för att det aldrig kommer skapas en AI utan bias. AI skapat av judar kommer arbeta för att förslava alla andra förutom judar.
Samma med en muslimsk AI. Dessutom, varför ska en digital gud bry sig om något så .enlöst som människan? Finns smartare varelser på jorden. Filosofin går djupt men kontentan är: Tror du på gud nu, hur snäll är han .ed allt jåld, barnporr och elände i världen. Om inte den guden fixar det, varför ska AI? Nazistisk AI, vit AI osv.

Finns så sjukt mycket mer intressanta saker i universum att pula med. Det är den där känslan av att dur lite speciell som lurar dig.

Finns inget scenario där en Agi är till mänsklighetens nytta.

Specialiserade AI:n däremot kommer tjäna oss väl. Lösa fysiken alla gåtor osv.

Förutsatt ett vi inte befinner oss i en simulation redan, vilket det finns en del bra argument för..

Jag håller med om att om det finns en gud, så är det en grym gud, och det här livet vi lever mer liknar helvetet än paradiset.

Vad gäller judarna så är jag inte helt övertygad om att de vill utrota oss andra. Däremot kanske de tycker att de är mer lämpade att styra oss andra, men att de av oss som visar oss värdiga respekteras av dom. De kanske känner så pga sin historia, och en vilja att undvika att upprepa historia där judarna behandlats illa.

Om ai tar över kontrollen, så kanske mänskligheten kan resa ute i universum och göra spännande saker, men mer som ett husdjur än som ledare av expeditioner eftersom ai är en överlägsen ledare i kraft av sin större intelligens. Husdjur kan ju vara nyttiga, fånga råttor eller vakta huset, så kommer kanske människor fortsätta vara nyttiga men på en lägre nivå än ai.