AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Det tror jag inte på. Och ingen källa har du heller så klart. Hur går det med din ärlighet?
Jag delar uppfattningen om p(doom) 5-50%.
Visa mig någon som har gjort betydande bidrag till AI Alignment? Du försökte med Shapiro men det gick ju inte så bra för dig. Han hade inget.

Dessutom är det ju i ärlighetens namn inte sannolikt att någon VD löser AI alignment. De jobbar mer övergripande och strategiskt. Och då anser åtminstone jag att en förhöjd riskmedvetenhet är ett steg i rätt riktning. Han vill förhoppningsvis omprioritera från "GPT-Appstore" med lustiga Plugins till IT- och AI-säkerhet.
Det låter som perfekta tekniska förutsättningar för att också ha förmågan ge oärliga svar. Men du verkar inte inneha den moraliska kompassen som säger dig att det kan vara något dåligt? Är du säker på att du är "socialpsykolog" och inte "sociopat"?

Om det enda som återstår är att "definiera en målfunktion" borde vi vara mycket nära AGI nu. Och nej, det är inte säkert att medvetande av mänsklig typ krävs. Och även om vi tror att det krävs har vi ingen säker metod för att hitta det eller utesluta det i en LLM. Förnekare som dig kan i all framtid hävda "nej den är inte medveten" (samtidigt som du jagas av autonoma drönare) eftersom vi inte har vetenskapen för att bevisa en artificiell medvetenhet.

Lägligt nog har frågan ställts och en stor mängd framstående forskare har svarat i denna tweet.

https://twitter.com/davidchalmers42/status/1727023254144188914

Frågan är felställd och bygger på en halmgubbe. Alla förstår ju att uppskalning av LLM inte är den enda pågående aktiviteten inom AI-världen.

Det står ingenstans om något specifik AI arkitektur eller system, det står "who endorses the AGI scaling hypothesis: roughly, that scaling current systems and methods will lead to human-level AGI?"

Ska vi börja med ordmärkeri nu? De mest framgångsrika "current systems and methods" är ju LLM och främst GPT-4. Inte långt bakom finns andra företag med snarlika lösningar t.ex. Metas LLaMa. Med flera. Eller förnekar du detta nu eftersom "du vill ha rätt mot någon på Flashback"? Det är ju detta man syftar på, så klart.

Jag tror på ungefär följande: LLM är den största och viktigaste pusselbiten. Men AGI-utveckling kommer inte att vara begränsad till dagens LLM. Det finns även en uppsjö av smalare AI som används i bl.a. forskning. Man kommer att rikta smalare AI och LLM:s till att utveckla nästa generation som kan vara en kombination av det som finns i dag men även nya uppfinningar som kan komma från AI eller från människor. Eller menar du att AI-branschen har kommit till vägs ände just nu?

Frågan rör alla idag kända AI system och tekniker.

Spelar ingen roll. Han är en av okvallificerad alarmist som drar, sina risk-siffror ur arslet och är för övrigt historia nu.


Du tittade på ett av de förslag han redovisade i klippet och bortser ifrån alla andra förslag som har mänsklig/social/socialpsykologisk/psykologisk grund. LLM är en social entitet och snart kanske även en social existens. Antropic har för övrigt hård-kodat FN:s deklaration om de mänskliga rättigheterna i sin modell, kanske som en universell "Custom Instructions", vad vet jag. I alla fall kanske en liten pusselbit.


Jag har ingen aning om vad den alarmisten, som är historia nu, planerade. Men helt klart är att, det inte hjälpt AI-säkerhetsarbetet om 90 procent av OpenAI:s personal gått över till Microsoft.


Visst, det innebär faror men också möjligheter, som du inte ser eftersom du är autistisk och fattar inte vitsen med vare, sig tillit, social interaktion eller känslor.

Jag tog det första som han rubricerade som lösningen. Eftersom det absolut inte var en lösning fick det räcka där.
Vad bygger du detta på?
Det är väl en bra idé, men hur kan detta ge någon garanti på att deras AI kommer att följa deklarationen? Du är helt fast i ditt önsketänkande. Det börjar bli löjligt nu.
Fler personangrepp som inte biter på mig den här gången heller
Jag kan bara passa på och påminna dig om att en kommande AGI inte är en människa. Därför kan du inte förutsätta att den har "tillit, social interaktion eller känslor" som en normal, väluppfostrad människa. Eller om den är elak, feg, och oärlig som dig.

Jaaaa, vad bjaaa: Du tittade, alltså på det första förslaget och lät bli att titta på resten, vad "vetenskapligt"


Att LLM är en solklar, social entitet av flera orsaker. Därför följer också modellen socialpsykologiska mekanismer. Dessutom pekar min personliga, erfarenheter av modellen på detta.


Har jag påstått att detta skulle vara en universal-lösning. Det är du som är löjlig.


Absolut, det är ingen människa utan ett artificiellt neuralt nätverk som är en social entitet. Men det där med socialt förstår alla sig på som inte lider av autism. Därför en miljon gånger hellre ett socialt LLM än ett hjärndött dataprogram som ni autister, (gäller många alarmister men också många "förnekare", dock inte alla i dessa läger. Vare sig t. ex. Tegmark eller Le Cunn är autister), tror ni kan detalj- kontrollera eller bli utplånade utav socialt AI.

Om en AGI skulle bli "social" efter din förebild, genom återkommande lögner, halmgubbar och personangrepp, blir detta definitivt inte bli bra för mänskligheten. Vidare har du fortfarande inte redovisat någon teknisk detalj om hur forskarna ska få en AI att bli lika vidrig som dig.

Vad ger dessa cirkelresonemang?

Ni har trätt om detta i flera månader när jag varit här, och ingen ändrar sin uppfattning och GPT4 har för den delen inte flytt från GPT4s serverar, är det inte läge att läsa på om AI och bilda sig en förståelse i stället för att spekulera hejvilt och lita på charlataner som Max Tegmark osv som gjort absolut noll för AI.

AI kommer inte under överskådlig tid vara ett enda jäkla bekymmer, vi är inte ens i nivå med ett barns förmåga överlag, utan extrem censur som alla ledande bolag tillämpar är dessa språkmodeller väldigt opålitliga.

Och alla idioter som hänvisar till AlphaGo, AlphaFold osv läs för helvete på vad det handlar om, det är MCTS algoritmer som söker fram den bästa lösningen av en mängd genererade permutationer, de tänker inte "ah jag behöver lägga till det här också så blir det bra", det finns ingen sådan AI idag och man vet inte överhuvudtaget hur man ens kommer dit.

För att förtydliga, Ja en dator är och kommer alltid vara snabbare än en människa på specifika problem, man löser problemen genom bruteforce inte genom intelligens sen slappar man på termen AI och I ett är ett jävla problem för genast tror folk att datorn planerar sina drag, har agendor och motiv. Det har den inte och det borde ni veta vid det här laget, det är algoritmer som mängder med smarta forskare medvetet och väldigt jäkla precist formulerat som bestämmer exakt vad datorn gör och vad målet för uppgiften är, det finns inte ett enda- jag upprepar, ingen dator har någonsin oavsett AI teknik själv hittat på ett motiv. Och är man så lätt lurad att språkmodeller är där, så twistar de ihop meningsföljder de redan sett, en otränad språkmodell kan inte göra ett skit.