AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Nej de bygger ingenting.

Men det är just detta. Du förstår bevisligen ingenting om data eller det tekniska men ändå försöker du applicera den MÄNSKLIGA kunskap som du besitter på en dator... Jag förstår att du inte inser hur jävla skrattretande detta är när vi har absolut noll modeler som går att återskapa på ett rimligt sätt som ska återskapa komplex automatisk funktion och här vi dig, en person som vill skapa en psykologisk profil på en jävla algoritm, vilken kool aid har du druckit egentligen.

Finns ett säge "stay in your fucking lane" det är lite det, behöver man en socionom som ska förmedla mellan människa och dator, kommer riktiga forskare ringa såna som dig. Just nu, du uppfyller ingen funktion, bara skriver i en cirkel med en jävla massa bullshit. Det är den

Man kan inte applicera mänskliga värden på en dator/algoritm, tills man har en generell model som går att återskapa samt har automatisk funktion utan hjälp. Du försöker skapa en profil när denna profil existerar inte, därav allting du skriver är aldrig validerat. Du vill börja drömma när det tekniska arbetet är inte klar. Forskare och alla proffsen, behöver bli klara först innan esteter kan ta över helt med sitt skitsnack

Frånsett att jag lärt mig en hel del tekniskt om LLM det senast halvåret så konstatera jag bara följande:

Du har, noll, koll på LLM:s sociala förmåga och vad det innebär för dess interaktion med människor.

Du har, noll, koll på vad en ev. "Q*" algoritm skulle kunna innebära för social-AI:s resonerande förmåga.

Du har, givetvis, noll, koll på beteendevetenskap, överhuvudtaget.

Jo, jag känner till LLM:s tekniska begränsningar och hävdar t. ex inte att modellerna har ett mycket rudimärt medvetande, (I motsats till AI kunniga som Sutskever och Hinton gör), jag utesluter det bara inte.

Det är, lite, jobbigt at 95 procent av debattörerna antingen är fanatiska skeptiker eller fanatiska alarmister som enbart stödjer sig på auktoriteter och rapporter som bekräftar just deras eget perspektiv. Jag gillar t. ex både Le Cunn och Sutskrever och är beredd att lyssna på deras respektive argument. Jag gråter inga krokodiltårar vare sig över att det kan ta 20 år att utveckla verklig AGI eller om vi får se prov på verklig AGI redan nästa månad.

Jag förstår inte riktigt poängen med detta bildliga och summariska språkbruk. Du skriver väl så eftersom du egentligen inte har någon idé om vad "lätta på gasen" eller "bromsa lätt" egentligen ska innebära i samhället? Vem ska överse detta (globalt)? Vem ska döma ut t.ex. viten vid brott mot hastighetsbegränsningen? Och inte minst [edit] hur mäter vi - tillförlitligt - AGI-kapaciteten så att vi vet när det är dags att bromsa?

Det är inga enkla frågor så klart men vi löser det definitivt inte med dina ordval. (Jag bytte tråd från Q*).

Saken är att det finns ingen gråzon här, Sutskever, Altman, Brockman och Microsoft osv har egen intresse i att hypa upp vad de har och just nu har de de facto den bästa modellen på marknaden.

Men det kommer ändra sig väldigt snart och det är hela grunden till alla dessa spektakel, de vill trycka bort annat än "OpenAI ditt och datt" från nyheterna.

För en vecka sedan ansåg i stort sett alla att OpenAIs styrelse var fullkomligt inkompetenta, nu är det knäpptyst för man "läckte" vaga och intetsägande "nyheter" och det är nu allt som diskuteras.

Men precis som påpekats av åtskilliga experter det är extremt för att inte säga obefintligt att OpenAI kommit fram till något nytt som inget annat företag redan haft, precis som ChatGPT inte var något nytt men det var det enda företag som vågade släppa en så undermåttlig produkt på marknaden då, Bard osv är löjligt dålig men den var aldrig tänkt att vara något annat än en demonstration att "vi har tekniken" också.
Det finns enbart två bolag som gjort världsnyheter inom AI, det är IBM och det är Google och du kan vara helt säker på att Google kommer få OpenAI att se ut som forntidsteknik, men ändå är det ingen därifrån som gapar om någon "AGI internt" från fejkade trollkonton.

Bra att du bytte tråd. Dock verkar du ha svårt att förstå liknelser. Som jag påpekade implicit, så är det inte säkert att vi människor klarar av att hantera den extremt snabba AI-utvecklingen, utan vi kan bli stående med ett ASI som kommer att, bokstavligen, kunna manipulera, skiten ur oss, då vi i dess ögon kommer att framstå som just "apor i skor".
Detta kan säkert gynna, även oss i längden, men då är det inte längre vi som styr i praktiken.

Märkligt språkbruk igen. Är det bra eller dåligt att du gråter krokodiltårar? Jag finner detta svårt att bedöma. Någon form av känslouttryck är ju ändå bättre än inget alls, kanske. Du pratade nyss om att kanske rekommendera att lätta på gasen. Men vi har ju inget politiskt ramverk för varken gas eller broms. Allt händer ju helt organiskt nu på marknaden och inom open source. En bra modell för dataspel, men inte för potentiellt livshotande AGI/ASI. Så om jag ska tolka dig rätt har du inget emot att det poppar upp en AGI i februari 2024 när vi (våra folkvalda) inte har varken gas, broms eller nödstopp? Det är precis p.g.a. detta som jag menar att vi måste bromsa NU.

Hm, fast ni skeptiker kör med konspirationsteorier om "elaka giriga företagare", medan alarmisterna kör med sina katastrof-teorier om mordiska AI.

Men vi får se hur det hela kommer att spela ut.

Dessutom det här med att diskutera saker med ChatGPT är meningslöst, den kan inte tänka och den tycker allt är intressant och uppmuntrande.

Jag gjorde ett kort exempel här där jag medvetet försökte provocera den in i den o-verifierbara realmen där all logik bryter ner och visserligen blev inte detta exempel exakt så påvisande som jag gjort tidigare,
Men det är fortfarande så att den inte motsäger en enda punkt utan bara uppmuntrar och mestadels fyller i, det blir en positiv feedbackloop och om jag hållit på ett tag längre kan jag garantera att den skulle tycka detta var den mest sannolika teori som finns.

https://chat.openai.com/share/1f542d3f-7d23-478a-895e-f54eb45ad0af

Nej, snälla rara, jag har inte problem med att förstå liknelser. Jag säger bara till dig att vi har ingen användning för dina liknelser. Det är skarpt läge nu och vi behöver något skarpare än dina liknelser.
Intressant att du har börjat använda mina argument

Jag har inte sagt något om elak, vilseledande däremot definitivt, det är alla företag utåt.
Speciellt i en konkurrenssatt situation där det finns ett enormt intresse involverade, för några år sedan var det blockchain och var och vartannat företag hade "blockchain teknologi" (som på i alla fall ett företag jag jobbade på var inget annat än skitsnack, men CTO:n på företaget var runt på föreläsningar världen runt och berättade hur blockchain revolutionerade industrin, vilket är förståeligt eftersom företagare ser blockchain som att "någon annan betalar")

Så länge den styr på ett för mänskligheten gynnsamt sätt kommer det i så fall gynna de 99% av mänskligheten som i inte styr idag heller. Det är bara acceptera att om vi bygger en ASI så kommer det inte vara vi som har makten. I bästa fall är den så diskret att den låter oss tro att vi har det. Den bara viskar lite goda råd...