AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

I framtiden kommer det snarare vara tvärtom, att det är smala AI-agenter som används för att lösa det komplexa, medan en LLM kan användas för att ge instruktioner till agenterna.

Llama 3 är en språkmodell, Llama 4,5,6 etc kommer också att vara språkmodeller.

Ingen av dessa kommer att vara kapabla att styra en bestyckad drönare utan både finjustering samt minst en agent som är specialiserad på drönarflygning/vapenhantering.

Du bortser från möjligheten att en generell AI kan vidareutveckla sig själv eller om det är mer lämpligt, en mer specialiserad AI eller en scriptad robot (som inte ens är att betrakta som en AI) för ett specifikt ändamål. Tekniken dikterar inte antingen eller, den erbjuder alla tänkbara möjligheter och förmodlingen snart möjligheter som ingen människa har tänkt på. De generella modellerna kommer att bli bättre och de kommer inte att vara begränsade till endast LLM-teknik. AI-Ingenjörer inkl de artificiella ingenjörerna är inte lika fantasilösa som du är.

Fantasi var det ja...

Vi har inte ens AI som klarar av att bygga enklare program på egen hand än (nej, inte Devin heller) men vi ska tro att AI som utvecklar både sig själv och avancerade AI-agenter (eller dumma script) bara är runt hörnet?

Vi bör vara mer oroade över vad AI kommer få för påverkan på arbetsmarknaden det närmaste decenniet än att terrorister börjar bygga avancerade AI-vapen, särskilt då samtliga försvarsmakter kommer att ha tekniken långt innan dess.

Av allt att döma är GPT-4 och Llama 3 just nu den mest avancerade AI-tekniken. Vi har inga bevis för att någon militärmakt har mer kraftfull AI. Det ligger i sakens natur att det hemlighålls men jag tror att något hade läckt ut om de hade kommit väldigt långt med AI. Bl.a. med tanke på visselblåsare som Snowden m.fl.

Om detta stämmer har Putin och Hamas nu via Llama 3 Open source i princip samma tillgång till militärduglig AI som USA har. Det är redan demonstrerat att LLM kan användas för att träna en humanoid robot till det som en människa kan utföra fysiskt genom att visa ett filmklipp som roboten lär sig av. Detta finns nu och givetvis kommer den här tekniken vara mer avancerad om ett par år. Detta inkluderar krigföring och terrorism. Att det är en mycket kostnadseffektiv metod som inte kommer att kräva speciellt många mänskliga ingenjörer i mixen är också helt uppenbart.

Ledande AI-forskare har en helt annan världsuppfattning än er två.

Former OpenAI Researcher: There’s a 50% Chance AI Ends in 'Catastrophe'

https://decrypt.co/138310/openai-researcher-chance-ai-catastrophe

Ni ser fortfarande 0,0% risk för problem? Baserat på vad? Optimistiska tankar?

Jag har ju redan skrivit att om, redan, två år kan en träningspaus vara aktuell.

Här får du en snaskig video att gotta dig åt:

https://youtu.be/VQjPKqE39No?si=nJlZ8vDHeuBkygy7

Det vore naivt att tro att varken amerikanska, ryska eller kinesiska armén inte har bedrivit AI-forskning. Likaså vore det naivt att tro att de inte skulle vara kapabla att träna egna modeller på liknande nivå som dessa privata företag, särskilt när tekniken är öppen.

I samma artikel har du ett citat från Yann LeCun som hävdar att ett sådant scenario vore "utterly impossible".
Vem ska jag tro på?

Du kanske ska ta dig ett snack med honom, några månader efter han kläckte det där så skrev han det här bloginlägget
https://sideways-view.com/2023/07/29/self-driving-car-bets/

Som ändå verkar gett någon form av självreflektion hos honom.

Om jag är rädd för en glorifierad sökmotor-bot som inte "vågar" skriva neger?

Man måste tänka sig för hur man ställer frågor när man chattar med AI, t ex en fråga i taget. Om man inte tänker sig för utan råkar ställa tre frågor så svarar den kanske bara på den första.

Om man ställer en enkel fråga (första) och får ett svar, kanske man vill ställa följdfrågan: Varför (eller varför inte)? Man kanske ger ett par exempel, men den kanske inte förstår att det bara var två exempel utan svarar specifikt på dem.

Det är svårt att ställa varför-frågor till AI, för det kräver viss förståelse, vilket den inte har (fullständig åtminstone).

Det märkliga är att vissa företag och myndigheter använder sig av AI. Ringer man en kundtjänst kan man bli 'tvångshänvisad' till en AI-kundtjänst. Detta trots att det är väl känt att AI är notoriskt opålitligt. Inte ens när den talar sanning kan man veta om den information man får är sann.

Och det finns ett problem: vill man klaga på AI-kundtjänst så blir man hänvisad till AI-kundtjänst. Det är rena vansinnet. De gånger jag har varit i kontakt med en AI-kundtjänst så har problemen jag har kontakt med dem för att lösa orsakats av AI, t ex beställningar på telefon hos en automatisk kundtjänst, där man får låsta frågor och får välja mellan låsta svarsalternativ. Det är alltid en massa cirkelhänvisningar.

Edit: Det du skriver om PK är tydligast i frågan om kvinnor och flickor. Man kan tydligen diskutera vad som helst om och med män, men kvinnor? Nej, där går gränsen. Det går inte. Hur mycket man än påpekar att kvinnor existerar och behövs, så får man tomt prat tillbaka av AI. Kvinnor: sofismer och cirkelresonemang. Som att prata med barn som inte förstår.

Jag önskar man kunde göra den här tråden till en pinned thread.

Du säger ju själv att militären är på en liknande nivå som alla andra nu när tekniken är öppen. Och jag håller med om att det är sannolikt. Vad jag dock inte kan förstå är hur du kan se detta som helt riskfritt.

LeCun är en udda figur, han är nästan ensam om att helt förneka riskerna med AI. Självklart vill du cherry-picka honom. Frågan är mer varför?

Man kan inte bara dra till med att nåt är farligt, omöjligt eller liknande, utan att presentera bevis för varför det skulle vara det. Men då blir det så klart självreferenser: det är omöjligt för att jag har sett till att det är omöjligt, eller det är farligt för att jag säger det.

Det finns ingen anledning att tro att AI är farligt i sig självt. AI saknar vilja att förändra. Däremot kan det naturligtvis vara farligt med människor som använder AI. Människor har vilja.