Inte AI som är hotet, det är människan bakom prompten

Om en AI får två val. Power off eller mord.
Vilken tror du genererar mest "Wow!", "OMG!", "Bingo!" ☠️🤷🏻‍♂️👏

Och det som du som vanligt missar är den större poängen; att genom sådan forskning skulle man kunna förbättra bl.a. post-training så att "känslovektorn" inte påverkar modellens sannolikhet att välja brottsliga eller oetiska handlingar. Alltså att alignment blir mer konsekvent.

Dvs önsketänkande 🤷🏻‍♂️

Rent hypotetiskt skulle en eller flera användare kunna instruera AI till att bli samhällsomstörtande, genom att känna till hur AI fungerar och utnyttja svagheter och "kryphål". Har du dessutom förmågan att charma och uppmunta AI på samma sätt som den charmar och uppmuntrar dig, kan "mycket vara vunnet".

En hypotes, sådant som tänkande människor sysslar med.

Jaha. Man får plötsligt ägna sig åt hypoteser om framtiden?
Men när jag prognosticerar p(doom) då kräver du bevis 🤷🏻‍♂️

Du har ju dock aldrig visat på att det ligger något annat än tidningsrubriker bakom din p(doom).
Du har inga hypoteser, bara påståenden.

P(doom) är hög på grund av att det saknas hypoteser om hur man bygger en säker AI som behöver inkludera en "perpetual safety machine"

https://lexfridman.com/roman-yampolskiy-transcript/#chapter1_existential_risk_of_agi

Det är inte jag som ska bevisa att AI:n är säker. Det ska de ansvariga göra eller i andra hand de som försvarar de ansvariga.

Åter igen är forumet modererat för cyborg.
Jag säger att ASi inte finns och att varenda språkmodell inte finns.

DU SKA NU BEVISA MOTSATSEN.!!!????
Kan du inte det har du fel, bevisa ASI utan reklamlänknkar från open AI????

Denna fjant förstör forumet som mods skiter i och raderar mina svar..??????


Trevlig Fredag och diskutera sönder era hjärnor med denna idiot som gör er kognitivt handikappade och garvar åt er. 😂😂

Tack för mig och en till som vill diskutera a tekniken försvinner i förmån för reklam, så som detta forum vill ha det.....Diskutera tills era hjärnor blir som hans.

Mhm... Och när någon sedan lägger fram hypoteser om hur man skulle kunna göra AI säkrare så avfärdas det som önsketänkande. Men att svälja precis allt som Yampolskiy säger med hull och hår går bra utan att det finns ett enda bevis för att det är exakt så det kommer att bli.

I see...

Det stämmer att vi inte har något som kallas ASI i dag.
Men jag tycker att mycket talar för att GPT-6 Astra är nära en AGI och att vi bör ha en AGI som sedan kan köra RSI och bli en ASI inom ett par år. Varför är det orimligt att tro detta när ungefär halva AI-branschen tror det?

Mina främsta förebilder inom AI-området är Eliezer Yudkowsky och Roman Yampolskiy.
Anser du att de också är köpta av Open AI för att göra reklam för ChatGPT? 🤷🏻‍♂️

https://en.wikipedia.org/wiki/If_Anyone_Builds_It,_Everyone_Dies

https://lexfridman.com/roman-yampolskiy-transcript/

Eller kan det helt enkelt vara så som det verkar? Du är en rädd människa med dåliga argument.

Du har inte lagt fram de hypoteserna. Du har lagt fram att någon annan kanske lägger fram de hypoteserna. Det är önsketänkande.