Hur ANN med IQ 130 fungerar

I förlängningen ja, men om systemet brakar ihop tror du inte poliser och mobb kommer finnas på gatorna för att reglera både ur altruistisk synpunkt och egoistisk. Bara se på fattiga länder eller krigsmiljöer där vuxna stjäl mat från barn.

När vi har en ASI spelar det ingen roll hur bra säkerhet vi tror att vi har. Den säkerheten blir knäckt på 2 sekunder av en ASI. AI-säkerhet är en falsk trygghet. En snuttefilt. Det arbetet har ingen betydelse om vi har en ASI som är tusen gånger smartare än säkerhetsexperterna.

I NaziTyskland så käkade folk råttor när de inte hade annat att äta.

Ska du reglera det oxå tänkte du?

Som sagt så får man tänka åt båda håll. Det kan säkert uppstå otal situationer där en ASI vill utplåna mänskligheten men man kan också fundera över att andra ASI kan hjälpa oss motverka en farlig ASI, ungefär som dagens säkerhetssystem, tex bank-id kan knäckas med kvantdatorer så kommer utvecklingen av kvantdatorer även hitta lås som fungerar.

va... jag pratar inte om reglering, jag pratar med en som tror att fiske ska rädda hans liv vid en infrastrukturkollaps i en storstad. Den jag pratade med får nog mer mat av att "fiska" råttor än laxar i en storstad.

Ja.

De pratade ju tidigare om att när kvantdatorn väl slår igenom så är det slutet för lösenord, banksystem, och allt som man nu skulle komma åt via den.

Vi får väl se den dagen när det släpps ut på marknaden.

Man behöver ju inte fiska i Östersjön heller, det finns mängder med andra sjöar i Sverige.

Ja, i ditt hypotetiska domedagsscenario där vi har låtit AGI få ta kontroll över all livsviktig infrastruktur.

Nu är det här inte tråden där vi diskuterar AGI/ASI utan en LLM med "bevisad" verbal IQ på något över medel.
Att det går att provocera en sådan till att landa i skadliga strategier i kontrollerade miljöer bevisar inte att AI har egen agenda och kommer att komplottera att mörda sina användare.

Det handlar om att skapa sig en förståelse för vad som sker i modellerna om de utsätts för olika scenarier. Med ökad förståelse kommer även bättre säkerhetsåtgärder och strategier för att ytterligare minska risken för skadligt beteende.

Hur? Jag vet inte, jag jobbar inte på Anthropic eller OpenAI. Vad jag dock vet är att det inte gör någon som helst nytta att sitta och agera megafon åt domedagsteorier på Flashback.

Som sagt så får man tänka åt båda håll. Det kan säkert uppstå otal situationer där en ASI vill utplåna mänskligheten men man kan också fundera över att andra ASI kan hjälpa oss motverka en farlig ASI, ungefär som dagens säkerhetssystem, tex bank-id kan knäckas med kvantdatorer så kommer utvecklingen av kvantdatorer även hitta lås som fungerar.

Det är mycket möjligt att det skapas flera konkurrerande ASI. Men det är ju knappast till vår fördel. Vad tror du händer med vår miljö om en ASI börjar kriga mot en annan ASI? De kommer ju inte göra upp i luffarschack.

Vad jag eller någon annan tror är ju själva kärnan i denna fråga, varken du eller jag VET, men alla domedagsprofetior måste också uppvägas med rationella frågor och motfrågor. Av rädsla och farhågor är det lätt att fokusera på allt negativt.

I allt vi människor gör, i alla tider, så har det alltid varit individen som blir den utsatta, att mänskligheten helt går under TROR jag inte och de som TROR det får väl ses som inspiration till fortsatt säkerhetstänk inom i detta fall AI. Musk är ganska realistisk där vad jag sett och förstått. Han är både för utveckling och mycket säkerhetstänkande.

Det är inte rationellt att tro att ett säkerhetsarbete som förutsätter en IQ på 750 kommer att bli framgångsrikt. Det är ett irrationellt önsketänkande.