AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Alltså centraliserad. Det blir inte säkrare, utan bara att tekniken och makten blir centraliserad. Hur skulle det stoppa en superintelligent självmedveten ai ifrån att utrota oss om du har ett särskilt tillstånd till att bygga den eller inte? Om man tror att en superintelligent ai ska utrota oss så finns det bara en vettig sak att göra, och det är ett total förbud. Men de vill givetvis inte förbjuda det, för tekniken kan ge dem fullkomlig makt och kontroll över människor, och de vill försäkra sig av det genom regleringar, för det är det enda regleringarna kommer göra. Regleringar kommer inte påverka huruvida ai kommer utrota oss eller inte, utan endast vem som kontrollera tekniken. Om du tror annat, nämn vilken reglering som kommer stoppa den superintelligenta ai ifrån att utrota oss ifall den vill?

Och hur naiv är man om man tror att det kommer göra någon skillnad? Tillverkas illegala droger ja eller nej? Du får det att låta som om det räcker om man lyckas halvera antalet olagliga AI:s med hot om stränga straff.

Så länge ex. EU inte är villiga att flygbomba amerikanska datacenter som bryter mot lagen är det dessutom helt meningslöst.

Sen kan AIn göra det möjligt för en enstaka individ utan speciell utbildning eller intellekt att skapa något som åsamkar stor skada på mänskligheten. Tänk en skäggtomte i en grotta i mellanöstern med en laptop.

Nästan ingenting får mig att tro att det är enkelt.
Just därför är jag mycket pessimistisk.

Men låt oss säga ETT bolag ligger längre fram än de andra. Om deras AI blir först att nå singularitet så är det kanske inte helt otänkbart att denna ganska snart blir hypersmart och gudalik? Är det inte troligt att denna AGI då skulle kunna stoppa i princip all övrig utveckling av AI?
När det finns en superintelligens skulle kanske övrig forskning slås ner?

Du undrar hur jag kan vara så naiv 2023?
För mig är det naivt att tro att man har en jävla aning om vad man pratar om när det kommer till AI och framtiden.
ALLT är spekulationer och hela grejen är helt oförutsägbar.
Tycker även din jämförelse med urtidsdjuret Piratebay känns naiv på något vis.

Att utforma regelverket och att se till att det efterlevs kommer att vara en mycket stor och komplicerad uppgift. Du ber mig ungefär att redogöra för läkemedelsverket, internationella brottmålsdomstolen, plus lite till och ca 10 gånger mer omfattande och komplext. Tack så hemskt mycket för förtroendet men den uppgiften löser inte jag här och nu. Men jag vet att vi som samhälle måste försöka. Jag är också skeptisk till att vi kan lösa det, men jag ser ändå helst att vi försöker.

Regleringen skulle nog behöva inkludera att vi bombar datacenters om de inte följer internationella regler om AI med insyn osv.

Men ett exemplen på reglering är ju exempelvis att de ska ange sina källor när det kommer till upphovsrättskyddat material, så att ge exempel på regleringar är inte den enorma uppgiften som du ger intrycket av. Jag säger att det inte finns några regleringar som kan stoppa det om det du säger är sant. Så borde du inte snarare vilja förbjuda det helt och hållet istället för hoppas att någon reglering ska stoppa det?

Varför anta det? Vad menar du egentligen, att den första AI:n skulle bestämma över all annan AI? Är vi inte körda från den punkten att den får rätt att bestämma över vad alla andra utvecklar och har möjlighet att göra något åt saken?

Det är väl det vi gör? Antar saker och spekulerar?

Jag menar inte att den första AI:n skulle bestämma över övrig AI.
Jag menar att den första superintelligenta AGI:n (efter singulariteten har inträffat) skulle vara ändstationen för övrig forskning inom allt.
Om vi får den typen av superintelligens så har vi per definition skapat oss en gud.
Kanske skulle denna allvetande gud bli allsmäktig?

Många forskare påstår att när singulariteten väl inträffar, så kan vi inom minuter, eller sekunder ha något så intelligent och kraftfullt att allt annat blir stenålder i jämförelse.
Det är väl inte helt otroligt att tänka sig att en sådan superintelligens skulle hitta vägar att reglera och blockera exakt allt som den bedömer som potentiell konkurrens?

Men chilla lite. Jag spekulerar bara.

Jo vi är troligen körda. Eller så blir allt fantastiskt!

Men VARFÖR? Varför inte anta att det kommer att finnas fler än en aktör som utvecklar AI i framtiden eftersom det finns så många redan? Det är helt jävla orimligt.


Varför anta att Dr. Evil inte vill ha en egen?


Visst men på vilket sätt skulle det vara mindre problematiskt för vår del? På vilket sätt skulle det garantera att den AI:n inte väljer att utplåna människan?

Visst men på vilket sätt skulle det vara mindre problematiskt för vår del? På vilket sätt skulle det garantera att den AI:n inte väljer att utplåna människan?[/quote]

Det skulle på intet sätt garantera att den utplånar oss