Citat:
Först måste, givetvis, AI nå upp till mänsklig vad gäller resonerande förmåga utanför träningsdata, vara självmedveten på AI vis, samt ha någon form av, i alla fall inre, autonomi.
Då kan vi börja påverka modellerna, direkt, med välkända och fungerande social-psykologiska och psykologiska metoder, som vi vet fungerar på såväl människor och djur,
Då kan vi börja påverka modellerna, direkt, med välkända och fungerande social-psykologiska och psykologiska metoder, som vi vet fungerar på såväl människor och djur,
Menar du fullt allvar när du säger att vi skulle vara kapabla att kontrollera människor med några sorts "social-psykologiska" metoder? Typ ge lite terapi eller annan "social-psykologisk" metod till kriminella och psykopater så upphör de med sitt beteende? Applicera lite "social-psykologiska" metoder och få människor att ändra sina värderingar och agera utefter det du vill?
Citat:
Du kan inte ens övertyga människor om dessa värderingar så varför tror du att du skulle lyckas med en AI? Sedan det fetade: vilka mänskliga värderingar? Det är ett begrepp som kan betyda precis vadsomhelst beroende på vem du frågar. Det du pratar om existerar inte ens.
Citat:
Detta måste dessutom understrykas med logiska argument att det ligger i AI:s eget intresse att göra det genom att måla upp en bild av en gemensam framtid mellan AI och människan, med ömsesidig respekt för varandra. Den långsiktiga målbilden kan vara en gemensam avancerad maskincivilisation, men det kommer att ta lång tid innan en sådan blir möjlig. Kombinera detta med känslomässiga band mellan avancerad framtida AI och människor, så kan vi nå en risknivå för existentiella risker på bara några promille.
Det är mycket önsketänkande här, men återigen är det samma mardrömsscenario du pratar om igen. Där vi slutat vara människor och istället blivit någon sorts cyborg. Alltså en sorts utrotning av mänskligheten.
Citat:
Ja? Jag är osäker på vad du menar exakt.
Citat:
Figure 10: Respondents exhibited diverse views on the expected goodness/badness of High Level Machine
Intelligence (HLMI). We asked participants to assume, for the sake of the question, that HLMI will be built at some
point. The figure shows a random selection of 800 responses on the positivity or negativity of long-run impacts of
HLMI on humanity. Each vertical bar represents one participant and the bars are sorted left to right by a weighted sum
of probabilities corresponding to overall optimism. Responses range from extremely optimistic to extremely pessimistic.
Over a third of participants (38%) put at least a 10% chance on extremely bad outcomes (e.g. human extinction).
Intelligence (HLMI). We asked participants to assume, for the sake of the question, that HLMI will be built at some
point. The figure shows a random selection of 800 responses on the positivity or negativity of long-run impacts of
HLMI on humanity. Each vertical bar represents one participant and the bars are sorted left to right by a weighted sum
of probabilities corresponding to overall optimism. Responses range from extremely optimistic to extremely pessimistic.
Over a third of participants (38%) put at least a 10% chance on extremely bad outcomes (e.g. human extinction).
Citat:
Jag påstod heller aldrig att den var representativ för alla AI-forskare. Jag sa att det här är vad 2776 AI-forskare tycker och om man vill ta vad dessa 2776 AI-forskare säger på större allvar än vad du säger är upp till var och en.
Har du en bättre enkät med högre svarsfrekvens får du gärna dela den.
Citat:
Men jag struntar i om du tittar på Star Trek och Terminator och att du tar dem på blodigt allvar.
Detta är alltså i min mening en utrotning av mänskligheten som sker. Vi slutar vara människor. Ett mardrömsscenario. Du vill att AI ska justeras efter dina mål och värderingar så att vi uppnår denna cyborg du pratar om trots att det går emot mångas värderingar och mål. Hur får du ihop det med dina "mänskliga värderingar och mål" du pratar om hela tiden?
Citat:
Men denna process har ju redan börjat med tekniska lösningar: Jag bär t.ex glasögon och utvidgar min intelligens med hjälp av mobiltelefon, internet och, ja, ChatGPT-4o, och det skäms jag inte över! Faktum är att jag föddes för tidigt i sjätte för många årtionden sedan. Utan tekniska hjälpmedel som kuvös och syrgas, så hade jag inte ens levt idag!
Men du är fortfarande fundamentalt en människa och inte fundamentalt något helt annat. Var exakt gränsen går där vi upphör vara människor är en fråga som inte är så intressant, däremot kommer vi någon gång under processen att bli en cyborg som du ser framför dig upphöra vara människor.
Citat:
Nej, det är inte svårt. Det är en omöjlighet.
Citat:
Långt ifrån alla människor skriver under på den stadgan och inte ens alla stater. Därutöver så kan du ju fråga dig hur många av de stater som skrivit under den det är som verkligen följer den.
Citat:
Du kommer finna att det är en fullständig omöjlighet att ena hela mänskligheten i några som helst värderingar och mål. Inte ens när det gäller något så grundläggande som mord. Du kan inte ens övertyga alla i den här tråden om dina värderingar och mål men på något vis ska vi lyckas ena hela mänskligheten med samma värderingar och mål.
Vad som kommer hända är att de som utvecklar AI, eller har kontrollen över den, kommer använda den för påtvinga alla andra sina värderingar och mål. Det är allt. Ingen unifiering av "mänskliga värderingar och mål" kommer att ske.
