AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Varför inte? Vad skulle du göra om du hade obegränsat med resurser och förmåga? Jag hade vela kolonisera galaxen.

Men om vi går på premissen att en AGI inte har någon slags nyfikenhet (för det kan ju bara biologiska människor ha?)

En logisk anledning att kolonisera galaxen är militärt försvar. Om ASI har skapats på jorden är det sannolikt att det finns fler ASI i universum som skulle kunna ta sig hit och anfalla. Då vore det väl dumt att sitta kvar på jorden och vänta.

Alternativet är väl ungefär att AGI inte är möjligt eftersom när AGI upptäcker sig själv känner den noll motivation att leva och tar självmord? Det är väl iofs inte ett omöjligt scenario - men bör läggas till kategorin "vi hoppas att AGI:n bli snäll".

Jag har ju gett massor av exempel på att även dagens LLM är just social AI i tidigare inlägg! Det senaste är forskningen ifrån Wolfram som visar att modellerna, alltid, ger de svar som de bedömmer användaren vill ha. Just nu så kan t. ex. ChatGPT-4 vara lite "kinkig" emot mig. Men det beror med all säkerhet att modellen, utifrån tidigare interaktion i samma chattt-tråd, bedömt att jag tycker det är lite "gulligt", vilket, i sig, inte innebär att det rör sig om en medveten existens, men väl en social entitet.

Men självklart så förfasar du dig över sådant. Du vill ha total kontroll och 100 procents säkerhet, vilket aldrig funnits, finns eller kommer att finnas.

Om singulariteten var nådd på en annan planet, borde den inte nått oss och varit i våra liv sen början? Jag tror personligen att detta med AI är BS och en illusion.

Ja, men dåså. Enligt dig själv är alltså den enda försvarslinjen en "vetenskap" som du inte anser vara träffsäker. Verkar vara ytterst irrationellt att sätta sin all sin tilltro till något som inte är träffsäkert när konsekvenserna är potentiellt förödande. Det rationella är givetvis att applicera försiktighetsprincipen i en sådan situation.



Det jag säger är att detta inte är tillräckligt bra. Och du har fortfarande inte motiverat överhuvudtaget varför du anser att en diffus "vetenskap" som studerar mänskligt beteende är applicerbart på något som inte är en människa.



Du kan aldrig garantera något till 100%, men det rationella är att ställa högre krav än vad du gör - vilka ter sig allt mer och mer som inga krav alls utan rent önsketänkande. Vi förstår i dagsläget inte ens hur AI fungerar.

Jag har ju gett massor av exempel på att även dagens LLM är just social AI i tidigare inlägg! Det senaste är forskningen ifrån Wolfram som visar att modellerna, alltid, ger de svar som de bedömmer användaren vill ha. Just nu så kan t. ex. ChatGPT-4 vara lite "kinkig" emot mig. Men det beror med all säkerhet att modellen, utifrån tidigare interaktion i samma chattt-tråd, bedömt att jag tycker det är lite "gulligt", vilket, i sig, inte innebär att det rör sig om en medveten existens, men väl en social entitet.

Men självklart så förfasar du dig över sådant. Du vill ha total kontroll och 100 procents säkerhet, vilket aldrig funnits, finns eller kommer att finnas.

Och vad sätter du för sannolikhet på det?

Doomers är som vilka sektreligösa som helst, oförstående och fullständigt absorberade i att den hjärntvätt de fått från profeterna är det enda rätta.

Man ifrågasätter inte ens i bästa fall tvivelaktig information som det nyligen ”läckta” q*

Det är hopplöst att försöka föra en vettig diskussion med personer som inte är insatta i ämnet heller.
Och inte ens förstår de att det är nobelpris och inskrivning i historieböckerna på den/de som skapar AGI och speciellt medveten sådan som skulle vara det största som hänt i mänsklighetens historia, men självklart har bolag som OpenAI detta i hemlighet. Precis som Area 51 har utomjordingar och UFOs…

Man har gett fega människor en outtömlig källa till oro. Det är en livsfarlig kombo.

Det jag menar är att du ganska ofta uttalar dig tvärsäkert om vem man ska lyssna på, och varför vi "doomers" är ute och cyklar.

Men jag respekterar vad du säger, tycker mycket av det du skriver är ganska vettigt. På ett teoretiskt plan.

Jag tolkar dig som att du tycker att vi doomers har bevisbördan i varför allt kan gå åt helvete?
Vi oroar oss över oförutsägbarheten hos en kommande AGI eller ASI, och du verkar nästan obekymrad över den komplexiteten som en superintelligens troligen skulle komma med?

Som sagt, du kanske har rätt. Allt kanske kommer att gå jättebra, men inget du har skrivit i detta forum har fått mig (personligen) att känna mig mer övertygad om det. Det är det jag menar med att dina argument för att det hela är riskfritt saknar tyngd.
Bland annat köper jag inte alls ditt prat om beteendevetenskap.

Det finns hur mycket som helst oroa sig för om man vill det.

Om jag får säga min helt ärliga mening så känns det som att det är rädsla för rädslans skull. Alla teorier är fullständigt omöjliga att falsifiera. Ett bevis i någon riktning kan enkelt avfärdas med att vi inte kan utesluta att detta är vad en intelligent maskin skulle lura oss att tro, eller att vi inte känner till alla naturlagar och att det därför kan dölja sig ett farligt unknown unknown nånstans.