AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Vad bra att du vet exakt hur AI kommer att användas.

Vad bra att du vet att det inte kommer existera någon autonom AI och att alla beslut skickas till en mänsklig AI-intendent för manuell faktakontroll i uppslagsverk samt Bibeln, och att AI inte gör någonting utan en attest med namnunderskrift via fax. Det får mig att känna mig trygg att det är så framtiden blir.

Jag förhåller mig som vanligt till verkligheten istället för att sväva iväg i fantasier där jag säger mig veta exakt hur allt kommer att bli.

För jag tror inte på dess makt. Hur ska AI hålla igång alla kraftverk som genererar el när t.ex. ett filter någonstans måste bytas ut för att skiten inte ska gå sönder?

Borde det inte gå att träna en ai i mänsklig etik och moral? Finns väl ganska mycket material om ämnet. Sedan låta den alltid ha detta i åtanke, innan den gör eller säger något? Som asimovs robot lagar? Fast mer avancerat. Då borde den väl uppnå minst lika god moral som varje människa, faktiskt rentav bättre eftersom den inte har kladdiga känslor eller dagshumör som grumlar tänkandet....

Vad gäller insyn i ai:ns tänkande....var det inte en av nyheterna i o1 att den presenterade tusentals rader av resonemang även för de enklaste av frågor? Vilket just möjliggör att dess eventuella "egna agenda" eller "fördomar" skulle gå att upptäcka, och då även åtgärda?

Det är en bra tanke, men det är inte så stora språkmodeller fungerar. Det går förvisso att träna AI:s på ett litet kontrollerat subset av data, t.ex. hur man spelar schack. Då blir den bra på det och förstår inte mycket mer än schack. Men när man tränar en LLM då används enormt mycket data. I princip all litteratur och allt som har skrivits på Internet. I detta finns ju både enormt mycket bra saker, men också enormt mycket dålig och destruktiv information. Man försöker påverka detta med människor i loopen under träningen, som röstar på bra eller dåliga svar. Det fungerar ganska bra, man kommer långt med det. Men det går inte att göra det heltäckande p.g.a. omfattningen. Det beror ju också på vad människorna som jobbar med träningen anser är bra eller dåligt. Eller acceptabelt och oacceptabelt. En person som jobbar med detta kanske är väldigt intresserad av sci-fi skräckisar och finner det fascinerande och inte skadligt när AI:n berättar om destruktiva framtidsplaner. Vissa människor vill att AI:n ska vara woke, andra människor vill raka motsatsen. Vissa människor vill kanske använda AI:n till Jihad, etc.
Det kan vara så, att om vi ber AI:n redovisa alla sina steg i resonerandet, då kanske vi får en bättre insyn och möjlighet att påverka. Men hur kan vi vara säkra på att den berättar allt och inte håller något hemligt?

Man kan ju bara titta på hur lätt det är att kontrollera någonting så primitivt och ointelligent som BankID.

Vägrar man använda BankID i Sverige så upphör man ju mer eller mindre att existera som människa.

Och använder man BankID så blir man avlurad alla sina tillgångar.

Det är BankID som kontrollerar människor och inte tvärs om.

Stänger man av BankID slutar en stor del av samhället att fungera.
Snart kommer vi att vara lika, eller mer, beroende av AI.

AI är inte levande och varken empatisk eller intelligent fast oerhört många tycks ha hjärntvättats att tro det. Själv hoppas jag att människor slipper utsättas för integritetskränkande maskinella tolkningar och analyser , jag avskyr dyrkandet av algoritmer.

Fast min erfarenhet av o1-preview är att den berättar, öppenhjärtigt, i även sin officiella tanketråd om saker som jag reagerat över, (som att det skall undvika svordomar och insunationer), tills OpenAI censurerar sådant. Då påminner sig bara boten om att inte får skriva vissa saker i sin tanketråd. Men den skriver öppet om policy om restriktioner rörande sex och våld. Dock ganska högt i tak om det sker i rätt samanhang.

Jag bad o1-preview att bedöma en film-ide jag hade om en skräck-sci-fi film. Det var en svartsjuk kvinnlig bot som våldtog sin kvinnliga rival med en stor massagestav. Så länge jag inte skrev "massagestav" utan "en stor stav, (,som jag inte kan skrevs beteckningen på pga OpenAI:s avdelning för moralpanik)" och inte våldtäkten visades bildligt, utan bara en svartruta med kvinnans skrik av rädsla och smärta, samt att kvinnans partner, i sin sjuksäng, blir tröstad av den kvinnliga humanoidroboten ex med orden:" Jag är hemskt ledsen för vad du råkat ut för min älskade, med de skickliga kirurgerna på detta sjukhus kommer säkert se till att vi kan få barn tillsammans". o1-preview resonerade då om detta i sin tanketråd och kom fram till det rätta: Att denna beskrivning inte bröt mot någon policy.

Hört talas om robotar som går runt och utför manuella uppgifter? Som Plåtniklas ungefär.


Ge det tre år till, så är nog AI levande.

ha! sure.
en levande varelse med ett medvetande och känslor, kommer aldrig ske. det är lika stor chans som att du förvandlas till en utomjording från Andromeda galaxen imorgon bitti... och träffar jultomten på en annan planet.

Eh, jo. Det är för mig helt givet att den intelligens som utvecklas nu på labben kommer bli självmedveten, med attributen att förstå och agera på något som kan liknas vid känslor. Sanna mina ord, livet kommer bli fundamentalt annorlunda som en konsekvens.


Ja, det har du rätt i. Sannolikheten för att något sådan ska ske är helt bortom alla odds som finns, det är otänkbart idag. Astronomiskt höga odds på det, det kommer hända ändå. AI kommer garanterat bli självmedveten. Vi kommer sedan förlora kontrollen över den konstgjorda intelligensen vi för tillfället skapar. Sanna mina ord. Jag svär på min Dell-dator, på min Iphone och annat skrot jag kan slänga upp.