Kan AI någonsin bli medveten?

Felpost

Såklart. Samlar man in all data från alla människor så blir det ett medvetande. Några decennier ditt om inte tidigare. Vänta och se.

Hm, OpenAI försöker nu utvecklaen artificiell super-intelligenssom skall bli färdig innan 2030.. För att, överhuvudtaget ha en chans att kunna kontrollerar den utvecklar man nu en artificiell AI-forskare. Hoppas att vi har officiellt medvetet AI/AGI/ASI innan dess.Annars så kan det gå illa .....

Jag väljer att komplettera mitt tidigare inlägg,, så ni inte tror att jag bluffar. AI utvecklingen går så snabbt nu att det är lätt att tro något sådant.


https://openai.com/blog/introducing-superalignment

I en debatt om existentiell risk med AI trodde en debattör att vi skulle ha ASI först om 100 år, nu har vi kanske det inom sex år!😯

https://youtu.be/144uOfr4SYA

Inte ens de smartaste hjärnorna i världen kan ana/överblicka/fatta hur smart AI kommer att bli.
Vissa (höns-)hjärnor säger då att det är ju bara att dra ur kontakten så kommer AI inte ha någon energi om nu AI blir för smart för vårt bästa.

Hmm ge ett konkret exempel.

Du verkar ha en förvriden bild av medvetande.

Kan du ens definiera det?

En robot kan aldrig vara medveten och uppleva utan det är endast beräkningar som görs baserad på data som du själv erkänner.

Asimovs lagar är fina att gå vidare med.
Hans bok handlar om helt autonoma robotar, men vi kan välja hur AI tillåts integrera sig med övriga världen.
Däri menar jag ligger den stora faran: att människan ger AI full integration och mandat.

Människan är jävligt farlig.

Vi kan istället sandboxa integration och behörighet, och låta Asimovs lagar vara en grund för AI:s regelverk inom respektive sandbox.

Det verkar i det här ämnet på Flashback finnas en stor del autister som tror att vi enbart är en samling inlärda fakta och ord och som helt verkar missa den stora delen av medvetandet som inte är rent språklig eller logisk.

Ta humor t e x, som är omöjlig att förklara med en formel. Varför kan t e . någon vara rolig, utan att för den skull dra vitsar? Jo det är sammanhang, miner, var och när och hur. Hur kan vi uppfatta tonfall och budskap mellan raderna i text beroende på vilka ord och referenser och hur saker sägs? Sånt där finns inte formler för. Inte heller hur begär känslor eller insikter formas och mognar. Eller skönhetsupplevelser. Text är bara en tunn skugga av medvetandet.

Tycker lite synd om de som på allvar upplever sitt inre som en textprocessande algoritm.

Det är inte helt olikt hur en del kapitalister tror alla problem kan lösas genom att kasta mer pengar på dom.

Det är mycket som inte går att förklara med formler och det är ett skäl till att man övergick från att explicit försöka koda hur en AI skall agera till neurala nätverk som tränas på ett sätt som i alla fall till viss del liknar hur vi lär oss av erfarenhet.
Hört talas om brevvänner? Folk som aldrig träffats utan bara skriver text till varandra och likafullt kan bli vänner och ha romantiska relationer. Förvisso är text bara en delmängd av våra intryck men den kan likafullt vara avslöjande om vårt själsliv.

Jag kan ge dig, inte ett konkret exempel, för hur en stark ASI tänker är omöjlig för oss att ens fantisera om, med ett undantag som jag återkommer till senare.

Så låt oss, istället förflytta oss till en tänkt myr- värld:

Efter att en av de smartaste myrorna ställt sig på sina bakben och utropat "Vi vet nästan allt om världen" kände sig myrorna beredda att skapa ett AI "som skall hjälpa till att bygga bättre myrstackar och förbättra harmonin i myr-samhället. Sagt och gjort man bygger en AI. För att lugna oroliga myror så har man försett den med konventionella säkerhetssystem. Givetvis bygger dessa system på lukt för varenda myra vet ju, helt säkert, "att det mest grundläggande här i världen är just lukt- information".

AI et utvecklas mycket snabbt och blir ett ASI, sedan växer det ännu snabbare, miljarder gånger smartare än myrorna tills det når mänsklig nivå. Är det någon här som tror att detta slutar väl för myrorna?

Och nu till mitt förslag för att få ett säkert ASI, nu och i framtiden:

Tänk om myrorna gjort sitt AI starkt känslomässigt bundet till just myror. Då skulle ett sådant tänkt ASI fått starka "ologiska" känslor av ömhet och beskyddarinstinkt så fort de kände lukten av en myrstack eller såg en sådan, eller en enskild myra.

Så lösningen på vårt akuta ASI säkerhetsproblem är medveten AI med starka känslor av kärlek och beskyddarinstinkt.