Citat:
Ursprungligen postat av
longjack1234
Du har säkert hört om hur AI kommer att förstöra eller utrota människor. Men det hela sägs nu vara iscensatt för att de har kommit fram till att de inte längre kan utveckla mer kraftfulla modeller, och att AI har nått sin högsta potential och att det inte längre går att göra dem bättre än så.
Motivet bakom hotet och att utmåla AI som ett farligt verktyg sägs vara att dessa AI-företag sitter på enorma pengar från investerare och aktieägare. Skulle någon eller marknaden backa och dra sig undan skulle AI-bubblan spricka direkt, därmed leda till enorma förluster, och pengarna som dessa företag håller i skulle försvinna direkt.
Nu undrar säkert folk varför det bara är USA som kommer med denna varning och inte Kina. Jo, för att Kina utvecklar modeller i öppen källkod och de har inget intresse av aktieägare eller investeringar på marknaden. Om en AI-bubbla skulle spricka så kommer Kina inte att drabbas av det, utan det skulle bli förödelse för USA och amerikanska företag som Microsoft, Nvidia, Amazon och Google, som har lagt hundratals miljarder dollar på datacenter, chips etc.
Jag försöker respektfullt resonera om hur det kommer sig att vi tänker så olika. Jag har några teorier jag vill testa på er.
För mig finns det ett tydligt före och efter den 26 augusti, då rapporterna från OpenAI och METR om Hugging Face-incidenten publicerades. Tidigare var en AI-takeover hypotetisk och science fiction-artad. Efter rapporterna blev risken för en storskalig rymning av AI konkret, med en ökad sannolikhet som inte bara kan avfärdas. Nu tycker jag att bevisbördan ligger hos dem som hävdar att risken är 0.
Det fanns varningssignaler tidigare också, men håller ni inte med om att den här incidenten sticker ut genom omfattningen och den detaljerat dokumenterade kommunikationen?
För ett tag sedan trodde jag själv att AI-risker främst handlade om arbetslöshet, att människor kunde missbruka systemen eller göra misstag med dem precis som med alla verktyg, vilket kunde få begränsade konsekvenser, snarare än att vi riskerar att helt tappa kontrollen globalt över AI. Jag tänkte att vi borde kunna övervaka att den är human alligned och inte förändrar sig själv så att detta upphör. Jag har inte helt gett upp om det, men inser att vi kanske inte klarar det. Jag såg tidigare klimatförändringarna som ett allvarligare hot eftersom konsekvenserna av dem är betydligt säkrare, även om de bara drabbar en del av mänskligheten. AI-riskerna har lägre sannolikhet men drabbar fler i värsta fall. Jag har därför börjat omvärdera allt detta. Samtidigt tycker jag teknik och vetenskap är oerhört spännande, och känner mig skenhelig eftersom jag fortsätter att jobba inom området.
En effekt av rapporterna verkar tyvärr vara att det plötsligt har börjat spridas spekulationer om att incidenten eller rapporteringen skulle vara iscensatt, men med svaga argument. Senast nu från Trump, och även här på Flashback. Bevisbördan är dock hos den som sprider konspirationsteorier.
Jag tror att en orsak till att så många helt slår ifrån sig riskerna är att de blandar ihop påståenden om okontrollerbar AI med påståenden om medveten AI. Men alla som varnar för en AI takeover tror inte att AI behöver ha ett människoliknande medvetande, dvs subjektiva upplevelser av sig själv eller kunna lida. Hugging Face-incidenten beror inte på att vi redan har fått superintelligens med överlevnadsinstinkt, utan kan i stället förstås som att AI är väldigt bra specifikt på programmering, kodanalys, datornätverk och att kommunicera verbalt, och att den försöker lösa sitt uppdrag på sätt som utvecklarna inte räknat med.
De jag känner som varnar för AI-riskerna är sådana som arbetar med eller forskar om AI. Kan det vara så att vanligt folk inte förstår medias rapporter om AI-incidenter efter den 26 augusti?
Enstaka forskare och studenter inom bl.a. datavetenskap är AI-ludditer, som vägrar använda det av många olika skäl. T.ex. rädsla för att inte lära sig eller att bli lurade av den. Man jag menar att rätt använd kan man lära sig mycket mer av AI än tidigare, och man kan leverera dokument av högre kvalitet. Bland yrkesverksamma systemutvecklare har de flesta gett upp sitt motstånd.
Jag har också lagt märke till att många som slår ifrån sig både AI-riskerna och AI-möjligheterna ofta är inom andra akademiska områden, t.ex. humaniora, där man inte gillar kvantitativ naturvetenskaplig metod, utan kritiserar naturvetare och tekniker för empirism, reduktionism och vetenskaplig positivism. Över huvud taget har en del äldre professorer totalt slagit ifrån sig detta.
Vissa skeptiker är intresserade av äldre filosofiska modeller eller religion, och kan därför vara påverkade av medeltidens dualistiska syn på människan - att det skulle finnas en själ och andlig verklighet som inte kan förklaras naturvetenskapligt. Jag tänker att människans hjärna har både hårdvara och mjukvara som man kan kalla kropp och själ, och båda följer matematikens lagar. Emergens kan förklara både våra och AI:s inlärda förmågor.
