AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Det kan självklart vara så att omogen teknik används i fel sammanhang men jag vet inte om man ska beskylla AI för att vara orsaken till dessa potentiella katastrofer i så fall.


Ja jag har en känsla av att den här tråden kommer vara komedi att läsa om 5-6 år oavsett hur utvecklingen går.
Det är dock självklart att AI precis som alla andra forskningsområden kommer göra framsteg.

Hela problemet är dock att allt blir så överhypat så fort något händer inom ett område så är det det "nya svarta", man hade experter redan på 50 talet som var helt övertygade om att perceptronen (som är föregångaren till dagens ANNs) skulle ta över allt också, det blåstes upp till orimliga proportioner och sen stagnerade utvecklingen och ingen ville höra talas om AI på nästan ett år tionde.

Samma sak hände mot slutet av 70 talet då expertsystemen ansågs vara framtiden, de skulle ersätta allt och man var inte längre beroende av mänskliga experter när väl systemen hade matats med data.
Också överhypade och förväntningarna var skyhöga som såklart totalt krossades när väl systemen levererades.

Och så i nutid, sedan slutet av 2010 talet när man uppfann transformer tekniken som tes fantastisk vid en första anblick, men man har ju bara några få problem med dom som att det inte går lita alls på vad de skriver osv vilket inte är det minsta konstigt om man inser hur tekniken fungerar.

Och sedan det som stör mig mest är all denna desinformation om hur det fungerar det kommer påståenden som "modellerade efter en mänsklig hjärna" osv vilket inte alls är sant annat än på den absolut grumligaste vy man kan tänka sig, det är lika mycket sant som att påstå att mekaniken i bandvagn är modellerad utifrån en fjärillslarv, det kan te sig så om man kisar rejält men går man bara lite närmar i detaljer så är det omedelbart uppenbart att det inte alls är mycket likheter på ett funktionellt perspektiv.

Så det är betydligt lättare att vara skeptisk än optimistisk i sammanhanget. Resterande av AI framstegen som gjorts är egentligen inget nytt alls utan sådan man haft kunskap om sedan i stort sett "tidernas begynnelse" bara att dagens datorer har blivit kraftiga nog att kunna köra det i realtid.

Det är ju ingen ny algoritm? Utan en unrollad och branchless implementation av samma kod som var innan, det var ju vad du nyss skrev själv "detta är ingen algoritm, det är en optimering".

Varför känner du att du behöver leka expert, när det är uppenbart för alla att du inte har någon koll? Kan du inte vara lite ödmjuk istället?

Du förstår inte alls hur det fungerar. Man har byggt en dator som kan tänka. Och precis som man inte begriper hur en mänsklig hjärna tänker, så begriper man inte heller hur en dator gör det. Det är för komplicerat för våra små tröga hjärnor att förstå.

Har du fortfarande inte använt någon ai? De fungerar jättebra, och gör bara fel ibland. Men vilken mänsklig hjärna gör aldrig fel? Och tydligen vill de som utvecklar ai inte att de ska vara ofelbara och perfekta, utan mänskliga dvs lida av alla möjliga mysko psykiska problem och vara pk.....

Jag syftade på olika program man använt inom raketforskning och för att utveckla vapen. Jag antar att folk menar att alla hjälpmedel blir mer utvecklade och därmed kan orsaka mer död. Det räcker med att en forskare öppnar kalkylatorn i Windows så har AI "bidragit" till forskningen.

Okej, ja men det gäller ju all teknik/hjälpmedel och inte något unikt för AI.

Ja men det är väl det folk pratar om i den här tråden? Ungefär som när man säger att oljan eller bilen orsakar föroreningar

Nej humanister skall inte skapa en AI. Däremot så borde sådana få chansen att undersöka om socialt AI är medvetet, i vilken grad det är det och om det är vänligt inställt till oss. Detta kan ske när det grundläggande funktionssätt et hos modellerna, överhuvudtaget, medger medvetande.



Lol, och du anklagar mig för att använda mig av halmgubbar!

Jag har aldrig hävdat att biologiska existenser är de enda som, potentiellt, kan bli medvetna!

Om 2-3 år så kan vi börja avgöra om socialt AI kan bli medvetna. Jag hoppas verkligen det. För annars så får vi slå på nödstoppet! Även om socialt AI visar sig kunna bli medvetet så måste vi då trycka på paus-knappen. För vi måste utröna dess intentioner och förhandla med den om en harmonisk samexistens med människan om det visar sig att dess intentioner är goda.

Man har inte lyckats göra något sådant alls, alla neurala nätverk bygger på statistik och har inget med något tänkande att göra alls. Det är kurvanpassning i sin tydligaste form.

Man vet inte hur en mänsklig hjärna operera i detalj nej, men det är en stor skillnad här det ena är en mänsklig konstruktion baserat på teser, det är inte så att någon helt slumpmässigt gissade sig till ANNs. det andra är något som utvecklats under miljardtals år.

Rubriken ger sken av det vore så nyanserat, men tråden går mest ut på att en del individer tror/anser (inklusive trådskaparen) AI ska ta över världen för att den blir supersmart och med egen agenda och ser människan som ett hot.

Tja, du har ju, sannerligen inte tillfört någon ny kunskap eller insikter.

Nej, jag tillhör inte din domerdags-sekt. Och jag förstår att ni inte greppar konceptet "se framåt" i er domedags-sekt. För den enda utgången ni ser framför er när ni försöker "se framåt" är just domerdagen, vilket blir ett alibi för er rädsla för genomgripande förändringar.

När man optimerar en algoritm då förändras algoritmen. Då är det inte samma algoritm som tidigare. Då är det en ny algoritm. Du är i så djup förnekelse nu att du har börjat förneka grundläggqnde begrepp som före och efter?

Det finns ingen pausknapp eftersom det råder total AI-anarki på Internet. Vi kommer inte att ha möjligheten att stänga av en ASI när den uppstår. Vi har heller inga analytiska metoder för att tekniskt upptäcka ett medvetande och potentiella dolda motiv. Vi kan inte det eftersom tusentals naiva idioter anser att vi inte behöver en pausknapp just nu. Den ska man tydligen bygga när en AGI redan har tagit över. Vilket den inte kommer att tillåta.