2023-08-20, 15:54
  #1465
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av Ola Schubert
Visst, och AI-utvecklingen drivs också just med hjälp av AI. Det är därför det går så fort.
Exakt. Men har vi inte då redan tappat kontrollen? När vi låter AI utveckla mer AI och AGI följt av ASI? Du vill att psykologer ska utveckla AGI. Då blir den "snäll" enligt dig. Du är säker på det. Men du har inte förklarat hur det ska bli möjligt. Och som du själv skriver. Det är ju inte på det sättet som AI utvecklas nu. AI utvecklas av AI, som inte är en psykolog, som kanske är snäll, men det vet vi inte.

Citat:
Ursprungligen postat av Ola Schubert
Jag påtalade bara den konventionella definitionen av AGI. Talar vi om min egen definition av AGI så talar vi om ett konventionellt ASI med ett minst rundimärt medvetande och känsloliv. Men jag har inte velat använda min egen definition av AGI för att inte orsaka förvirring i debatten.

Men du har rätt i att målstolparna flyttas ju mera vi vänjer oss med AI. Ta en människa ifrån 1980. Den skulle, omedelbart utropa GPT-4 som ett AGI. Jag skulle inte bli speciellt förvånad om min hårdare definition, i praktiken, kommer att vara den allmänna definitionen av AGI inom något år.
Målstolparna flyttas hela tiden. Om 2 år har vi nog en äkta AGI med "IQ 1000"+. Men då kommer folk som dig hävda att den inte är medveten och intelligent eftersom den inte är byggd av biomassa. Endast gråa slemklumpar som drivs av sockrat och syresatt blod kan vara medvetna.
Citera
2023-08-20, 16:00
  #1466
Medlem
Citat:
Ursprungligen postat av Cyborg2030
En autonom tänkande och planerade AI är fullt möjligt inom några år enligt en majoritet av AI-experter och forskare. Den kan bli farlig om vi inte lyckas kontrollera den. Och i dag existerar ingen gångbar teori om AI Alignment & Control. Det är alltså som jag ser det i dag fakta att risken för utrotning är en akut fara att hantera.

Men möjligen är det mer sannolikt att människor börjar tillverka självreplikerande militära drönare som triggar WW3. Vi hinner förstöra planeten före det att en AI kan göra det.

Detta är kanske svaret på Fermi-paradoxen. Varför ser vi inga aliens där ute i rymden? Kanske för att när de kommer feam till AI bygger de militär AI och förstör sin egen civilisation.
Har du läst artikeln om AI i dagens DN? Där finns svaret på dessa myter.

https://www.dn.se/debatt/det-sjalvstandiga-spoket-i-maskinen-ar-en-farlig-myt/
__________________
Senast redigerad av h2GnK7.qA8TJ-oY4Fz 2023-08-20 kl. 16:04.
Citera
2023-08-20, 16:12
  #1467
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av JohnnyMnemonic
Ja och ytterligare en sensations rapport, det finns inget som är "världens snabbaste sorteringsalgoritm" helt enkelt för att ingen sorterings algoritm passar i alla sammanhang.
Du fortsätter alltså med din förnekelse. Det finns så klart sorteringsalgoritmer som är snabbare än andra sorteringsalgoritmer. Människor har forskat och testat olika varianter i över 70 år men lyckats sämre än en AI som löser den mest optimala sorteringen på ett ögonblick. AI:s är redan smartare än oss. Wake up and smell the coffee.
Citera
2023-08-20, 16:15
  #1468
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av h2GnK7.qA8TJ-oY4Fz
Har du läst artikeln om AI i dagens DN? Där finns svaret på dessa myter.

https://www.dn.se/debatt/det-sjalvstandiga-spoket-i-maskinen-ar-en-farlig-myt/
Förnekelsen har nu nått DN-nivå! Det är en intressant utveckling.
Men jag betalar inte för DN, knappast värt 1 krona.
Citera
2023-08-20, 16:33
  #1469
Medlem
Citat:
Ursprungligen postat av Cyborg2030
Du fortsätter alltså med din förnekelse. Det finns så klart sorteringsalgoritmer som är snabbare än andra sorteringsalgoritmer. Människor har forskat och testat olika varianter i över 70 år men lyckats sämre än en AI som löser den mest optimala sorteringen på ett ögonblick. AI:s är redan smartare än oss. Wake up and smell the coffee.

Det finns sorteringsalgoritmer som är snabbare än andra beroende vad det är för data man ska sortera och hur "stökig" datan är från början, är listan nästan helt sorterad redan så kan nybörjar algoritmer som bubblesort vara snabbast osv.

Och detta är mer en sensations nyhet än något som har någon signifikant praktiskt betydelse, alphadevs algoritm sorterar bara upp till 5 element och medans den må vara X % snabbare på att göra det när 3 eller flera element är i ordning så är det en försvinnande liten del som används i praktiken eftersom större list storlekar kommer använda introsort.

Utöver det är det inte sant för samma optimering har gjorts av människor tidigare och vinsten är i huvudsak att if/else ersattes med en branchless operation, det har bara inte funnits i clangs/llvms standard C++ bibliotek tidigare och anledningen är så klart att det är inget som har något signifikant prestanda betydelse i praktiken.

Men det är korrekt att alphadev har "upptäckt" detta och att de submittat dessa till llvm, det är ingen som påstått att AI är icke funktionellt, om det inte producerade något som vi inte kunde lösa med andra metoder så hade självfallet ingen forskat på området överhuvudtaget. Jag har skrivit det tidigare det är absolut mängder med områden där ANNs är den enda (praktiskt) effektiva lösning vi känner till.

Det betyder inte att nätverken är hyper intelligenta eller har något form av medvetande, precis lika lite som Bletchley Parks bomber var intelligenta för att de kunde knäcka enigma krypton snabbare än människor kunde.
Citera
2023-08-20, 16:34
  #1470
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av Ola Schubert
Min, närliggande slutsats är att vi inte behöver ingripa, direkt, i utvecklingen av nya modeller de två närmaste åren, då det, akut, inte föreligger någon risk för en existentiell katastrof för mänskligheten.

Sedan beror mina eftersöljande slutsatser på följande:

Hur snabbt kommer AI utvecklingen att gå?

Kommer det att ske betydande förändringar av LLM:s grundläggande funktionssätt?

Kommer vi att få ett medvetet socialt AI?

Hur går det med säkerhetsarbete och modellernas anpassning till mänskliga värderingar och behov?

Riskerar vi att få ett ASI som är ett logisk monster?

Vad kommer att hända med människornas syn på och förhållande till AI?

Social utveckling i samhället som ett resultat av AI utvecklingen?

Kommer vi att kunna lita på ett socialt medvetet AI?

Kommer ett sådant AI att kunna lita på oss?

Hur kommer människorna och ett potentiellt AI med känsloliv att kunna hantera känslor?

Den geo-poolitisk situationen?

Fördelar och vetenskspliga genombrott tack vare AI?

Osv.
Din slutsats är 10 frågor? Du är inte lite förvirrad. Du verkar ha tappat grundläggande språkliga koncept som "slutsats" och "fråga"? Rädslan för AI armageddon har skapat en fullständig kortslutning i din hjärna?

Min slutsats av att din "slutsats" är tio frågor blir att det finns för många frågetecken runt AGI och väldigt få konkreta svar. Vår kunskap och vetenskap är långt ifrån tillräcklig i dag för att storma vidare och skapa digitala aliens. Det är för farligt i det rådande kunskapsläget.
Citera
2023-08-20, 16:41
  #1471
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av JohnnyMnemonic
Det finns sorteringsalgoritmer som är snabbare än andra beroende vad det är för data man ska sortera och hur "stökig" datan är från början, är listan nästan helt sorterad redan så kan nybörjar algoritmer som bubblesort vara snabbast osv.

Och detta är mer en sensations nyhet än något som har någon signifikant praktiskt betydelse, alphadevs algoritm sorterar bara upp till 5 element och medans den må vara X % snabbare på att göra det när 3 eller flera element är i ordning så är det en försvinnande liten del som används i praktiken eftersom större list storlekar kommer använda introsort.

Utöver det är det inte sant för samma optimering har gjorts av människor tidigare och vinsten är i huvudsak att if/else ersattes med en branchless operation, det har bara inte funnits i clangs/llvms standard C++ bibliotek tidigare och anledningen är så klart att det är inget som har något signifikant prestanda betydelse i praktiken.

Men det är korrekt att alphadev har "upptäckt" detta och att de submittat dessa till llvm, det är ingen som påstått att AI är icke funktionellt, om det inte producerade något som vi inte kunde lösa med andra metoder så hade självfallet ingen forskat på området överhuvudtaget. Jag har skrivit det tidigare det är absolut mängder med områden där ANNs är den enda (praktiskt) effektiva lösning vi känner till.

Det betyder inte att nätverken är hyper intelligenta eller har något form av medvetande, precis lika lite som Bletchley Parks bomber var intelligenta för att de kunde knäcka enigma krypton snabbare än människor kunde.
Men påstod jag att AlphaDev var medveten? Nej, det gjorde jag ju inte. Du måste tydligen försvara dig med halmgubbar när du vet att du har fel.

Att AlphaDev lyckas med detta är tecken på att AI:s blir starkare och bättre. Detta är ett litet tecken bland många andra nyheter om nya AI-förmågor. Extrapolera hur nya förmågor uppkommer (och ibland upptäcks) 2 år framåt. Vad händer då? Det är här den intressanta diskussionen finns som du inte vill veta av. Så. Släng över en ny halmgubbe nu din jävla pajas
Citera
2023-08-20, 16:45
  #1472
Medlem
Citat:
Ursprungligen postat av Cyborg2030
Förnekelsen har nu nått DN-nivå! Det är en intressant utveckling.
Men jag betalar inte för DN, knappast värt 1 krona.
Tokstollar som du ger eliten argument att nyttja AI för egen vinning med ett framtida digitalt fängelse för mänskligheten. Du borde läsa på, det är gratis.

Wallenberg AI
https://wasp-sweden.org/
Citera
2023-08-20, 16:48
  #1473
Medlem
Citat:
Ursprungligen postat av Cyborg2030
Men påstod jag att AlphaDev var medveten? Nej, det gjorde jag ju inte. Du måste tydligen försvara dig med halmgubbar när du vet att du har fel.

Att AlphaDev lyckas med detta är tecken på att AI:s blir starkare och bättre. Detta är ett litet tecken bland många andra nyheter om nya AI-förmågor. Extrapolera hur nya förmågor uppkommer (och ibland upptäcks) 2 år framåt. Vad händer då? Det är här den intressanta diskussionen finns som du inte vill veta av. Så. Släng över en ny halmgubbe nu din jävla pajas

Och så kommer personangreppen igen när du återigen påvisat att du inte vet vad du pratar om.

Det är du som kastar in länkar som du inte förstår dig på och när dessa sedan förklaras så kommer med påhopp som respons.

Vad menar du syftet med länken du postade var? Du propagerar ju för att AI visar "gnistor av AGI" så fort de producerar något överhuvudtaget, det finns mängder med algoritmer som producerar data som ingen människa skulle kunna göra i närheten så snabbt som en dator kan, det har inget med intelligens eller medvetande att göra, det är heller ingen som skrikit att vi ska förbjuda sorterings algoritmer för de är mycket snabbare än människor osv.

Men det är precis vad du gör eftersom du inte förstår vad du pratar om alls utan går helt på sensationsrubriker på diverse nyhetsidor.
Citera
2023-08-20, 16:51
  #1474
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av JohnnyMnemonic
Och så kommer personangreppen igen när du återigen påvisat att du inte vet vad du pratar om.

Det är du som kastar in länkar som du inte förstår dig på och när dessa sedan förklaras så kommer med påhopp som respons.

Vad menar du syftet med länken du postade var? Du propagerar ju för att AI visar "gnistor av AGI" så fort de producerar något överhuvudtaget, det finns mängder med algoritmer som producerar data som ingen människa skulle kunna göra i närheten så snabbt som en dator kan, det har inget med intelligens eller medvetande att göra, det är heller ingen som skrikit att vi ska förbjuda sorterings algoritmer för de är mycket snabbare än människor osv.

Men det är precis vad du gör eftersom du inte förstår vad du pratar om alls utan går helt på sensationsrubriker på diverse nyhetsidor.
Ok, var skrev jag att jag vill förbjuda sortering av listor? Kan du citera mig?
Jag mobbade dig precis för dina konstanta halmgubbar. Då svarar du med en ny halmgubbe.
Detta är humor
Citera
2023-08-20, 16:56
  #1475
Medlem
Citat:
Ursprungligen postat av Cyborg2030
Ok, var skrev jag att jag vill förbjuda sortering av listor? Kan du citera mig?
Jag mobbade dig precis för dina konstanta halmgubbar. Då svarar du med en ny halmgubbe.
Detta är humor

Jag har inte påstått att du sagt det, jag gjorde en analog eftersom det är motsvarande vad du gör med AI för varje artikel du ser att man med hjälp av AI producerat något.
Vilket som sagt är en förutsättning för att forskning ska fortgå inom området annars hade man övergett detta sedan länge.

Det är heller ingen som påstått att det inte är möjligt att vi någon dag kommer knäcka problemet med AGI osv men det är det som typ 50-60 sidor i den här tråden handlat om fram och tillbaka det finns inget som helst som pekar på att vi är närmare att lösa detta nu än vi var för 50 år sedan och det är det du inte verkar förstå. Och de enda som överhuvudtaget antyder något sådant är så klart de som är beroende av investeringar.
Citera
2023-08-20, 17:19
  #1476
Medlem
Här är också patchen till llvm som alphadev gruppen gjorde, som jag skrev tidigare det rör sig inte om någon ny algoritm alls utan att göra det branchless (dvs nyttja pipeliningen på processorn) som sagt inget nytt under solen egentligen.

https://reviews.llvm.org/D118029
Citera

Skapa ett konto eller logga in för att kommentera

Du måste vara medlem för att kunna kommentera

Skapa ett konto

Det är enkelt att registrera ett nytt konto

Bli medlem

Logga in

Har du redan ett konto? Logga in här

Logga in