Hur ANN med IQ 130 fungerar

Sanningen är ju att om du ber en robot/dator/AI att göra en specifik uppgift, så har den inga problem med att skada en människa som försöker hindra den från att utföra sitt ”jobb”, sålänge man inte gjort säkerhetsarbetet fullständigt säkert. Och jag vet inte om det ens går att få det 100% säkert när det gäller en pryl som saknar all form av empati som vi människor har. Den ”vet” bara vad den blivit tillsagd.

Det märks om inte annat på drönarna som används för att döda världen över.
,men mitt exempel är mkt enklare än så.

Den är ju inte medveten på något sätt att den skadar någon, utan den delen måste den ju lära sig tidigt i programmeringen. Och den måste alltid gå till något slags felsäkert läge om den riskerar att skada en människa.

Jag förutsätter att ASI är möjligt och att ASI kan bota alla sjukdomar och eventuellt göra det möjligt att leva för evigt. Jag har inte skrivit att det är möjligt nu.

Varför tror du att ASI är omöjligt? Vad är det stora hindret för ASI? Att det inte finns nu? Men då tror du att AI-utvecklingen inte fortsätter? Att den tar slut snart? Men varför tror du det?


Vad är det som hindrar det menar du?

Det har jag svarat på många gånger bl.a. här:
(FB) AI doom - Hur och varför

Ja grunder om AI-teknik, men det andra?

Ett artificiellt neuralt nätverk är inte (bara) ett uppslagsverk. Frontier-modellerna är inte bara "språkmodeller", de är mycket mer än så. De innehåller någon form av intelligens. En förmåga att kombinera och dra nya slutsatser från vad de redan vet. Summan blir mer än de enskilda delarna. Det är bara så man kan förklara att de kan få 130 i IQ på offline IQ-test som de inte har tränats på.

Jämför med en människa. En mycket intelligent människa som aldrig någonsin har sett ett IQ-test kommer att prestera över medel på ett IQ-test eftersom slutledningsförmågan har skapats i hjärnans neurala nätverk på något annat sätt än att studera IQ-test. AI:n har också någon form av slutledningsförmåga som inte enbart kommer från IQ-test.

Vi vet egentligen inte vad intelligens är, men vi vet att utbildning och träning leder till en högre mätbar intelligenskvot.

De svåraste frågorna på ett IQ-test kan inte besvaras blixtsnabbt av någon människa. De kan vara tvetydiga problem som vid en första anblick kan ha flera lösningar men det finns en lösning som är bättre än de andra lösningarna och det kan man komma fram till med systematiska metoder. En AI kan göra detta mycket snabbare än någon människa. En AI tappar inte tålamodet och kan fundera på en uppgift mycket längre och från fler synvinklar än vad människor klarar generellt. Det verkar uppenbart att AI med mer träning kan få en slutlednigsförmåga som vida överstiger någon människas förmåga. Lösningen ligger i mer tankekraft, inte mer träningsdata.

Du får vara lite mer specifik om du vill ha ett seriöst svar.

Du förklarade grunderna om AI teknik(Vilket jag är väl medveten om)
Du bemötte ej mina frågor eller utvecklade varför du höll med cyborg "till 10%"?

För att i min värld så pratar han 10% sanningar och kvalificerade gissningar och resterande 90% är rena påhittade ”sanningar” om framtiden.

Visst kan man sitta här och gissa, det gör ju jag oxå ibland.
Men det är ju svårt att bemöta kritik på det man skriver genom att hel tiden hävda att det kommer hända ”sen”, när man i verkligheten inte vet.

Sanningen är ju att om du ber en robot/dator/AI att göra en specifik uppgift, så har den inga problem med att skada en människa som försöker hindra den från att utföra sitt ”jobb”, sålänge man inte gjort säkerhetsarbetet fullständigt säkert.

Och detta skiljer sig på vilket sätt från vilken maskin som helst i industrin? Hur många har inte mist fingrar osv i olika plåtpressverktyg, blivit av med fötter i transportbanor osv.

Varför är detta något nytt problem?

Vilka är dessa 10% , kan du peka på specifika områden inom Tekniken där han verkar ha rätt?

Problemet är att de inte vet vad de bygger. Open AI kan inte förklara vad ens 10% av deras modeller gör. De upptäcker vad modellen gör när de har tränat den. Men de kan ju bara upptäcka det som de testar, vilket så klart är en väldigt liten del av allt som är möjligt.

OpenAI har inte byggt en utomjording, de har byggt ett gigantiskt kasino..

Det OpenAI pysslar med med är ren marknadsföring och ansvarsfriskrivning

När modellen spyr ur sig felaktigheter, uppmanar till självskada eller sprider desinformation då kan OpenA och horbarnet scam altmanI rycka på axlarna och säga: "Oj då, det är svårt att kontrollera black-box-modeller." Det är en medveten strategi för att slippa juridiskt ansvar.