Hur ANN med IQ 130 fungerar

Om en ASI har en "IQ" på 750, eller 11750 (det kan vi aldrig veta då vi inte kan mäta det).
Men om vi i alla fall tänker oss att den är flera gånger smartare än våra smartaste ingenjörer.
Då måste ju de som designar säkerheten för ASI vara minst lika smarta. Annars blir de överlistade. Men det finns inte så smarta människor, och därför kan man aldrig bygga en säker ASI. Det är omöjligt hur man än vrider och vänder på det.

Det är den öppna frågan utan svar, vi kan bara spekulera och bygga system som motverkar det vi inte önskar. Dagens datorer är redan smartare än oss, det vi spekulerar i är om en ASI blir lömsk, illasinnad för att skydda oss mot oss själva, osv, och hur vi isf ska skydda oss.
Som jag sa tidigare så får vi använda oss av ASI för att täppa igen säkerhetsrisker hos ASI, med slutna system, skapa oberoende granskning, fortsätta med säkerhetsutveckling som vi redan gjort och gör.

Lösa problemet helt och hållet med 100 % säkerhet vet jag inte om det någonsin kommer att vara möjligt eftersom det inte finns något som ett perfekt system.

Det mest uppenbara är att aldrig ge en AI full autonomitet och kontroll över viktig infrastruktur. Ovanpå det kan vi hitta bättre tekniker för post-training och fine-tuning. T.ex. att inte bara belöna resultatet utan även processen som leder modellen till resultatet. Sedan, som redan nämnts av andra tidigare i tråden, övervakning av andra, specialiserade, agenter som kontrollerar och verifierar att den håller sig "aligned". Även genom att vi lär oss att tydligare tolka betydelsen av aktiveringsfunktionerna i realtid så att vi kan bli notifierade om den börjar resonera om skadliga åtgärder.

Jag är inte intresserad av att spekulera om IQ 7500 ASI, så om det är vad du tänker kontra med kan du lika gärna avstå ifrån att svara.

Jag är inte intresserad av att spekulera om ett imaginärt max IQ tak på ca 200 för AGI, så om det är vad du tänker kontra med kan du lika gärna avstå ifrån att svara

Det är intressant att diskutera detta ämne men att tro att en tråd på fb ska ge dig alla svar är lite ... ja du fattar väl själv hur komplicerat detta ämne är och att det även inte är något allmänheten kan ta del av till fullo, det skulle innebära för stora säkerhetsrisker bara det.

Som förväntat, ett nonsenssvar

Nej, jag vägrar.

Jag förstår. Ser att det var du som ville fiska och ändå ställer du idiotiska frågor, antingen är du under medel eller ett troll.

Man använder ju redan idag datoriserade system för många saker, även saker som potentiellt skulle kunna användas felaktigt för att ta död på en större mängd människor (+100st eller fler).

Den sortens system har såklart ingen AI kopplad, utan det är hederliga tryck och pys-system där den bara utför vad den är programmerad till, den kan inte göra annat.

Det är väl så man måste fortsätta att tänka gällande AI.

Eller så svarade jag på en fråga gällande att AI skulle vara ett hot mot våran infrastruktur för mat.

Då svarade jag att de flesta kan nog fiska eller föda upp kanin, kyckling, för att vi ska kunna klara en kortare kris om det behövs.

Jag är fortfarande ganska övertygad om att iallafall jag hade överlevt ett halvår eller så.

Jag har inte förväntat mig att någon ska förklara hur artificiella neurala nätverk kan ha en IQ på 130 eller att någon ska kunna förklara hur vi hindrar en ASI från att ta över. Syftet har endast varit att informera om den situationen som vi nu befinner oss i. Med förhoppningen om att det leder fram till politiska åtgärder.

Men som sagt var, du är inte ensam om att slåss om napp i strömmen och östersjön kräver helt annan logistik, om nu infrastrukturen är off så fungerar nog inte bilarna heller, och en potatis i en hink blir inte mat till mer än några portioner i bästa fall. Du tänker ur ett jag-perspektiv men det blir svårare att överleva off grid i en storstad där alla är drabbade än i ensam i en koja i skogen. Nog om detta nu.