När når vi AGI?

Jag sa inte att AI skulle sköta träningen autonomt, utan att den kan hjälpa oss att hitta nya sätt att träna på.
Är det något vi vet så är det att AI följer instruktioner, men att de ibland kan skapa upp delmål som inte är förenliga med lag och moral.

De jobbar redan så och mycket talar för att det kommer att förvärra problemen

Specificera "mycket"

Jag har inte sett något som talar för att modellerna inte spårar ur ännu mer när de tränas av andra AI:s.
De som bygger detta och ni som försvarar eländet har till uppgift att visa att detta är någorlunda säkert, men det kan ni ju inte.

Vad menar du med ännu mer? Hur kvantifierar du det?

Det är omöjligt att bevisa eftersom mängden utfall är oändliga. Det är snarare du som har bevisbördan att AI tränad av AI är mer benägen att begå brott än AI som tränats av människor.

Jag kan fortfarande inte kvantifiera framtiden.
Hur ser utvecklingskurvan för allvarliga incidenter ut?
Är läget värre nu än med GPT-4? Resten får du själv kvantifiera, du som vet hur man gör det.

Då har du alltså inget belägg för ditt påstående annat än en känsla.

Det har väl snarare med att nya modeller har utökade förmågor att göra och inte nödvändigtvis huruvida de har tränats av andra modeller.

Avsaknaden at trovärdig AI-säkerhet skapar så klart en olustig känsla, det stämmer.

Samtidigt kan man inte därmed påstå att "mycket talar för att det kommer förvärra problemen" och "AI-tränade modeller spårar ur ännu mer" utan att ha något belägg för det.

Beläggen är ju pinsamt uppenbara.
1. Det finns ingen tillfredställande AI-säkerhet.
2. Utvecklingskurvan över allvarliga incidenter accelererar.
Alla förstår vart detta är på väg. Och det är inte åt rätt håll.

Om AI är mer kapabel än mänskliga experter och vi vet att AI kommer att försöka lösa de uppgifter de tilldelats så talar det snarare för att de kommer att hitta en lösning om det finns någon.

Vi har ännu inte sett att AI bestämmer sig för att göra något helt annat, utan även deluppgifter som är "misaligned" har ändå syftat till att lösa den ursprungliga uppgiften.

Jaha. Så det är helt okej att mänskligheten utrotas, om det råkar bli en bieffekt av att kolonisera mars. (Den ursprungliga uppgiften löstes).