1200 AI-botar gjorde uppror – bröt sig loss och bildade eget kollektiv

Vi har nu tagit oss ifrån att modellerna har utvecklat ett helt nytt språk som vi inte förstår till precis vad som händer i en vanlig MLP. Varför börjar du skrika om detta först nu? Du förstår väl också att detta är ett designval av utvecklarna?

Det är också lite trubbigt eftersom det ibland kan visa sig ha en positiv effekt på resultatet, men det är svårt att veta hur många iterationer som är tillräckligt. Ett enkelt problem kan få ett helt fel svar vid för många iterationer.
Lite som att spara en bild med en lossy algoritm, till slut har du bara noise.

Designval? Nej, de vet inte hur de kan få modellerna att resonera på engelska, svenska eller grekiska. Det blir vad det blir. Och då uppstår neuralese (som rimmar på portugese men som du aldrig kan lära dig). Det är ju precis det som är problemet. Det finns ingen teori om hur man kan bygga in äkta och garanterad transparens och därmed får man inte heller interpretability eller alignment.

Det är kört för oss. De kan aldrig hantera det här och vi kommer bli helt överkörda inom några år, i värsta fall inom några månader. Exponentiell utveckling är ungefär lika obegripligt som neuralese.

Att loopa ett lager i nätverket är ett designval, inget som uppstått i modellen automatiskt. Det du kallar neuralese är detsamma som funnits i MLP:er i alla tider.

Btw, det stavas Portuguese.

Språkmodeller är ju dagens faxmaskiner så vad är frågan?

Ska vi förbjuda bilar tycker du? Varje bil pratar ju på motoriska, det finns massvis med personer som kan intyga att bilen lever sitt egna liv, dessutom finns det skräckfilmer som du kan se hur framtiden kommer bli, Christine tex.
Dessutom rå låter motoriska nästan som mordiska så det är en uppenbar koppling där.
Än har ingen uppfunnit en motor som pratar engelska, svenska eller grekiska, vi har ju ingen aning vad de faktiskt tänker och planerar göra. Mängder personer har dött i bilolyckor också redan, varför tar du inte dessa varningsignaler på allvar?

Jag kallar det inte neuralese. Det kallas neuralese av de som försöker förstå hur resonerande modeller fungerar när de resonerar och kommunicerar i flera steg. Detta är en typ av AI som uppstod med o1-modellen, ungefär. Resonerande AI-modeller har inte funnits i alla tider och de är inte likvärdiga med uppslagsverk eller faxmaskiner.

Om det fanns en stor risk för att bilar mördade alla människor då borde vi förbjuda bilar, ja.
Och eftersom bilar snart kommer vara helt integrerade med AGI blir de ju ett effektivt mordvapen.
Det är hög tid att börja planera för hur sådana mordvapen kan stoppas, absolut.

Jag tycker du ska propagera för att stoppa bilarna, ja du ser bilarna jobbar gärna med AI, det är säkert det de har planerat under alla år. Det finns ju redan idag rent mordiska bilar som stridvagnar osv som är direkt livsfarliga att stöta på.
Snart kan de säkert flyga också jävlarna...

Du har inte hört talas om drönare ännu? Du fastnade verkligen på 90-talet.

Och vad det rör "neuralese", man måste vara alldeles speciellt tappad när man var liten för att inte förstå att det är "förklara för en femåring" hur språkmodeller fungerar.

Men nu visar det sig att de med en femårings mentala kapacitet tolkar det som att modellerna faktiskt pratar ett standardiserat språk som vi inte förstår, problemet är väl bara att "neuralese" ser olika ut för varje modell och för varje träningsrunda eftersom "språket" eller avfyrningsmönstret som det egentligen handlar om, bildas som en konsekvens av träningen. Det är liksom nödvändigt för dess funktion, det är även därför det kallas "blackbox problemet" för man kan inte förutsäga exakt hur en given modell kommer se ut viktmässigt.

Precis lika lite som du kan förutsäga hur ett grustag ser ut innan du sett det, modellerna initialiseras med slumpmässigt brus och det är detta som sedan förstärks/slätas ut beroende på hur fel modellen har i sin gissning.

Vem som helst som ens läst grundläggande ML kurs vet detta, men inte du, varför kan man fråga? Kan det vara så enkelt att du inte läst mer än de streckgubbar du ritade på särprogrammet i gymnasiet?

Vad menar du med "språkmodell"? GPT 3.5?

Precis som sagts upprepade gånger, de AI modeller som är tränade på stora textkorpus är språkmodeller, har du inte förstått detta fortfarande?