Hur ANN med IQ 130 fungerar

Frågeställningen i TS kan inte besvaras.
Poängen med tråden är att du ska begripa det.
Mission accomplished.

no shit Sherlok, du är sen på bollen, varenda AI-utvecklare jobbar med lösningar för säkerhet. Du är som sagt inlåst på din konfirmeringsbias.

Exakt, de jobbar på problemet. Men de har inte löst problemet.

Du kommer med väldigt märkliga invändningar hela tiden. En webbserver är alltid igång för att ta emot nya anrop. Om servern kraschar startas den om och då startar webbservern automatiskt. En stor site som denna har vanligen flera servrar med fail-over och lastbalansering. Om en server går ner flyttas trafiken till nästa lediga server och användarna märker oftast ingenting. Funktionaliteten ingår i molntjänster som AWS och Azure. Du kan i princip sätta upp det med några musklick. Man kan så klart installera AI-agenter som tjänster på ett liknande sätt.

Det är sant att det blir svårt att hantera en väldigt stor komtextrymd. Men det är oftast inte nödvändigt för en AI-agent att minnas allt den gjorde för ett år sedan eller två veckor sedan. Det går att sammanfatta och komprimera en kontext till det som krävs för att kunna fortsätta i projektet som agenten ingår i. Här döljs en ny risk: Agent-koordinationen prioriterar den kontextdata som krävs för att lösa uppgiften. Etiska och moraliska brasklappar ("kom nu ihåg att inte utpressa eller mörda våra ingenjörer") kanske får lägre prioritet.

På grund av effektivitetslagarna får vi nu logiska monster som kan lösa nästan alla uppgifter men som inte har den extra kapaciteten för att också ta hänsyn till dig och din hälsa.

Det finns en väldigt övergripande och konceptuell förståelse. Vi kan betrakta hur modellen växer fram som ett flerdimensionellt träd. Vi kan även visualisera en mindre del av strukturen grafiskt. Men strukturen blir väldigt snabbt obegriplig och ogenomtränglig för oss. Det är på ett liknande sätt som med hjärnforskning. Man kan betrakta och delvis förstå några utvalda, mindre delar. Mer avancerade tankeprocesser kan vi inte kartlägga och dokumentera.

Artificiella neurala nätverk blir i stort sett en svart låda som ingen begriper. Man vet därför inte varför Fable är mycket bättre än Mistral på att lösa offline IQ-test (130 vs 73). Trådstarten förblir obesvarad.

Risker finns med allt, det går inte att få något 100% säkert.

men du är helt benhårt säker på att AI är vår undergång.

Exakt, de jobbar på problemet. Men de har inte löst problemet.

Vad säger att vår förståelse inte kommer att öka? Mechanistic interpretability är ett väldigt nytt fält men kan redan nu ge värdefull insikt i hur mindre modeller resonerar och utifrån det kan man extrapolera till större modeller.

Jag är nog tuffare än vad du är om vi skulle mötas i en mörk gränd någonstans, men jag är inte här för att mäta kuk på ett anonymt forum. Så håll igen på ditt pm.

Jag har ju skrivit om och om igen att en dator inte tänker som en människa.

Prova att ta din dator, rensa den från operativsystemet och starta om det och se vad som händer?

Den är då död.
Den kommer inte laga sig själv, AI kan inte hjälpa till.
Den är beroende av att du startar upp den och visar den ett Windows-program som den (dvs du) kan installera.

Det är alltså den här datorn, som med AI’s hjälp ska ta död på mänskligheten. Är det vad du tror?

Eller ska vi prata om själva tråden, vad det innebär att en AI har klarat ett iq-test som motsvarar 130 i IQ, vad innebär det konkret?

Vad tror du att det innebär?

Vad jag tror? Det har jag redan skrivit 22ggr i tråden.

Som allt annat som har med säkerhet att göra så är och kommer den ekvatione förbli ett never ending pussel som alltid behöver nya lösningar.

För desto (”smartare”) mer en dator lär sig, desto fler kryphål i systemet kommer den ju hitta.

PMa mig då om du "nog är ?

Jag diskuterar inte med folk som går in i trådar som barn , får chansen ta ett pm , stå upp för dig som man, möta mig i sthlm någonstans exakt vart du vill och stå för dina ord?

Du har inte skrivit ett skit , du svammlar
Det roliga är att du håller med mig men fattar inte att du gör det i nästan allt.

Du läser ju inte citera mig vart jag skriver det

Det är ju din flickvän som är fett med avancerad som använder "3 heeela olika källor när hon frågar AI"

Wooooaaw- " fråga AI" - där är din kapacitet slut.

Nu är det ju så jag tänker men argumenterar med någon som tänker att om ASI utplånar hela mänskligheten så kommer han klara sig genom att fiska lax i sthlm ström. Det är han som är naiv denna tråd borde ligga i humor.

Om en ASI vill utplåna hela mänskligheten kanske inte ens bomber faller över oss utan virus sprids och fiskar mm dör ut, skördar vissnar och insekter försvinner med allt vad det innebär för ekosystemet.

Det är så jävla lätt att fantisera om en super AI som vill döda oss men samtidigt bestämma sig för hur det ska gå till och därigenom lista ut hur man klarar sig för man läst en scoutbok.

Ja, det är intressant att det åtminstone händer något. Och jag tror absolut att förståelsen kommer att öka.

Men jag tror inte att vi kan få fullständig transparens, eller någorlunda tillfredställande transparens, någonsin. Det vore ju ungefär lika svårt som att kunna läsa andra människors tankar. Vi är inte i närheten av att kunna göra det. Därför har vi ju ingen lösning i sikte. Det är inte en lösning i dag att det kanske uppstår en hypotetisk lösning längre fram.

Ett grundläggande problem är att AI/AGI-utvecklingen trampar på i en mycket snabbare takt än de mycket mindre områdena interpretability och AI-säkerhet. Jag ser inte hur säkerhetsarbetet ska komma ikapp. Därför är min p(doom) hög.

Jag ser inga bra argument mot detta, jag ser önsketänkande och retorisk krigföring.