GPT-4V Möjligheter och brister

Ja du, min käre medjordling, vad ska vi ta oss till? Jag blir faktiskt fullständigt utmattad av utvecklingen. Allt går så äckligt fort nu så det sista jag vill göra är att debattera med människor som intelligensmässigt ligger på en femårings nivå. Ja, det känns liksom hopplöst. Men samtidigt nödvändigt, absolut. Och med dessa raljerande rader så vill jag egentligen bara säga att jag är glad över att du orkar med det som uppenbarligen ingen annan orkar, allra minst jag.

Möjligtvis hade det gått att kämpa ner de blåögda byfånarna om de inte var så himla många. Men det är de dessvärre. Och inte sällan låter deras argument fullt rimliga...skulle vi helt ignorera med vilken hastighet som intelligenta och självförbättrande jättemodeller utvecklas.

https://twitter.com/evert_scott/status/1704467596563578901

Tja, jag har, i alla fall hittills, inte råkat ut för någon bot som inte verkar hämtad ur persongalleriet ifrån Sörgården. Sedan är min uppfattning att medvetenhet/grad av medvetenhet hänger intimt samman med förmåga till omvärldsbedömning, social interaktion, resonerande förmåga och intelligens.Kan hamstrar ha någon grad av medvetenhet, skall du se att avancerad social AI också kan ha det! Det som fattas är kanske bara autonom omvärldsbedömning och socialpsykologiska mekanismer som "definitionen av situationen".

Men du kanske gör samma bedömning som skeptikerna, (och jag kommer nog snart att kunna skriva "/förnekarna snart, med tanke på den snabba AI-utvecklingen), vad gäller medvetande hos avancerad social AI. Alltså att AI är dummare än tåget. Men enligt dig så kommer detta dumma AI att mycket snart ta över världen, förmodligen pga "onda avsikter". Själv oroar jag mig inte längre för "logiska monster", då begreppet, i sig, är en självmotsägelse.

Jag var ironisk Alltid svårt att få fram det i text. Men iaf. Intressant nyhet där om mechanistic interpretability. Mycket positivt att det händer något på området. Men något naivt. Principen verkar bra men det löser ju inte problemet med vem som ska hinna gå igenom modellens 100 miljarder parametrar för att rätta till eventuella fel eller i värsta fall dåliga avsikter. Det kommer ju krävas några sekel av mantimmar men det har väl inte Sam Altman tid att vänta på när han har lovat aktieägarna en GPT 4.5 release i år.

Potent system detta. Undra vad mer som ligger och skräpar i dammiga och hemliga arkiv som äntligen går att läsa?

ChatGPT-4V Multimodal decodes a Redacted government document on a UFO sighting released by NASA.

I have tested this on 100s of redacted documents and I can say we are in a new world.

https://twitter.com/BrianRoemmele/status/1710397599474458818

Jag förstod att du var det. Ingen fara på taket, medjordling. Och givetvis blir det ett hästjobb för AI-talibanerna att få kontroll på modeller som har flera biljoner parametrar.

Trots det så slår sig gärna Anthropic för bröstet när det kommer till deras Constitutional AI, som är tänkt att hjälpa med just detta överväldigande analys och kontrollarbete. Men hur bra de än tycker att systemen är så förblir riskerna oacceptabla. Åtminstone om vi ska ta VD:n för bolaget på orden. Som estimerar en skön katastrof vid nätta 10-25% (!). Welp.

https://twitter.com/liron/status/1710520914444718459

De gör bra saker där. Viktiga upptäckter. Men jag instämmer ungefär med slutsatserna. Riskerna är just nu för stora och det lilla som har framkommit inom AI Alignment & Control räcker inte på långa vägar. Det hjälper inte heller att en hög andel av AI-entusiasterna/talibanerna vägrar att inse situationens allvar.

Bor ganska nära skogen. Snart kan jag rikta GPT-4V mot växtligheten och be systemet markera vad som är ätbart. Det är nog inte otänkbart heller att skogens skafferi kan erbjuda en tillräckligt med nyttigheter för att det, på mindre än ett år, betalar igen vad man initialt måste lägga ut för en flyttbar kameratelefonen.

As a gardener, this is great. I'll be able to delete a paid app that does generally the same thing.

I have over 100 different types of plants, so I pay every month for an app that helps me diagnose issues and care for them.

Soon I will manage the whole garden with GPT-4V.

https://twitter.com/luke_brocks/status/1707079746792677619

10-25 procents risk för allvarliga problem som han nämner är bl.a risken för stora desinformationskampanjer. Alltså inte att "Terminator" skall utrota hela mänskligheten, som ni alarmister/domedagsprofeter brukar skrämmas med! Med de allt större möjligheterna till Deep-fake som nu finns är hans skattning av allvarliga risker helt realistisk.

Desinformationskampanjer är en risk med eller utan AI.

Deepfake är ett svårare problem allt eftersom resultaten blir mer och mer verklighetstrogna, men det finns redan sätt att lösa detta för problemet är egentligen detsamma som nöjesbranschen haft sedan datorernas begynnelse, att kunna avgöra vad som är en äkta eller oäkta kopia av deras program.

Det är förstås enklare sagt än gjort men det närmsta till hands är så klart kryptografiska signaturer på bilder där avsändaren signerar bilden och mottagaren kan validera signaturen, det finns egentligen ganska mycket av all infrastruktur som behövs på plats, det skulle i alla fall möjliggöra att utesluta uppenbara fakes från kända nyhetssidor osv.

Tja, man försöker i alla fall. Här ett exempel ifrån Intel:

https://www.intel.com/content/www/us/en/research/blogs/trusted-media.html

Ja och Open AI gjorde ju liknande försök att försöka avslöja förfalskade texter, det finns två sidor på detta det ena är om man tror att tekniken med neurala nätverk kan förbättras- så kommer aldrig ett neuralt nätverk kunna avslöja vad ett annat neuralt nätverk producerat eftersom det rimligtvis borde lära sig alla skavanker osv som förekommer i verkliga livet.

Jag vill också tillägga, att ovanstående betyder inte på något sätt att jag anser att neurala nätverk kommer bli medvetande eller intelligenta, jag resonerar helt utifrån den kunskap vi vet idag att de kan approximera arbiträra funktioner och en bild är inget annat än frekvensinformation, det är ingen hemlighet alls och det är förövrigt vad i stort varenda bild komprimerings algoritm bygger på, att kunna dekompositera och kompositera frekvensinformation i tex bilder, ljud osv sådant har vi människor kunnat i nästan 200 år det är fourier transform och inverterad fourier transform (eller diskret sådan alternativ cosinus transform om man vill ha en enklare snabbare lösning), också vad tex spotify (som använder vorbis ogg) eller mp3 osv bygger på enda direkta skillnaden är om det är en tidsserie eller inte.
(Och det jag egentligen vill komma till är att fourier teoremet bevisar att vilken signal som helst kan skapas genom att kombinera enkla vågformer som tex sinus, och det här är relevansen till neurala nätverk kommer in igen)

Eller så utgår man från att tekniken med neurala nätverk kommer inom tid kunna producera material som är omöjligt att skilja från verkligt källmaterial och då är den enda lösningen någon sidkanals information, som tex en kryptografisk signatur som kan intyga att skaparen faktiskt är den den är- det fina med kryptografi är att (givet det inte finns en svaghet i krypto i sig) så spelar det ingen roll om attackerare har 100 eller 1 miljon i IQ eftersom det bygger på grundläggande matematiska regler, precis som en människa med 200 i IQ inte kan trotsa fysiska lagar.
Eller för den delen faktum som att 1+1 = 2 förändras inte heller även om du har en miljon i IQ, kryptografi är för den delen en av de områden som det förmodligen lagts mest tankekraft och pengar på i mänsklighetens historia, det är i stort sett enda anledningen vi sitter med datorer idag också- och detta för man genom rå kraft försökt knäcka krypton, det finns fortfarande idag krypton som är flera hundra år gamla som inte knäckts ens med super datorer.

(Sen det här med IQ osv som frekvent figurera i diskussionerna om AI är lite vanskligt eftersom det dels är svårt att sätta fingret på exakt vad det är men också det faktum att det baseras på en normal distribution, så någon som hade IQ 150 för säg 50 år sedan skulle mycket väl kunna haft IQ 4000 eller IQ 30 om de gjorde ett IQ test idag eftersom normen 100 är normaliserad utifrån den distribution människor som lever idag, det är alltså inget fixerat värde och därför meningslöst att prata om vad personer eller än mindre datorer har i IQ, men oavsett vilket har krypton varit något som generellt de smartaste människor som levt jobbat på så det är väldigt genomtänkta saker)

Det enda direkta "hot" som finns mot kryptografi är kvantdatorer men det finns redan i dag (PQC) krypton som inte ens en kvantdator teoretisk skulle kunna knäcka.

Men samtidigt är inget krypto säkrare än nyckel förvaringen som den klassiska XKCD serie strippen ( https://xkcd.com/538/ ) och som jag sa infrastrukturen finns redan på plats på internet för att kunna göra sådant egentligen i och med att certifikat (som alltså är nycklar för att signera och intyga autenticitet) redan nu används för tex klargöra att det verkligen är www.flashback.org du besöker och inte någon annan site som något som har kontroll över till exempel din router lurar dig in på.)

Det är absolut inte fel att se risker, vare sig det gäller vad jävulskap människor kan tänkas hitta på eller vad AI kan tänkas göra i framtiden. Men felet du gör är att du bara fantiserar ut det värsta tänkbara scenariot och mal på om det som den mest extrema domerdagsprofet.

När det kommer till OpenAI:s humanoidrobot NEO, som är den jag tänker på när det kommer till förmågan att gå in i ett okänt hus, hitta köket och brygga en kopp kaffe så har jag valt det exemplet för att det finns de som anser att vi uppnått AGI när en robot klarar av denna uppgift.

NEO väger blott 35 kg. Den kan bara lyfta/bära max 20 kg och är gjord för att vara mjuk om någon råkar stöta ihop med det. Allt detta, givetvis, av säkerhetsskäl.