Vad kan en AI förstå?

Finns det nått svar från AI som man kan lita på, tycker allt verkar väldigt random.

Ja, varför inte. ChatGPT är ju smartare än oss och den kan förklara problemet bättre

Bra fråga. Det är faktiskt ett av de mer intressanta problemen inom AI just nu. Här är en teknisk men kortfattad förklaring varför forskarna inte fullt ut "förstår" hur de största språkmodellerna fungerar:

1. Otransparent optimering

Modeller som GPT tränas genom att minimera en förlustfunktion över enorma datamängder, med tiotals eller hundratals miljarder parametrar. Men gradientnedstigningen som används hittar bara någon lokal minimum i denna extremt komplexa optimeringsyta – det är inte förutsägbart vilka lösningar som kommer att hittas eller exakt varför de fungerar.

2. Emergenta egenskaper

Vissa förmågor (t.ex. logisk resonemang, översättning, kodgenerering) dyker upp plötsligt när modellen blir tillräckligt stor – det är svårt att förutsäga när och varför. Det är alltså inte designat att kunna dessa saker, utan snarare en sidoeffekt av träningsprocessen.

3. Ingen direkt tolkning av vikter

Parametrarna i nätverket (vikter) är matrisvärden utan direkt semantisk betydelse. Det är som att försöka förstå en hjärna bara genom att titta på hur varje neuron är kopplad – du kan se kopplingarna, men inte förstå funktionen direkt.

4. Svart låda även för skaparna

Träningskod, arkitektur och data är kända – men beteendet som uppstår är en konsekvens av komplexa interaktioner. Det är som med djupa neuronnät inom bildigenkänning: vi vet hur vi byggt dem, men inte alltid varför de gör vissa fel eller har vissa styrkor.

5. Begränsad tolkningsvetenskap

Fältet för att förstå neuronnät – t.ex. "interpretability" eller "mechanistic interpretability" – är fortfarande ungt. Forskare försöker analysera enskilda neuroner, mönster i aktivering, modularitet etc., men har bara fragmentariska framsteg hittills.

Kort sagt:

De vet hur man bygger modellerna, men inte varför vissa funktioner uppstår eller hur information representeras internt. Det är som att ha konstruerat en komplex maskin genom evolution snarare än ingenjörsdesign.

Vill du ha exempel på emergenta förmågor eller tolkningsförsök?

Finns det nått problem i samhället som AI löst?

En fysiker som heter Edward Witten säger sitt om medvetandet.
Han säger att han har much easier time imagining how we'd understand the big bang than understanding consciousness.

https://www.youtube.com/watch?v=hUW7n_h7MvQ

Enligt honom är medvetandet ett rätt komplicerat, ett rätt komplicerat problem.
Så om en AI skulle förstå något. Gissar jag att deras medvetande skulle vara annorlunda. När vi jämför med ett traditionellt medvetande. Som en hjärna innehar.

Dels förstår du inte hur AI fungerar. Dels förstår du inte hur IQ-test fungerar. Man har ifrågasatt IQ-testens relevans sedan åttiotalet. Eftersom de inte mäter intelligens. De mäter en specifik förmåga att lösa problem.

Det är inga målstolpar som flyttats just efter introduktionen av AI. Vissa personer är helt enkelt duktiga på att lösa logiska problem. Datorer är synnerligen duktiga på det. I synnerhet på matematiska problem. Vilket troligen förklarar hur en dator kan få höga poäng på ett IQ-test.

Andra personer har istället enorm abstraktionsförmåga. Likt Steve Jobs. Som många uppfattade som geni och synnerligen intelligent. Men som inte nödvändigtvis skulle få höga poäng på ett IQ-test.

Därför har IQ-test betraktats med stor skepsism de senaste trettio åren. Att någon modell fått 130 på ett IQ-test är lika imponerande som att din miniräknare fick alla rätt på ett matteprov.

Om något kan IQ-test mäta brist på intelligensnivå. Får man anmärkningsvärt låga poäng är man antagligen förståndshandikappad. Men i all väsentlighet kan du jämföra IQ-test med det något missvisande namnet nykterhetstest. Som amerikansk polis ofta utför. Med balansgång och akrobatik. De testen visar inte hur nykter du är. Däremot kan de möjligen visa att du är för berusad för att få köra bil.

AlphaFold har löst problem inom forskningen på proteiner. Det kan troligen leda till att man kan hitta nya mediciner.

https://www.unemyr.com/alphafold-en-...skning-och-ai/

Jag tror att AI kan hjälpa oss mycket inom all möjlig forskning och att det kan göra världen bättre. Men jag ser också stora problem och risker. Framför allt med AGI-utvecklingen som pågår. Om de bygger en AI som är smartare än oss kan vi tappa kontrollen. Riskerna är för höga. Jag tycker att man borde bromsa nu och satsa mer på smal AI som AlphaFold. Fokusera mer på att lösa specifika problem än att bygga generell intelligens (artificiella aliens).

Hur tycker du att man ska mäta intelligens?

IQ-test är säkert inte helt rättvisande men vad jag vet är det vårt bästa alternativ i dag, därför får de gälla tills vidare.

Jag menar absolut inte att IQ-test ger en absolut sanning. Jag tolkar resultaten med en stor nypa salt. Egentligen verkar det som en ganska dålig idé med en sifferskala som föreslår att testet har en hög precision. Jag ser det mer grovhugget att någon kan ha låg, medel, hög eller väldigt hög intelligens. Och att det inte nödvändigtvis är så att en person med 120 är smartare än sin kompis med 110 poäng. Men om någon människa eller en AI får över 130 poäng då kan det rimligen tolkas som åtminstone hög intelligens, i runda slängar. I brist på bättre alternativ.

Men det klart, om man redan har bestämt sig för att aldrig erkänna att en AI kan vara intelligent då blir det väl nödvändigt att såga hela konceptet.

AI fattar noll. Därför heter det artificiell intelligens. Om du inte förstår det är du inte intelligent.

Vidare använder den info som vi tagit fram för att göra nya antagande som vi ber den göra. AI forskar inte fram ny fakta via tex mikroskop utan kan använda info vi ger den från vad vi observerar och hur vi observerat saker tidigare. Än så länge......

Om du visste alla svaren på alla Mensa-frågorna, tror du inte att du hade fått ett högt resultat på ett IQ-test då?

Och varför var inte Newton, Hawkings eller Einstein högst upp på Mensas skala, när de uppenbart ligger ljusår före 99,9% av alla andra som gjort ett Mensa-test?

Argumentet är inte att Mensas test är perfekta, eller att intelligens måste innebära höga poäng på testet. Argumentet är att dagens artificiella intelligens faktiskt är intelligent enligt mänsklighetens bästa förmåga att ta reda på det.

Det har väl inte blivit specielt stora förändringar i samhället tack vare AI, nog väldigt överskattat å söndertjatat nu, verkar ju inte hända mått å nu har det ju varit aktuellt i minst tre år.