OpenAI:s ChatGPT - chattbot

Absolut kan den vara ett verktyg att sammanfatta information etc., eller rent av komma med nya idéer, eller hitta information som ingen har uppmärksammat. Idag klarar ingen människa ens att hinna med att läsa alla papers som produceras inom enbart AI-området, såg nån siffra på 1 ny rapport var 5:e minut. Teoretiskt sett kan AGI redan vara uppfunnen, men kunskapen begraven i någon rapport från 90-talet...

Problemet med att utgå ifrån vad ChatGPT klarar eller inte klarar, är att den tränas av människor, man vet inte om det svar man får är tillrättalagt av en människa eller inte. I den meningen är den snarast en hybrid-AI. Även den automatiserade proxy-träningen man gör utgår från någon form av mänsklig etikettering av bra och dåliga svar.

Men kritikerna har i alla fall i viss mån ändrat innehållet i sin kritik efterhand ser det ut som, men håller nog ändå med om att ChatGPT forfarande saknar den modell av verkligheten som krävs för att bedöma rimligheten i de svar den ger. Det krävs forfarande en människa för att göra den bedömningen.

Är det ens värt att plugga någon universitetsutbildning nu?

Att strunta i riskerna är som att konsekvent strunta i att stanna vid rödljus för att man vill komma fram snabbare.

Schack är ett dåligt exempel eftersom man inte behöver mänsklig input för att träna en schack-AI, den kan spela mot sig själv. Vilket är det man gjort för att nå de bästa resultaten.

I GPT-4 använder man däremot human-reinforced training, eftersom det inte alltid är enkelt att avgöra vad som är ett "bra" eller "korrekt" svar, till skillnad från schack där det bara finns förlust, remi eller vinst.

Men som sagt, PaLM ligger ännu lite högre än IQ 83, och säkert GPT-4 också. Men utvecklingen har ändå varit linjär än så länge. Det är inga enorma framsteg relativt mängden "compute" man lägger ner. Det är mestadels brute-force engineering snarare än vetenskaplig förståelse av hur kognition, logik, resonemang och mänsklig intelligens fungerar.

Du förstår inte hur stort det skulle vara om GAI nådde 83 i IQ. Vi är inte där än men i många avseenden kan gpt föra vettigare diskussioner än folk här.

Vilka risker ska du strunta i och varför?

GPT 4 är mycket större än GPT 3.5. Men det är bara början. De kommer att släppa GPT 5, 6 osv. I den här takten kanske det sker redan under 2023. De kommer även börja kombinera olika slags AI till en programvara. GPT 4 är redan det, den kommer att hantera bilder, video och ljud.
Utvecklingen kan gå mycket snabbare än vad många tror. Det man också ska komma ihåg är att det kommer att uppstå en feedback-loop. När AI:n är på vår nivå kan den forska, programmera och förbättra sig själv på vår nivå. Men mycket snabbare. Och med mycket mer fakta att utgå från. Det kan leda till en explosion av intelligens där den dagligen blir exponentiellt smartare än dagen innan.

Jag tror att en framtida AI kommer betrakta oss som vi betraktar fridlysta djur. Något värdefullt som ska bevaras. Vi är ju dess föräldrar trots allt. Men det återstår att se. Oavsett tror jag inte att vi kan stoppa utvecklingen. Även om vi skulle få till ett regelverk inom EU eller FN skulle inte det följas av Ryssland och Kina.

Ehehe.. har folk sån tilltro alltså, eller är så att man har man helt tappat tron på att människan inte klarar det? Eftersom vi är korrumperade av pengar, makt och prestige?

Hur får den mig att göra av med färre kilowatttimmar när jag lagar mat på spisen, eller duschar så mycket som jag vill, eller laddar min elbil? Eller hur tänker du den "ska lösa"?

Det kanske är enklare för en tillräckligt sofistikerad AI att lösa problemet med att producera abnorma mängder billig energi, istället för det ännu svårare problemet att få dumt folk att sluta med dumma saker?

Mjo, om det är på distans så kan du få nästintill gratis poäng och studiemedel i många kurser.

GPT4 kan ta bilder som input men ger bara text-output, men det är ingen nyhet med multimodala modeller.

Om det skall uppstå en självförstärkande feedback-loop måste kvalitén bli mycket bättre, risken att den matar sig själv med felaktig information är alldeles för stor i dagsläget när felprocenten fortfarande är så hög.

Vi får väl se om och när det kommer någon kommersiellt användbar produkt med GPT-4, i en mer begränsad domän där indata och utdata kan kontrolleras så kan den möjligen fungera tillräckligt bra, men det återstår att se om tekniken är pålitlig nog för annat än icke-kritiska applikationer.

Nä, jag är skeptisk, lite food for thought:

"The Fubon Center hosted a fireside chat featuring Gary Marcus, Scientist, Author & Entrepreneur, in conversation with NYU Stern Professor Foster Provost as they discuss, “What AI is and isn't. What AI can do, and what it cannot." This event was hosted on Wednesday, October 19, 2022 and is a part of Fubon Center’s AI in Business Speaker Series. "

https://www.youtube.com/watch?v=4vCZ53AEgA0

Är regression fantastiskt och utan sann kreativitet? Nej.

Det är väl lätt att få dig slösa mindre energi när du duschar så mycket du vill, det är bara att ge den möjlighet att styra temperaturen på vattnet.