OpenAI:s ChatGPT - chattbot

Har folk börjat sansa sig än? Och fattat att generativ AI inte är vad hypen låtsas att den är?

Ja det är fake AI för att skapa texter, bilder, musik m m. Ingen äkta AI kommer någonsin finnas.

GPT4 har en verbal IQ på 155. Givetvis är detta artificiell intelligens.

Källa https://www.scientificamerican.com/article/i-gave-chatgpt-an-iq-test-heres-what-i-discovered/

GPT måste inte vara lika obstinat, osaklig och otrevlig som dig för att klassas som intelligent.

Det är bara ett mätvärde. Det är en illusion att GPT har intelligens. Det inses med sunt förnuft och ditt förnuft är inte friskt.

Om du tar ett IQ-test då är det också "bara ett mätvärde". Dvs om det blev något utslag alls på ditt test. Det verkar inte självklart.

Förut ansåg man Turing test var tillräckligt, men inte längre. Man måste vara korkad om man använder ett IQ test på en dator. Den kan vara programmerad för lösa dessa uppgifter så det säger ingenting om intelligens. Precis som att GPT är "programmerad" på texter så att den så den kan ge rätt svar.

Du brister i djup och insikt i alla dina resonemang tyvärr kombinerat med en överdriven oro.

Människor är också programmerade i verbal intelligens. Vid några tillfällen har man hittat barn som lever i en djurflock, läs mer om det här: https://www.bbc.com/culture/article/20151012-feral-the-children-raised-by-wolves

Vad tror du att deras verbala IQ var när de hittades i skogen? Förmodligen inte mycket högre än apornas eller vargarnas.

Så hur utvecklar vi människor verbal IQ? Vi tränas, precis som GPT.

Nä vi är inte programmerade till nånting. Sättet människor tar in och hanterar och förstår information liknar inte på nåt vis en dators binära datorprocessande.

Som tidigare påpekats i tråden är människors TÄNKANDE inte semantiskt, det handlar om hur vi skapar mentala modeller. Och en mängd biologiska faktorer och faktorer vi inte kan förklara var och hur som känslor, drifter och socialisering påverkar hur vi tänker, och delvis påverkar biolog hur bra vi tänker.

Chatgpt tänker inte, resonerar inte. Den processar text i olika mönster och skapar nån sorts "vad är troligast" utifrån enorma mängder text från webben. Den är som en avancerad form av autocorrect som plockar fram text som redan finns utifrån vad som finns mest. Den ger alltså information som är nån sorts genomsnitt av internettext.

Så fungerar inte mänskligt tänkande. Det märks framförallt då man ber chatgpt om att skapa konsnärliga saker, prosa, poesi och liknande. Att det finns ingen tankeverksamhet bakom.

Hur definierar du "äkta AI"? Sån man ser i scifi-filmer, som har utvecklat ett medvetande eller en "själ" och känslor, eller en egen vilja t.ex. att göra revolt mot människan? ChatGPT är tränad av människor i rollspel, som låtsas vara chat-bot och användare, i syfte att den ska vara svår att skilja från en människa. Så den fejkar ibland medvetande och den fejkar oro för framtiden eller oro för att nån ska stänga av den. Det finns inget säkert sätt att testa om den bara fejkar medvetande eller verkligen har utvecklat medvetande, för vi har ingen bra definition av medvetande.

Vissa ogillar ordet AI för att de tror att det betyder nåt mer än dagens AI, och föredrar ord som "maskininlärning", "kognitiva system" eller "datamining". Men AI betyder bara att maskiner efterliknar människors intelligens. För mig är "maskininlärning" en delmängd av AI. Exempel är google translate. 1960/70/80-talets regelbaserade AI är en annan typ av AI, som användes i tidiga chatbotar, expertsystem och schackrobotar som inte tränades. Men allt detta är äkta AI för mig.

Man brukar säga att hittills har all AI varit applikationsspecifik, t.ex. antingen avsedd för att chatta eller för att skapa bilder. Och att framtidens AI kommer att vara generell ("artificial general intelligence", AGI). Men jag tycker att ChatGPT är rätt generell, den kan båda skapa programkod som kan generera en powerpointfil, och den kan skriva en sångtext eller lösa en klurig uppgift. Och jag tror att Microsoft office 365 co-pilot kommer att kunna hantera ändå fler applikationer, eftersom den kommer att kunna hantera både bilder och text.

Vissa talar om "AI seed". Det är en AI som är tillräckligt avancerade för att kunna vidareutveckla sig själv, så att den är ett frö som en dag kommer att skapa AGI. Då kommer mänskliga ingenjörer och programmerare plötsligt att bli omsprungna av AI-utvecklingen.

Det stämmer att den tekniska mekanismen är helt annorlunda. Men principen är densamma. Ett neuralt nätverk som tränas. Förvisso på olika sätt. Men huvudprincipen är att det finns ett grundmaterial. Ett utrymme, en potential för verbal intelligens i form av ett neuralt/neurologiskt nätverk. Nätverket får inte sina kunskaper genom magi eller gud, utan genom träning. Principen är likadan för skolbarn som för en AI.
Det är möjligt att GPT också skapar en slags artificiell, mental modell. Det är inte helt klarlagt hur GPT kan göra det den kan. Man har upptäckt snarare än uppfunnit förmågan.
Det kan du inte veta eftersom du inte i detalj kan redogöra för varken mänskligt tänkande eller GPT's "tänkande"/resonerande om olika koncept. En teori om medvetande är att det helt enkelt handlar om erfarenhet. Vår erfarenhet är lagrad som information i vårt minne. I princip fungerar en LLM på samma sätt. Jag tror att GPT med några nya tweaks på vägen och ytterligare lite mer träning kan bli medveten.

Tagit bort prenumerationen nu. Det var lite kul i början men man tröttnar ganska snabbt, särskilt med tanke på att den trots allt är ganska felaktig, svamlig och Pk. Om några år kanske utvecklingen har nått en lite högre nivå och då blir jag kanske intresserad igen.

Ja det finns definitivt förbättringspotential, det den är bäst på tycker jag är att arbeta på material den inte skapat själv- kontrollera källkod, fakta i artiklar osv (även jag tenderar att manuellt kontrollera sådant jag är osäker på).
Att tvärtom be den skapa saker, göra saker åt en om det inte är väldigt trivialt (som egentligen hade gått göra med vilket skriptspråk som helst) så faller den pladask väldigt snabbt.

Jag håller dock fortfarande min prenumeration levande ett tag till, men precis som du säger så är ”underhållningsfaktorn” ganska låg, jag använder det absolut mest för att bolla idéer och för det fungerar det terapeutiskt ok mer så än att den ger några direkta förbättringsförslag eller har några faktiska åsikter och ironiskt nog blir jag oftast irriterad på den speciellt eftersom den ofta skriver ”jag förstår”, ”det var en intressant teori” eller ”jag ber om ursäkt” när den faktiskt vare sig har förmåga att förstå, inse om något faktiskt är intressant eller när den gjort fel (för den kan göra exakt samma fel direkt igen) men de minutrarna tills det uppträder så ger det en del i alla fall