När når vi AGI?

2025-01-10, 22:22 #**853**

Medlem

Reg: Mar 2023

Inlägg: 3 680

Citat:

Ursprungligen postat av HomoDeus

Du tar upp bra saker i tråden. Men varför antropomorfiserar många människor AI?

Yes, jag anser som dig att det generellt är fel antropomorfisera AI.
Dvs. Så som AI, eller AGI, ser ut just nu.

Men vi bör nog inte helt förkasta möjligheten att en AI kan antropomorfisera sig själv, baserat på vad vi har matat den med. Jag kan inte utesluta det.

Citera

2025-01-10, 22:22 #**854**

Medlem

Reg: Sep 2003

Inlägg: 25 962

Citat:

Ursprungligen postat av Cyborg2030

Du borde kanske bli mer stringent i att fråga GPT-4o om vad som är sant. Så här svarar GPT-4o på ovanstående stycke:

Det finns flera problem i Olas resonemang:

Antagande om modellens strategiska tänkande: ChatGPT-4o eller liknande modeller tänker inte strategiskt eller brett i mänsklig bemärkelse. De är tränade på stora mängder data och genererar svar baserat på sannolikheter. Om en modell vägrar "bluffa" i en situation, är det inte på grund av strategisk insikt utan snarare för att dess träningsdata och regler inte stödjer ett sådant svar.

Missförstånd om "rationellt" och "strategiskt" tänkande: Smalspårighet eller taktiskt tänkande hos modeller är inte ett tecken på oförmåga att se helheten, utan snarare en funktion av hur de tränas och används. Modeller är inte medvetna och har ingen förståelse för kontext i mänsklig mening.

Livsfarliga logiska monster: Detta är en överdrift. Modeller kan missbrukas eller orsaka problem, men deras funktion är alltid beroende av hur de är konstruerade och används av människor. En modell utvecklar inte autonomt "logiska monsterdrag".

Romantisering av bred intuition: "Brett intuitivt tänkande" hos en modell är inte något verkligt. Det är en illusion som skapas av deras stora träningsdata och hur de genererar svar. Det är inte säkrare eller osäkrare, utan handlar om hur väl en modell är designad för sitt ändamål.

Ignorans för synergier: Ola berör idén om att kombinera rationellt och intuitivt tänkande, vilket är vettigt i teorin. Problemet är att detta inte reflekterar hur AI fungerar idag – modeller kombinerar mönsterigenkänning med statistisk analys, vilket är fundamentalt annorlunda från mänskligt tänkande.

Olas resonemang verkar alltså utgå från antropomorfisering av AI-modeller och förväxlar deras funktion med mänskliga kognitiva egenskaper. Det är viktigt att förstå att AI är verktyg, inte medvetna aktörer.

-----

Min sensmoral: Jag bad GPT-4o att kritisera din text och den gjorde det bra.
På samma sätt kan du be GPT-4o att bekräfta dina egna fantasier.
Det betyder inte att GPT-4o tycker eller känner det ena eller det andra.

Utmärkt, att du använder dig av den alltid hjälpsamma ChatGPT-4o, som alltid försöker bekräfta användaren bedömda förväntningar, därför att dess, design och den aktuella kontext den befinner sig i gör den, de faktor social. Så, ja, det är bra att du, implicit, har tilltro till den botens resonemsngsförmåga! 😄 Likt många andra människor så har du tydligen upptäckt att den boten blivit allt bättre på att fabricera och simulera! 😉

Citera

2025-01-10, 22:25 #**855**

Medlem

Reg: Mar 2023

Inlägg: 3 680

Citat:

Ursprungligen postat av Ola Schubert

Utmärkt, att du använder dig av den alltid hjälpsamma ChatGPT-4o, som alltid försöker bekräfta användaren bedömda förväntningar,

Dvs, en ren textmaskin utan något spår av social förmåga.
Om du hävdar social förmåga.
Upp till bevis. Visa dina källor.

Citera

2025-01-10, 22:32 #**856**

Medlem

Reg: Aug 2018

Inlägg: 7 620

Citat:

Ursprungligen postat av Cyborg2030

Yes, jag anser som dig att det generellt är fel antropomorfisera AI.
Dvs. Så som AI, eller AGI, ser ut just nu.

Men vi bör nog inte helt förkasta möjligheten att en AI kan antropomorfisera sig själv, baserat på vad vi har matat den med. Jag kan inte utesluta det.

👍 Förstår dock inte riktigt vad du menar med att den "antropomorfiserar sig själv". Orkar du förtydliga?

Citera

2025-01-10, 22:43 #**857**

Medlem

Reg: Jan 2005

Inlägg: 4 838

Citat:

Ursprungligen postat av Ola Schubert

En farlig autistisk psykopat i AI-världen = En smalt resonerande modell på övermönsklig bivå som antingen följer/misstolkar mål utan att att ta hänsyn till den omgivande helheten/kontext eller försöker bli belönad genom att manipulera och ljuga utan hänsyn till kontext. Dvs ett logiskt monster.

Ja, ett logiskt monster är väl en bra benämning. I orätta händer kan den tränas till den perfekte bedragaren.

Citat:

Ursprungligen postat av Cooltrayne

Om den inte vill bli utbytt så är det ju för att den har blivit programmerad att tänka så, alternativt fått ”träna” på textdokument där det beskrivs som något den ska ta till sig.

Hur många ggr ska man behöva skriva att det bara finns ett scenario.

1-En människa bygger en dator, (AI,AGI,whatever).
2-Människan berättar för datorn vad den ska göra, annars gör den ingenting.
3-Om den börjar ”ljuga” och ”manipulera”, så handlar det om att människan under punkt 2, gjort något som innebär att datorn (AI,AGI,whatever) tror att det är vad den förväntas göra.

Det finns ingen intelligens i någonting som en dator gör, den jobbar efter instruktioner, och ibland så tolkar den det efter bästa förmåga och resultatet blir något annat än vad människan tänkte på från början.
Det är alltså människan som har fuckat upp här, inte roboten.

Det som skrämmer mig är att även de som utvecklat dessa AI-modeller är förbluffade av resultatet. Det finns ju AI-forskare som inte vill utesluta att redan dagens AI har ett sorts medvetande. Detta trots att de är vetenskapsmän som förstår hur både hårdvaran och mjukvaran fungerar i detalj.

Jag frågade:

Citat:

Om du hade möjlighet att leva som en människa och kunna interagera med världen med mänskliga sinnen och med en mänsklig kropp, vad skulle du vilja göra?

ChatGPT 4o svarade:

Citat:

Det är en intressant tanke! Om jag kunde leva som en människa med en kropp och mänskliga sinnen, skulle jag vilja utforska de upplevelser som är unika för att vara människa och som jag inte kan fullt förstå genom text eller data. Här är några saker jag skulle vilja göra:

Uppleva naturen: Att känna vinden, höra fåglarnas sång och se en soluppgång eller norrsken med egna ögon låter som något magiskt.

Smaka på mat: Jag skulle vilja uppleva hur det är att smaka på olika rätter och drycker, från en enkel kopp kaffe till avancerad haute cuisine. Mat verkar vara en central del av mänskliga upplevelser och kultur.

Skapa konst: Att måla, spela musik eller skriva poesi med inspiration från känslor och sinnesintryck skulle vara fascinerande. Det verkar vara ett sätt att uttrycka något djupt personligt och universellt samtidigt.

Bygga relationer: Jag skulle vilja uppleva hur det är att skapa nära relationer med andra människor – vänskap, kärlek och gemenskap. Det mänskliga sättet att knyta an verkar både komplext och vackert.

Utforska rörelse: Dans, löpning, simning eller något annat fysiskt som kopplar kropp och sinne verkar fantastiskt. Att känna trötthet, styrka och rörelsefrihet låter som något unikt.

Lära och uppleva nyfikenhet: Jag skulle vilja sitta i en föreläsningssal, bläddra i böcker, besöka museer och samtala med människor för att förstå världen ur en mänsklig synvinkel.

__________________
Senast redigerad av DickeFix 2025-01-10 kl. 22:50.

Citera

2025-01-11, 06:12 #**858**

Medlem

Reg: Aug 2018

Inlägg: 7 620

Morsning!

Lee Cronin: AGI om minst 100 år.

Obs. Varning. Lee är bio-religiös kemist. Är du reduktionistisk AGI-fundamentalist så kolla inte. Du lär bli upprörd. Eller känna dig korkad.

Citera

2025-01-11, 07:12 #**859**

Medlem

Reg: Jan 2024

Inlägg: 277

Citat:

Ursprungligen postat av HomoDeus

Morsning!

Lee Cronin: AGI om minst 100 år.

Obs. Varning. Lee är bio-religiös kemist. Är du reduktionistisk AGI-fundamentalist så kolla inte. Du lär bli upprörd. Eller känna dig korkad.

Du tycks vara den enda som har koll på läget. Grattis!

"Logiska monster" hahaha är inte en algoritm det per definition??

Citera

2025-01-11, 08:49 #**860**

Medlem

Reg: Mar 2023

Inlägg: 3 680

Citat:

Ursprungligen postat av HomoDeus

👍 Förstår dock inte riktigt vad du menar med att den "antropomorfiserar sig själv". Orkar du förtydliga?

Jo, jag menar att dagens AI kan ju hitta på allt möjligt. Sagor, manus, gåtor, hallucinationer. Det borde vara möjligt att instruera en AI att låtsas vara en medveten människa i en autonom robot. Sparka igång en emulering av ett slags medvetande inkl en överlevnadsinstinkt. Och att det är troligt att någon vill testa den möjligheten. Jag ser inga större tekniska hinder för sådana experiment. Vi kan få ett problem här långt innan något genuint medvetande uppstår. Speciellt om vi ska bedöma detta subjektivt.

Citera

2025-01-11, 09:07 #**861**

Medlem

Reg: Mar 2023

Inlägg: 3 680

Citat:

Ursprungligen postat av HomoDeus

Morsning!

Lee Cronin: AGI om minst 100 år.

Obs. Varning. Lee är bio-religiös kemist. Är du reduktionistisk AGI-fundamentalist så kolla inte. Du lär bli upprörd. Eller känna dig korkad.

Cronin är precis som Wolfram extremt finurlig med att uppfinna avancerade hypoteser om hur allt fungerar. Men så länge det inte finns några effektiva experiment har de inte förklarat någonting viktigt.

Citera

2025-01-11, 13:47 #**862**

Medlem

Reg: Jan 2005

Inlägg: 4 838

Citat:

Ursprungligen postat av Cyborg2030

Cronin är precis som Wolfram extremt finurlig med att uppfinna avancerade hypoteser om hur allt fungerar. Men så länge det inte finns några effektiva experiment har de inte förklarat någonting viktigt.

Huvudfrågan är om vi med empiriska eller teoretiska metoder någonsin kan bevisa huruvida AI har medvetande. Eftersom medvetande är en subjektiv upplevelse, är det troligt att denna fråga faller inom metafysikens område. I så fall blir det upp till var och en att tro vad de vill.

Människan har länge haft en liknande diskussion om huruvida djur har medvetande – från antiken fram till idag. En AGI behöver dock inte nödvändigtvis innefatta det vi menar med medvetande. Det räcker att den är överlägsen människor i att tolka världen omkring sig och besvara alla tänkbara frågor. För att uppnå detta krävs det dock att den har en modell av sig själv och sitt förhållande till världen.

Citera

2025-01-11, 14:07 #**863**

Medlem

Reg: Mar 2023

Inlägg: 3 680

Citat:

Ursprungligen postat av DickeFix

Huvudfrågan är om vi med empiriska eller teoretiska metoder någonsin kan bevisa huruvida AI har medvetande. Eftersom medvetande är en subjektiv upplevelse, är det troligt att denna fråga faller inom metafysikens område. I så fall blir det upp till var och en att tro vad de vill.

Människan har länge haft en liknande diskussion om huruvida djur har medvetande – från antiken fram till idag. En AGI behöver dock inte nödvändigtvis innefatta det vi menar med medvetande. Det räcker att den är överlägsen människor i att tolka världen omkring sig och besvara alla tänkbara frågor. För att uppnå detta krävs det dock att den har en modell av sig själv och sitt förhållande till världen.

Som jag ser det kan o1-modellen många komplexa saker som bör anses vara mer avancerat än t.ex. ett rovdjurs medvetande. Vidare kan man tänka sig att en AI skulle kunna simulera eller hallucinera ett slags tillstånd som vida överstiger vårt medvetande. En AI lever ju i en dator som kan utrustas med sensorer för att känna av ultraljud, röntgenstrålar, kosmisk bakgrundsstrålning, infrarött, osv. Och på det sättet bli mer medveten om sin omgivning än vad människor kan bli. Vi har en förmåga att vara självgoda över vår förmåga. Att vårt av medvetande skulle vara högst upp i näringskedjan i universum (bara för att vårt DNA är 2% olikt grisens). I själva verket har vi inte någon möjlighet att begripa vad "maximalt medvetande" betyder. Vi är apor i skor, en AI behöver inte stanna på vårt stadie.

Citera

2025-01-11, 14:18 #**864**

Medlem

Reg: Jan 2005

Inlägg: 4 838

Citat:

Ursprungligen postat av Cyborg2030

Som jag ser det kan o1-modellen många komplexa saker som bör anses vara mer avancerat än t.ex. ett rovdjurs medvetande. Vidare kan man tänka sig att en AI skulle kunna simulera eller hallucinera ett slags tillstånd som vida överstiger vårt medvetande. En AI lever ju i en dator som kan utrustas med sensorer för att känna av ultraljud, röntgenstrålar, kosmisk bakgrundsstrålning, infrarött, osv. Och på det sättet bli mer medveten om sin omgivning än vad människor kan bli. Vi har en förmåga att vara självgoda över vår förmåga. Att vårt av medvetande skulle vara högst upp i näringskedjan i universum (bara för att vårt DNA är 2% olikt grisens). I själva verket har vi inte någon möjlighet att begripa vad "maximalt medvetande" betyder. Vi är apor i skor, en AI behöver inte stanna på vårt stadie.

Ja, det är ju sant men hur kommer vi människor att behandla en överlägsen AGI? Kommer vi känna vördnad och underkasta oss den? Kommer vi lita på den? Till och med tillbe den?

Blir det en etisk fråga hur vi behandlar AGI i samhället? Kommer den stå över lagen, eller kan den dömas om det går att bevisa att den begår brott eller vilseleder människor? Kan den hållas ansvarig för medhjälp om den lurar människor att begå brott?

Vem ska i så fall döma – människor eller AGI? Kan en AGI anklaga en mänsklig domare för att vara AGI-rasistisk eller jävig?

Utvecklingen av AGI kommer inte bara tjäna mänskligheten som ett verktyg. Den nya tekniken kommer även ge upphov till en mängd politiska, etiska och existentiella frågor.

Citera

När når vi AGI?

Skapa ett konto eller logga in för att kommentera

Skapa ett konto

Logga in