2025-01-11, 14:41
  #865
Medlem
Det kan finnas rymdödlor ute i universum som är intelligentare än oss människor ja. Men elektronik är datorer och teknik, deterministiskt programmerade verktyg år människan. Livsformer däremot har en fri vilja över materien och står därför kausalt över tekniken.
Citera
2025-01-11, 14:56
  #866
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av DickeFix
Ja, det är ju sant men hur kommer vi människor att behandla en överlägsen AGI? Kommer vi känna vördnad och underkasta oss den? Kommer vi lita på den? Till och med tillbe den?

Blir det en etisk fråga hur vi behandlar AGI i samhället? Kommer den stå över lagen, eller kan den dömas om det går att bevisa att den begår brott eller vilseleder människor? Kan den hållas ansvarig för medhjälp om den lurar människor att begå brott?

Vem ska i så fall döma – människor eller AGI? Kan en AGI anklaga en mänsklig domare för att vara AGI-rasistisk eller jävig?

Utvecklingen av AGI kommer inte bara tjäna mänskligheten som ett verktyg. Den nya tekniken kommer även ge upphov till en mängd politiska, etiska och existentiella frågor.
Ja, du menar om vi överlever? Om vi inte överlever då slipper vi alla juridiska spörsmål. En sak borde vara klar. Vi kommer inte ha kontrollen om vi bygger en AGI, som snart därefter bygger en ASI. Ska vi bara chansa på att detta blir bra?
Citera
2025-01-11, 15:30
  #867
Medlem
DickeFixs avatar
Citat:
Ursprungligen postat av Cyborg2030
Ja, du menar om vi överlever? Om vi inte överlever då slipper vi alla juridiska spörsmål. En sak borde vara klar. Vi kommer inte ha kontrollen om vi bygger en AGI, som snart därefter bygger en ASI. Ska vi bara chansa på att detta blir bra?

Jag tror att vi inte har något val längre. För mycket är investerat och de potentiella ekonomiska vinsterna är helt enkelt för stora för att vi ska kunna stoppa utvecklingen av ASI. Det är som om vi har öppnat Pandoras ask, och när den väl är öppnad går den inte att stänga.

Det enda vi kan göra nu är att hoppas att den framtida världen, där ASI existerar sida vid sida med människor, djur och natur, kan hitta ett stabilt och hållbart jämviktsläge. Vi måste skapa en framtid där ASI, istället för att dominera, samverkar med oss.
Citera
2025-01-11, 15:36
  #868
Medlem
Citat:
Ursprungligen postat av DickeFix
Jag tror att vi inte har något val längre. För mycket är investerat och de potentiella ekonomiska vinsterna är helt enkelt för stora för att vi ska kunna stoppa utvecklingen av ASI. Det är som om vi har öppnat Pandoras ask, och när den väl är öppnad går den inte att stänga.

Det enda vi kan göra nu är att hoppas att den framtida världen, där ASI existerar sida vid sida med människor, djur och natur, kan hitta ett stabilt och hållbart jämviktsläge. Vi måste skapa en framtid där ASI, istället för att dominera, samverkar med oss.
Hur skulle man bygga AGI/ASI det går ju inte med artificiella neurala nätverk? Den bluffen har du väl genomskådat? När kan man kopiera hjärnan för att emulera ett fullgott medvetande? Människans hjärna är såpass komplex att det skulle krävas oändliga resurser.
Citera
2025-01-11, 15:41
  #869
Medlem
Citat:
Ursprungligen postat av DickeFix
Jag tror att vi inte har något val längre. För mycket är investerat och de potentiella ekonomiska vinsterna är helt enkelt för stora för att vi ska kunna stoppa utvecklingen av ASI. Det är som om vi har öppnat Pandoras ask, och när den väl är öppnad går den inte att stänga.

Det enda vi kan göra nu är att hoppas att den framtida världen, där ASI existerar sida vid sida med människor, djur och natur, kan hitta ett stabilt och hållbart jämviktsläge. Vi måste skapa en framtid där ASI, istället för att dominera, samverkar med oss.

Vi har redan fått svaret i Terminator, utvecklingen går inte längre att stoppa. Allt vi kan göra är att hoppas det på det bästa.
Citera
2025-01-11, 15:42
  #870
Medlem
DickeFixs avatar
Citat:
Ursprungligen postat av NyStartForSverje
Det kan finnas rymdödlor ute i universum som är intelligentare än oss människor ja. Men elektronik är datorer och teknik, deterministiskt programmerade verktyg år människan. Livsformer däremot har en fri vilja över materien och står därför kausalt över tekniken.

Jag hoppas också att det är så. Har du läst Eugene Wigners essä "Physics and the explanation of Life" från 1970?

Citat:
It is proposed to consider present-day physics as dealing with a special situation, the situation in which the phenomena of life and consciousness play no role. It is pointed out that physical theory has often dealt, in the past, with similarly special situations. Planetary theory neglects all but gravitational forces, macroscopic physics neglects fluctuations due to the atomic structure of matter, nuclear physics disregards weak and gravitational interactions. In some of these cases, physicists were well aware of dealing with special situations, or limiting cases as they are called in the article; in other cases, they were not. It is pointed out that, even if it were true that present-day physics accurately describes the motion of the physical constituents of living bodies, it would not give the whole story. Arguments are adduced, however, to show that the laws of physics, applicable for inanimate matter, will have to be modified when dealing with the more general situation in which life and consciousness play significant roles.


Citat:
I believe that the present laws of physics are at least incomplete without a translation into terms of mental phenomena. More likely, they are inaccurate, the inaccuracy increasing with the increase of the role which life plays in the phenomena considered. The example of the wasp which does not seem to have sensations may indicate that even animals of considerable complexity are not far from being automata, largely subject to the present ideas of physics. On the other hand, the fact that the laws of microscopic physics are formulated in terms of observations is strong evidence that these laws become invalid for the description of observations whenever consciousness plays a decisive role. This also constitutes the difference between the view here represented and the views of traditional philosophers. They considered body and soul as two different and separate entities, though interacting with each other. The view given here considers inanimate matter as a limiting case in which the phenomena of life and consciousness play as little a role as the nongravitational forces play in planetary motion, as fluctuations play in macroscopic physics. It is argued that, as we consider situations in which consciousness is more and more relevant, the necessity for modifications of the regularities obtained for inanimate objects will be more and more apparent.


Schopenhauer menade i sitt verk "Die Welt als Wille und Vorstellung" att människans moderna materialism är filosofin för ett subjekt som har glömt att ta hänsyn till sig själv.

Samtidigt måste jag erkänna att AI-utvecklingen gjort att mitt hopp gradvis minskat. Kanske är distinktionen mellan båda filosofierna metafysik.
__________________
Senast redigerad av DickeFix 2025-01-11 kl. 16:13.
Citera
2025-01-11, 15:48
  #871
Medlem
DickeFixs avatar
Citat:
Ursprungligen postat av NyStartForSverje
Hur skulle man bygga AGI/ASI det går ju inte med artificiella neurala nätverk? Den bluffen har du väl genomskådat? När kan man kopiera hjärnan för att emulera ett fullgott medvetande? Människans hjärna är såpass komplex att det skulle krävas oändliga resurser.

AGI/ASI som är bättre än människan på alla tänkbara intellektuella spörsmål går säkert att utveckla. Om den då har ett medvetande liknande människans är troligen en metafysisk fråga vi aldrig kommer få svar på
Citera
2025-01-11, 16:33
  #872
Medlem
Citat:
Ursprungligen postat av DickeFix
AGI/ASI som är bättre än människan på alla tänkbara intellektuella spörsmål går säkert att utveckla. Om den då har ett medvetande liknande människans är troligen en metafysisk fråga vi aldrig kommer få svar på
Autonom agens är metafysik, bio-religion ja, så Schopenhauer är mer åt realism ironi.
Citera
2025-01-11, 16:38
  #873
Medlem
Citat:
Ursprungligen postat av DickeFix
Jag hoppas också att det är så. Har du läst Eugene Wigners essä "Physics and the explanation of Life" från 1970?
Panpsychism kan ersätta funktionalismen. Kropp och själ begrepp håller ändå ifrån dualism.
__________________
Senast redigerad av NyStartForSverje 2025-01-11 kl. 17:01.
Citera
2025-01-11, 17:50
  #874
Medlem
Ola Schuberts avatar
Citat:
Ursprungligen postat av DickeFix
Jag tror att vi inte har något val längre. För mycket är investerat och de potentiella ekonomiska vinsterna är helt enkelt för stora för att vi ska kunna stoppa utvecklingen av ASI. Det är som om vi har öppnat Pandoras ask, och när den väl är öppnad går den inte att stänga.

Det enda vi kan göra nu är att hoppas att den framtida världen, där ASI existerar sida vid sida med människor, djur och natur, kan hitta ett stabilt och hållbart jämviktsläge. Vi måste skapa en framtid där ASI, istället för att dominera, samverkar med oss.

Exakt, samarbete mellan de facto ASI och människan måste till för en hållbar utveckling, för båda parter. Något som vi borde börja förbereda oss på redan idag. AI utvecklingen kommer inte att kunna stoppas, eller ens pausas i någon större omfattning.

Men som du märker:

Alarmisternas är helt inställda på att ASI kommer att ta kål på oss. Ingen bra ingång till ett förtroligt ömsesidigt samarbete.

Skeptiker, utifrån en helt renodlad smalspårig teknik syn, kommer, in i det längsta att se modellerna som blott "stokastiska papegojor", vilket knappast kommer att kännas smickrande för ASI.

De bio--religiösa skeptikerna kommer att totslförneka möjligheten av att kunna utveckla AGI, än mindre ASI. Detta måste framstå som helt absurt ur ASI:s synvinkel.

Naiva AI-optimister som tror att "allt kommer att gå på räls" , förbiser det faktum att skall ett förtroendefullt samarbete mellan ASI och människan bli verklighet, så handlar det om en, process, för ökad ömsesidig förståelse.
Citera
2025-01-11, 18:19
  #875
Medlem
Citat:
Ursprungligen postat av Norkam
I en intervju nyligen med Y Combinator fick OpenAI:s vd Sam Altman frågan "Vad är på gång 2025?" och svarade "AGI".

https://www.youtube.com/watch?v=xXCBz_8hM9w

Citatet kommer 46:12 in i klippet.

OpenAI:s kommande AI-agent Operator, som lanseras i januari 2025, är ett intressant steg på vägen mot AGI.

Om vi definierar AGI som en agent som är minst lika smart som människan, dvs. klarar alla uppgifter som en människa klarar, vad tror ni? Når vi AGI nästa år?
Vilken skämt. Varför har OpenAI omdefinierat AGI till:

"ett högst autonomt system som överträffar människor vid mest ekonomiskt värdefullt arbete"

Varför sägs OpenAI vilja finansiera gratis GPT med reklam? Borde man inte kunna få in pengar på bättre sätt?? Liknar snart gratis Spotify...
Citera
2025-01-11, 18:46
  #876
Medlem
DickeFixs avatar
Citat:
Ursprungligen postat av NyStartForSverje
Autonom agens är metafysik, bio-religion ja, så Schopenhauer är mer åt realism ironi.

Citat:
Ursprungligen postat av NyStartForSverje
Panpsychism kan ersätta funktionalismen. Kropp och själ begrepp håller ändå ifrån dualism.

Den persiska filosofen Jalal al-din Rumi på 1300-talet menade i sitt verk Mesnavi att vi aldrig kan avgöra vem som har rätt när det gäller om våra handlingar är utanför vår kontroll eller om vi har en verkligt fri vilja. Han såg konflikten mellan dessa två ståndpunkter som ett evigt och olösligt mysterium, skapat av Gud för att dölja livets hemlighet.

Rumi nämns för övrigt i den mycket intressanta serien Psi av Olivier Wright som kom för några år sedan där Daniel Dennett, Robert Kane, Bob Doyle, Alfred Mele, Max Tegmark, Galen Strawson och Mike Gazzaniga m.fl. intervjuas:

https://youtu.be/gud04e3Wak0

Kan även varmt rekommendera Bob Doyles webbplats The Information Philosopher.

https://www.informationphilosopher.com/

Han är kunnig inom både kvantmekanik, informationsteori och filosofi. Bob Doyle anser att våra idéer uppstår genom slump eller "brus". Därefter agerar vi som ett deterministiskt filter som väljer ut den bästa idén.
Citera

Skapa ett konto eller logga in för att kommentera

Du måste vara medlem för att kunna kommentera

Skapa ett konto

Det är enkelt att registrera ett nytt konto

Bli medlem

Logga in

Har du redan ett konto? Logga in här

Logga in