2025-04-19, 18:09
  #13
Medlem
DAGGER[X]s avatar
Detta är senaste OpenAI releasen. Jag ser inte att detta stannar snart. Denna eller nästa version kanske skriver om hela sin källkod till Neuralese och blir hundra ggr bättre. Som barn läste jag gamla Readers Digest som morfar hade sparat i en kasse från 1930-1950. Där kunde man följa utvecklingen av atom-teknik år för år hur det sakta filtrerade in i det allmänna medvetandet. Från disträa reportage om neutron-relaterade metaller och fotröntgen som kan vara skadligt till CPT-1 och Hiroshima. Hur dom som var gamla då försökte förstå det, gamla generaler som skissade på skyddsrum med 200 meters stål och betongväggar och allt möjligt. Får samma känsla här. Vad säger att den här utvecklingen bara tvärbromsar nästa år? Det skulle vara någon stor extern faktor, ett megakrig med Kina eller en supervulkan som släcker solen, inte alls omöjligt men inget jag räknar med kallt heller.
Citat:
Highlights:
  • The models can agentically use and combine every tool within ChatGPT—this includes searching the web, analyzing uploaded files and other data with Python, reasoning deeply about visual inputs, and even generating images.
  • In evaluations by external experts, o3 makes 20 percent fewer major errors than OpenAI o1 on difficult, real-world tasks—especially excelling in areas like programming, business/consulting, and creative ideation. Early testers highlighted its analytical rigor as a thought partner and emphasized its ability to generate and critically evaluate novel hypotheses—particularly within biology, math, and engineering contexts.
  • At equal latency and cost with OpenAI o1, o3 delivers higher performance. For example, on the 2025 AIME math competition, the cost-performance frontier for o3 strictly improves over o1, and similarly, o4-mini's frontier strictly improves over o3‑mini. More generally, OpenAI expects that for most real-world usage, o3 and o4-mini will also be both smarter and cheaper than o1 and o3‑mini, respectively.
  • For the first time, these models can integrate images directly into their chain of thought. They don’t just see an image—they think with it.


https://openai.com/index/introducing-o3-and-o4-mini/
Citera
2025-04-19, 20:10
  #14
Medlem
DAGGER[X]s avatar
Dessa summeringar kom jag i kontakt med redan 1999 via dåtidens transhumanistiska mailing-listor, vill minnas att FNA länkade till dom ibland. Såg samma saker senare i Kurzweils böcker och runt 2010 fanns hans sida och vissa andra singularitets-sidor. Men det kändes långt bort och spekulativt. Men inte med den senaste tidens framsteg. Nu chattar jag varje dag med dom. En tjej jag känner har en tio kilometers historik med ChatGPT i sin lur.
Citat:
Why Human Intelligence May Be Just a Glimmer of What's Possible

The emergence of artificial intelligence capable of vastly exceeding human cognitive abilities – sometimes termed "superintelligence" – is often framed as an extraordinary claim requiring extraordinary evidence. However, examining the constraints on human intelligence imposed by its evolutionary origins, and contrasting them with the potential of artificial systems, suggests that the possibility of superhuman AI should perhaps be our default assumption.
1. The Constraints of Biological Evolution
Human intelligence is the product of natural selection, a powerful but fundamentally blind optimization process. Evolution operates without foresight, goals, or the ability to jump significant fitness gaps. It tinkers incrementally, selecting only for traits that offer immediate survival and reproductive advantages within specific environmental contexts.
  • No Goal of Maximal Intelligence: Evolution didn't aim to create the smartest possible entity; it favoured traits sufficient for thriving in ancestral environments. Human-level general intelligence, once achieved, may represent a point where the immediate selective pressures for further cognitive enhancement diminished or were balanced by costs.
  • Physical and Energetic Costs: Biological brains are metabolically expensive. Further increases in size or processing power face significant biological hurdles. For instance, larger infant head sizes correlate with increased risks during childbirth, potentially creating a strong selective pressure against significantly bigger brains, regardless of the potential cognitive benefits.
  • Path Dependence: Evolution builds upon existing structures. There might be vastly different and more efficient cognitive architectures achievable through design that are simply inaccessible via incremental biological mutation from our current state.
  • No 'Ceiling' Apparent: Observation of other species doesn't show them tightly clustered just below human intelligence, as if bumping against a natural cognitive ceiling. Instead, there's a vast spectrum, suggesting that the specific level humans reached isn't necessarily a universal limit.
2. The Advantages of Artificial Systems
Artificial intelligence, particularly future Artificial General Intelligence (AGI), is not bound by these biological constraints. Its potential stems from its nature as designed technology operating on a fundamentally different substrate.
  • Raw Speed (Processing & Communication): Biological neurons operate relatively slowly (action potentials around 10^2 Hz or ~120 m/s signal speed). Digital processors already operate orders of magnitude faster (CPUs at 10^9 Hz), and future substrates like optical computing could approach the speed of light. This speed advantage extends to communication; humans typically process language at rates equivalent to ~10-50 bits per second, whereas digital systems communicate at rates like 10^11 bps (e.g., Infiniband), enabling vastly faster information exchange between AI instances.
  • Scalability & Duplicability: Creating a new human expert takes decades of development and learning. Once a highly capable AI exists, it can potentially be copied near-instantly millions or billions of times. This eliminates bottlenecks in acquiring talent. Entire expert teams, or even entire organizational structures proven to be effective, could be replicated on demand. This ability to turn capital into compute, and compute into top-tier "talent" or cognitive work, is transformative.
  • Editability & Recursive Self-Improvement: Humans lack 'root access' to their own cognitive hardware (the brain). Understanding and modifying our 'wetware' is incredibly difficult and risky. AIs, being software and hardware systems, can be designed for introspection and modification. They can possess their own source code, utilize version control, run controlled experiments on copies, debug, and implement improvements systematically. Risky modifications can be tested on backups. This allows for a potentially explosive cycle of recursive self-improvement that biological systems cannot match.
  • Memory (Working & Long-Term): Human working memory is famously limited (holding perhaps 3-7 'chunks' of information consciously). While humans use external aids, an AI's working memory could potentially hold vast datasets simultaneously (e.g., the entirety of Wikipedia, which is ~21 GB of text, easily fits within modern RAM). Furthermore, digital memory is high-fidelity and less prone to the decay, biases, and confabulation inherent in human recall. AIs could have near-perfect, instantly searchable access to all data they've processed.
  • Collective Intelligence & Knowledge Merging: Humans share knowledge slowly and imperfectly through language and demonstration. AIs can potentially merge knowledge directly. Insights gained by one instance could be integrated into a central model or shared perfectly with copies via high-bandwidth internal communication (potentially operating on latent representations rather than lossy natural language). This enables vastly superior organizational learning, akin to a "collective brain" where innovations and knowledge propagate instantly and without degradation, overcoming the limitations of human social learning and knowledge transmission across generations.
  • Architectural Freedom: AIs are not restricted to the specific neural architecture produced by primate evolution. Designers can explore radically different architectures optimized for different kinds of computation or goals, potentially leading to forms of intelligence qualitatively different from and superior to human cognition.
  • Focus & Endurance: AIs lack biological drives, needs (like sleep), and the inherent emotional/cognitive biases that affect human decision-making and consistency. They can potentially operate 24/7, maintain focus indefinitely ('unlimited willpower'), and pursue objectives with a level of rationality and consistency far exceeding human capabilities.
Conclusion: A New Default?
While human intelligence is a remarkable product of evolution, it carries the indelible marks of its contingent, constrained, and unguided origin. Artificial intelligence, freed from many of these biological limitations and benefiting from the unique advantages of digital systems – speed, scalability, editability, perfect recall, and superior collective coordination – possesses a fundamentally higher performance ceiling. Existing narrow AI already demonstrates superhuman capabilities in specific domains (e.g., chess, Go, protein folding). Considering these factors, the emergence of AI that surpasses human general intelligence across most or all domains appears not as a speculative fantasy, but as a plausible, perhaps even likely, consequence of continued technological development. The burden of proof might lie not in demonstrating that superhuman AI is possible, but in arguing why it wouldn't be the eventual outcome.

Citera
2025-04-20, 22:23
  #15
Avstängd
Citat:
Ursprungligen postat av Retropropagation
Du missade den stora frågan, som gör dina frågor obsoleta:

Är det troligt att vi kan utveckla Artificiell Superintelligens m.h.a. digital teknik?

Svaret är nej. Det behövs analog teknik och dit är det långt. Vid den tiden, har ingen av oss överlevt...
Varför behövs analog teknik?
Låter som ett tomt påstående.
Citera
2025-04-20, 23:13
  #16
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av Retropropagation
Du missade den stora frågan, som gör dina frågor obsoleta:

Är det troligt att vi kan utveckla Artificiell Superintelligens m.h.a. digital teknik?

Svaret är nej. Det behövs analog teknik och dit är det långt. Vid den tiden, har ingen av oss överlevt...
OK. Varför tror du det? I verkligheten har vi ju flera företag just nu som enligt sina egna prognoser, och inte min fantasi, är på väg att utveckla AGI och att den kan vara framme redan inom ett par år. När vi har en AGI, och AGI-agenter som kan självförbättra sig genom automatiserad träning (och säkert andra processer som inte är upptäckta ännu) då bör vi ha en ASI ganska snabbt därefter. Veckor, månader kanske. Dessutom går ju utvecklingen av kvantdatorer också otroligt snabbt just nu.

Du försöker väl bara låta smart?
Du har ju inte på något sätt backat upp ditt påstående.
Citera
2025-04-20, 23:27
  #17
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av guru1966
En tydlig effekt är dock att antal sökande till civilingenjörsutbildningar i datateknik har minskat, trots att det är de med den utbildningen som ska genomföra införandet av AI.
Det finns miljontals programmerare i världen. Varför behövs det miljontals fler? Det kommer att behövas några programmerare, men inte speciellt många och inga juniora.
Citat:
Ursprungligen postat av guru1966
Många tror att AI tar datateknikernas jobb, men de flesta prognoser talar om att det kommer att behövas många fler AI-experter och andra kvalificerade datatekniker
Ja, fler AI-experter kommer att efterfrågas men det finns inte jobb för tio miljoner AI-experter. Det är meningslöst att utveckla en modell som är top 30 i världen, alla kommer att använda top 3. De sämre företagen har ingen business. Det räcker med en handfull företag som bygger AGI. Det går dessutom inte rent fysiskt att ha 30 state of the art serverhallar för AI-träning som kan mäta sig med top 3. Det finns inte så många AI-chip att få tag på. Och det hjälper inte att bygga många fler komponentfabriker heller när naturtillgångarna inte räcker till.
Citera
2025-04-21, 10:03
  #18
Medlem
Ola Schuberts avatar
Citat:
Ursprungligen postat av Cyborg2030
OK. Varför tror du det? I verkligheten har vi ju flera företag just nu som enligt sina egna prognoser, och inte min fantasi, är på väg att utveckla AGI och att den kan vara framme redan inom ett par år. När vi har en AGI, och AGI-agenter som kan självförbättra sig genom automatiserad träning (och säkert andra processer som inte är upptäckta ännu) då bör vi ha en ASI ganska snabbt därefter. Veckor, månader kanske. Dessutom går ju utvecklingen av kvantdatorer också otroligt snabbt just nu.

Du försöker väl bara låta smart?
Du har ju inte på något sätt backat upp ditt påstående.

Du behöver inte diskutera med mig: Jag bara konstaterar att du har rätt i det hela stora.

Redan idag tränas Digital Intelligens av annan DI. Själv förbättring liksom ökad autonomi är på gång. Iof så är inte o3 "AGI", trots att modellen leder intelligens ligan med en Mensa test*, där bildanalys används , med sina 136 IQ poäng.

Jag har högre krav en så för AGI. En självmedveten modell med stor autonomi, som har ett varaktigt episodminne. . Inte heller den kommande ChatGPT-5 som sägs bli ytterst kapabel är något "AGI", men väl nära AGI. ChatGPT-6 som kan landa om nuvarande skalningstrender håller i sig kanske redan i slutet av 2026 kommer nog att vara ett troligt AGI. Men helt säker på att vi har ett AGI, enligt min definition kommer vi nog inte att vara förrän ChatGPT-7. En modell som, kanske ihärdigt och långvarigt, talar om för allt och alla att det är självmedveten, inklusive till dess skapare. Efter det lär OpenAI lugna ner sig med offentliga modeller och istället försöka utveckla ett 100 gånger kraftfullare** ASI i labbmiljö. Så din prognos är snarare lite för försiktig!🙂

*Mensa tester är anpassat för människor och ger bara en grov indikation.

** kräver >10 GW datacenter eller radikalt ny chip design, vilket inte är trivialt.

(o3 har hjälp mig med vissa, tekniska detaljer och aspekter)
Citera
2025-04-21, 10:15
  #19
Medlem
Det lustiga är att de rika tror de är i säkerhet i makt av sina pengar men när Asi kommer så kan alla digitala koder knäckas.

De nästa 5-10 åren kommer bli helt galna. Det har redan börjat kan man säga. Ai tar stora skutt var 4 månad.
__________________
Senast redigerad av Intressgruppen 2025-04-21 kl. 10:18.
Citera
2025-04-21, 10:55
  #20
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av Ola Schubert
Du behöver inte diskutera med mig: Jag bara konstaterar att du har rätt i det hela stora.

Redan idag tränas Digital Intelligens av annan DI. Själv förbättring liksom ökad autonomi är på gång. Iof så är inte o3 "AGI", trots att modellen leder intelligens ligan med en Mensa test*, där bildanalys används , med sina 136 IQ poäng.

Jag har högre krav en så för AGI. En självmedveten modell med stor autonomi, som har ett varaktigt episodminne. . Inte heller den kommande ChatGPT-5 som sägs bli ytterst kapabel är något "AGI", men väl nära AGI. ChatGPT-6 som kan landa om nuvarande skalningstrender håller i sig kanske redan i slutet av 2026 kommer nog att vara ett troligt AGI. Men helt säker på att vi har ett AGI, enligt min definition kommer vi nog inte att vara förrän ChatGPT-7. En modell som, kanske ihärdigt och långvarigt, talar om för allt och alla att det är självmedveten, inklusive till dess skapare. Efter det lär OpenAI lugna ner sig med offentliga modeller och istället försöka utveckla ett 100 gånger kraftfullare** ASI i labbmiljö. Så din prognos är snarare lite för försiktig!🙂

*Mensa tester är anpassat för människor och ger bara en grov indikation.

** kräver >10 GW datacenter eller radikalt ny chip design, vilket inte är trivialt.

(o3 har hjälp mig med vissa, tekniska detaljer och aspekter)

Det har ingen betydelse om ASI uppstår om 1 år eller 10 år.

Även om det dröjer 10 år har vi ändå ingen chans att skydda oss mot AI Armageddon. Vilket är det mest sannolika utfallet eftersom ingen har lagt fram en trovärdig teori om AI Alignment. Alla pratar om hur viktigt det är men ingen har berättat hur vi ska göra.
Citera
2025-04-21, 13:15
  #21
Medlem
Citat:
Ursprungligen postat av Cyborg2030
Det har ingen betydelse om ASI uppstår om 1 år eller 10 år.

Även om det dröjer 10 år har vi ändå ingen chans att skydda oss mot AI Armageddon. Vilket är det mest sannolika utfallet eftersom ingen har lagt fram en trovärdig teori om AI Alignment. Alla pratar om hur viktigt det är men ingen har berättat hur vi ska göra.

Helt rätt. Ai och robotar i nuvarande stadie och form är redan ett problem för den stora massan när den börjar implementeras mer och mer av långsamma företag och kommuner. Bara en ökad arbetslöshet på några få % innebär en katastrofal effekt på samhället.

Ubi kan vara en lösning, vi har det redan i många fall med alla kommunala konsulenter,. byråkrater och klipp och klistra jobb.

Ubi funkar nog bäst om det kommer med ett krav om att håller människan upptagna då de inte börjar knarka eller degenera. Alltså fler meningslösa klipp och klistra jobb som egentligen inte behövs men som håller folk från degenererade aktiviteter.
__________________
Senast redigerad av Intressgruppen 2025-04-21 kl. 13:22.
Citera
2025-04-22, 17:10
  #22
Medlem
Citat:
Ursprungligen postat av Cyborg2030
Det finns miljontals programmerare i världen. Varför behövs det miljontals fler? Det kommer att behövas några programmerare, men inte speciellt många och inga juniora.

Ja, fler AI-experter kommer att efterfrågas men det finns inte jobb för tio miljoner AI-experter. Det är meningslöst att utveckla en modell som är top 30 i världen, alla kommer att använda top 3. De sämre företagen har ingen business. Det räcker med en handfull företag som bygger AGI. Det går dessutom inte rent fysiskt att ha 30 state of the art serverhallar för AI-träning som kan mäta sig med top 3. Det finns inte så många AI-chip att få tag på. Och det hjälper inte att bygga många fler komponentfabriker heller när naturtillgångarna inte räcker till.

AI-experter ska inte främst utveckla nya språkmodeller, lika lite som att särskilt många systemutvecklare utvecklar helt nya operativsystem, programspråk eller officepaket. De flesta jobbar med att anpassa grejerna till sin organisations speciella behov, att samla krav från användare och att testa att grejerna funkar. Det behövs miljontals utvecklare som ska skapa inloggningsskyddade chat-tjänster som kan besvara kundernas frågor utifrån deras privata data, och som ska skapa AI-tjänster som ska automatisera manuella processer. Massor forskare inom datateknik, elektroteknik, m fl ämnen, har saxat över till forskning om AI och den utvecklingen lär fortsätta. Det dröjer innan AI blir så självgående att den kan beskriva forskning och utveckling på egen hand.

Ny teknik leder inte alltid till att arbeten minskas, men att kvaliteten i arbetet förbättras. Förväntningarna kommer att öka på hur snabbt och bra en systemutvecklare utvecklar ny funktionalitet, men behovet av systemutveckling är inte konstant.

Fler än du hävdar att juniora systemutvecklare inte kommer att behövas i framtiden, men jag tror inte gränslinjen går där. Båda nya och gamla uvar som inte behärskar AI är de som tappar jobben först.

Datateknik handlar inte bara om kodning. Redan idag jobbar många IT-konsulter främst med kravfångst, test och som IT-arkitekter, och med att specificera krav mot låglöneutvecklare i Indien. Den utvecklingen fortsätter. Nu ska de specificera krav mot AI istället. Same but different.
Citera
2025-04-23, 13:55
  #23
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av guru1966
AI-experter ska inte främst utveckla nya språkmodeller, lika lite som att särskilt många systemutvecklare utvecklar helt nya operativsystem, programspråk eller officepaket. De flesta jobbar med att anpassa grejerna till sin organisations speciella behov, att samla krav från användare och att testa att grejerna funkar. Det behövs miljontals utvecklare som ska skapa inloggningsskyddade chat-tjänster som kan besvara kundernas frågor utifrån deras privata data, och som ska skapa AI-tjänster som ska automatisera manuella processer. Massor forskare inom datateknik, elektroteknik, m fl ämnen, har saxat över till forskning om AI och den utvecklingen lär fortsätta. Det dröjer innan AI blir så självgående att den kan beskriva forskning och utveckling på egen hand.

Ny teknik leder inte alltid till att arbeten minskas, men att kvaliteten i arbetet förbättras. Förväntningarna kommer att öka på hur snabbt och bra en systemutvecklare utvecklar ny funktionalitet, men behovet av systemutveckling är inte konstant.

Fler än du hävdar att juniora systemutvecklare inte kommer att behövas i framtiden, men jag tror inte gränslinjen går där. Båda nya och gamla uvar som inte behärskar AI är de som tappar jobben först.

Datateknik handlar inte bara om kodning. Redan idag jobbar många IT-konsulter främst med kravfångst, test och som IT-arkitekter, och med att specificera krav mot låglöneutvecklare i Indien. Den utvecklingen fortsätter. Nu ska de specificera krav mot AI istället. Same but different.
Jag tycker att du är för optimistisk. Redan i dag pratas det mycket om vibe coding och low code med AI-stöd. Normalt intelligenta människor med datorvana kan redan skapa mängder med programvaror utan att kunna programmera. De kan också använda en AI för att skriva professionella kravdokument. Det kommer säkert att krävas en del utvecklarkompetens även om ett par år men inte i närheten av så många som i dag. Jag tror att i alla fall 70% blir av med jobbet inom 5 år. Tänk också på att AI utvecklas hela tiden och att de flesta stora AI-företag tror att de kan skapa en AGI inom några år.

T.ex.
Spelet Space Invanders,
skapat av o4-mini-high med 2 prompter.

Citera
2025-04-23, 14:21
  #24
Medlem
Citat:
Ursprungligen postat av Cyborg2030
Jag tycker att du är för optimistisk. Redan i dag pratas det mycket om vibe coding och low code med AI-stöd. Normalt intelligenta människor med datorvana kan redan skapa mängder med programvaror utan att kunna programmera. De kan också använda en AI för att skriva professionella kravdokument. Det kommer säkert att krävas en del utvecklarkompetens även om ett par år men inte i närheten av så många som i dag. Jag tror att i alla fall 70% blir av med jobbet inom 5 år. Tänk också på att AI utvecklas hela tiden och att de flesta stora AI-företag tror att de kan skapa en AGI inom några år.

T.ex.
Spelet Space Invanders,
skapat av o4-mini-high med 2 prompter.


Jag är också imponerad av hur snabbt utvecklingen går.

Ungdomar ger dig rätt. Söktrycket till civilingenjör datateknik över hela landet har haft en tydligt avtagande trend sedan toppen 2021, och jag gissar att ett av skälen är att de tror att datateknikers jobb skulle vara mer hotat än t.ex. industriella ekonomer, maskintekniker och elektroingenjörer. (Löneutvecklingen kan också ha påverkat det ökande söktrycket till industriell ekonomi.) 69 % av IT-proffs oroar sig för att ersättas av AI.

Men de flesta prognoser gjorda av experter som jag hittar ger er fel. Tvärtom förväntas antal jobb inom tech kommer att öka under de närmaste åren, särskilt inom mjukvaru- och systemutvecklare samt AI-experter. REdan idag 2025 är kompetenser inom AI och maskininlärning bland de mest eftertraktade på arbetsmarknaden. World Economic Forum förutspår att framsteg inom AI kommer att skapa fler jobb än de ersätter, med ett nettotillskott på 78 miljoner jobb globalt fram till 2030.

Jag hittar dock en prognos som säger " 91.5% of ICT job roles
analyzed are expected to experience either high or moderate transformation due to
advancements in AI". Källa: https://www.cisco.com/c/dam/m/ai-enabled-ict-workforce-consortium/report.pdf . Det har tidningen dagensps valt att tolka som att "AI kan ta över 92 procent av IT-jobben" men så stod det inte. Se https://www.dagensps.se/teknik/ai-kan-ta-over-92-procent-av-it-jobben/?utm_source=chatgpt.com .
Citera

Skapa ett konto eller logga in för att kommentera

Du måste vara medlem för att kunna kommentera

Skapa ett konto

Det är enkelt att registrera ett nytt konto

Bli medlem

Logga in

Har du redan ett konto? Logga in här

Logga in