När når vi AGI?

Klassisk confirmation bias. Du letar aktivt efter information som låter som att det bevisar din tro och allt annat måste bara vara helt fel, även om det kommer från personer med erkänt mer kunskap och erfarenhet i ämnet än du själv besitter.

Klassisk cherry picking,
det finns en känd skeptiker till AGI och du hittade honom

Du bad om ett namn

Tack för namnet, det var ju ingen nyhet vad den gubben tyckte. Det är väl snart dags för OCR-mannen att gå i pension?

Jag minns OCR. Optical Character Recognition. Det var ju den tekniken som postkontoren använde på 90-talet.
De scannade inbetalningskorten för att spara lite tid. De utskrivna räkningarna hade ett speciellt OCR-typsnitt, det används väl fortfarande. En sak är säker. OCR kommer inte att leda till AGI

Fortsätt du att hänga upp dig på vad han jobbade med för flera decennier sedan. Ignorera helt att han för tillfället jobbar med att ta fram AI som lär sig på sätt som mer efterliknar mänsklig inlärning. Läs på om JEPA.

Det är alltid intressant med nya algoritmer men det är testresultat som räknas.

Artificiella Neurala Nätverk efterliknar redan mänsklig inlärning. Geoffrey Hinton fick nobelpriset för den upptäckten 2024 om du minns? Men Geoffrey är numera på min sida, han tror också att AGI kan innebära en existentiell risk.

Hinton said he feels deep personal regret over the risks posed by technology he helped create. “It makes me very sad that I put my life into developing this stuff and that um it’s now extremely dangerous and people aren’t taking the dangers seriously enough,” he said. https://www.timesnownews.com/technology-science/probably-wipe-us-out-godfather-of-ai-geoffrey-hinton-urges-urgent-ai-safeguards-warns-of-existential -risk-article-153490713

Vi får se om OCR-mannen får något nobelpris. Baserat på nuvarande testresultat verkar det inte troligt.

Men om man vill leva i fablernas värld då finns det så klart några halmstrån man kan dra i. Lycka till med det.

Han har kanske inget Nobelpris, men han vann en Turing Award tillsammans med Yoshua Bengio och just Hinton. De tre brukar ju även kallas för AI eller djupinlärningens gudfadrar. Det intressanta är att du helt väljer att förringa honom och hans hypoteser, men det är väl just för att de inte matchar din världsbild.

Det intressanta är att du cherry-pickar ungefär den enda AI-kändisen som inte brukar prata om AI-risker.

Nästan alla andra gör ju det. Även Bengio som du själv nämner. Varför förringar du det som Hinton, Hassabis, Bengio, Yudkowsky, Yampolskiy, m.fl. varnar för?

‘It keeps me awake at night’: machine-learning pioneer on AI’s threat to humanity
Yoshua Bengio talks about his efforts to identify — and address — the risks posed by AI.

https://www.nature.com/articles/d41586-025-03686-1

Yanne är å andra sidan mest känd för 80-talsteknologin OCR.

I rest my case.

2029-12-31

Har jag smutskastat någon av dessa? Du bad om ett namn och jag gav dig ett varpå du helt avfärdar honom trots sina meriter och den AI forskning han har bedrivit och fortfarande bedriver.

Det han argumenterar för är att next-token prediction inte är tillräckligt för AGI och att det istället krävs en förståelse av omvärlden, en världsmodell. Det är inte omöjligt att LLMer visar sig bilda något liknande i sina dolda states, vilket då ger honom fel angående att Transformers inte kan leda till AGI. Men det skulle å andra sidan ge legitimitet till hans hypotes.

Jag har inte påstått att AGI inte skulle kunna orsaka problem, men jag tror inte att det kommer att leda till vår undergång.

Jag gillar föresten att du, som tidigare har gnällt om att andra argumenterar via artiklar bakom paywalls, kastar just en sådan på mig.

Jag utgår från vetenskaplig koncensus. Som jag har påvisat med all önskvärd tydlighet.

Du vill bara bråka om petitesser.

Du är inte intresserad av en debatt, du vill bara ha en fruktlåda och en megafon där du kan stå och proklamera att slutet är nära.

Alla argument som läggs emot rinner bara av som vatten på en gås. "Jag har rätt och du har fel"-retorik.