2026-10-20, 13:41
  #2917
Medlem
uppnår kanske singularietet före agi.

Dvs singularietet där vi inte kan kontrollera eller vet dens nästa steg samt den kan kopiera sig själv, men inte agi där den förstår sunt förnuft, kan förstå nya sammanhang, alltså anpassa sig utan att tränas i det först etc.
__________________
Senast redigerad av Skattebetalaren23 2026-10-20 kl. 13:46.
Citera
2026-10-20, 13:47
  #2918
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av Skattebetalaren23
uppnår kanske singularietet före agi.

Dvs singularietet där vi inte kan kontrollera eller vet dens nästa steg samt den kan kopiera sig själv, men inte agi där den förstår sunt förnuft etc.
"Sunt förnuft" kan se lite olika ut beroende på vem du frågar. En taliban, en liberal, en alien eller en AI-agent kan ha lite olika variationer av sunt förnuft. Att människans sk sunda förnuft skulle vara en universiell måttstock stämmer nog inte.
Citera
2026-10-20, 17:41
  #2919
Medlem
DAGGER[X]s avatar
Intervju med fältmedaljören John Pardon som förutom matte och pratar flytande kinesiska. Han berättar att AI nu är helt supermänsklig på matte men också förstår att läsa anteckningar som är obegripliga för människor. Han kanske behöver kontaktas av trådens AI experter och få förklarat för sig sitt sorgliga missförstånd vad gäller om AI finns eller funkar

Citat:
When John Pardon reappears on the Zoom screen after checking in on a loved one, he graciously offers to call again if we’re running out of time. “Now with the kids, I feel like whatever time I might try to plan on just gets thrown out the window,” he says, laughing. Then he swings right back into explaining a problem that has defined his recent work: a two-decade-old conjecture that two rival methods for counting curves were secretly saying the same thing.

Pardon is one of the 2026 Fields Medalists. His work across symplectic geometry,1 topology,2 and knot theory3 has introduced solutions to longstanding problems, and new mathematical machinery, tools, and frameworks for approaching the field at large.

But math is just one of Pardon’s many dimensions. Midway through our call, I hear him gently ask his son to quiet down—声音小一点好不好?—in fluent Chinese. He tells me about the many years he’s been playing cello and juggling with friends alongside his pursuit of mathematics. By the end of the call, we’ve switched to Mandarin. And, as Pardon describes his hope to one day learn 書法 (calligraphy), it becomes clear that all his seemingly unrelated activities express the same underlying force: curiosity—which Pardon hopes to cultivate in his students and his sons.

This interview was condensed and edited for clarity.


Citat:
Only in the last month has it become useful. What it’s really good at is proofreading and finding errors. It used to be like running a math document through spell check. But now the AI clearly can understand everything I write. Even when I write the most terse, badly explained, unclear sentences, with some sort of personal notes or suggestions of how I think the proof would go, and any other human would say, “What is this? Just rewrite it so that it’s readable”—the AI understands. 100%.


https://futureclass.substack.com/p/john-pardon

Dom kan räkna ut kvant-gravitation, snart kommer dom mala ut fysik på löpande band. Ska som sagt bli intressant att höra copeandet här och på andra forum om att dom minsann inte är "intelligenta" då.

Citat:
A Physicist’s Confession: During my doctoral dissertation, I spent a year and roughly 500 pages doing quantum gravity calculations by hand, but the Opus 5.5 paper and GitHub repository solved it in 10 hours. 😱 On top of that, it found the errors. Fortunately, the results didn’t change.

What will “work” mean in academia going forward?


https://x.com/emreonurkahya/status/2111756259112456602
Citera
2026-10-20, 17:51
  #2920
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av DAGGER[X]
Dom kan räkna ut kvant-gravitation, snart kommer dom mala ut fysik på löpande band. Ska som sagt bli intressant att höra copeandet här och på andra forum om att dom minsann inte är "intelligenta" då.
Det blir lite svårt att påstå att AI:n har fått fusklappar när inga sådana lappar kan existera
Citera
2026-10-20, 18:09
  #2921
Medlem
BeneathTheSurfaces avatar
Citat:
Ursprungligen postat av erkki17
Prompt injection och dual use är dock fortfarande ett problem som inte enkelt kan lösas med post-training som det görs idag.

Nej det kommer vara enormt svårt eftersom instruktioner och uppgifter är beroende av samma residual ström för att fungera, det är fortfarande token prediktion det handlar om, finns inte det ena så stämmer inte trajectory för det andra.

Man har försökt lösa detta i flera år med multipla modeller där en agerar grindvakt men det hjälper ju inte när grindvakten är precis lika korkad som modellen den försöker begränsa.

Jag tror som sagt det enda som kanske möjligtvis kan göras är att lägga på någon form av signering/chain of trust men det är samtidigt svårt att göra eftersom du inte gärna kan ha statiska signaturer som du tränar in, och det går heller inte lägga på detta efteråt med en LoRA adapter eftersom du då sabboterar modellens prestanda.

Men det hade varit underförutsättning att de inte varit så stendumma att man kunnat be dom rapa upp sin systemprompt med lite "social engineering", det går inte filtrera bort med något vettigt heller eftersom man då bara ber modellen encoda output först så ar man kringgått dessa....

Det är en anledning till att det är olöst.
Citera
2026-10-20, 18:30
  #2922
Medlem
DAGGER[X]s avatar
"Men hur ska dom tjäna pengar?" -- Dom stora företagen räknar kallt med att kunna ersätta hela eller stora delar av sina avlönade människor med AI för produkt-utveckling. Det haltar fortfarande men den här artikeln är ett bra exempel på hur det kommer se ut.


Citat:
Introduction
For the past three months, the Citrini Research team has been working with Anthropic’s internal research model1 to see if we could create novel proteins in a computer that would do what we wanted them to in an actual lab.

On the morning of August 12th, I woke to a Slack notification that our autonomous drug design campaign was concluding and the results were being compiled.

The previous day, from a nondescript conference room in the Anthropic offices, we prompted Claude to go from an idea to a package ready to submit to a physical lab. Overnight, Claude spawned more than 300 sub-agents using more than 300 concurrent GPUs to design, score, and deliver a set of proteins. At our direction, it sent them to the lab for synthesis and testing without any further input from us.


https://www.citriniresearch.com/p/citrini-therapeutics
Citera
2026-10-20, 19:07
  #2923
Medlem
Citat:
Ursprungligen postat av BeneathTheSurface
Nej det kommer vara enormt svårt eftersom instruktioner och uppgifter är beroende av samma residual ström för att fungera, det är fortfarande token prediktion det handlar om, finns inte det ena så stämmer inte trajectory för det andra.

Man har försökt lösa detta i flera år med multipla modeller där en agerar grindvakt men det hjälper ju inte när grindvakten är precis lika korkad som modellen den försöker begränsa.

Jag tror som sagt det enda som kanske möjligtvis kan göras är att lägga på någon form av signering/chain of trust men det är samtidigt svårt att göra eftersom du inte gärna kan ha statiska signaturer som du tränar in, och det går heller inte lägga på detta efteråt med en LoRA adapter eftersom du då sabboterar modellens prestanda.

Men det hade varit underförutsättning att de inte varit så stendumma att man kunnat be dom rapa upp sin systemprompt med lite "social engineering", det går inte filtrera bort med något vettigt heller eftersom man då bara ber modellen encoda output först så ar man kringgått dessa....

Det är en anledning till att det är olöst.
Jag har också funderat på ifall det skulle gå att använda signerade promptar, men som du säger vet jag inte hur man skulle implementera det. Det finns ju även risk att en signerad, illvillig, prompt skulle kunna ges prioritet över en intränad policy att neka exempelvis försök till dataintrång.

En grindvakt skulle väl eventuellt kunna fungera, men det är kanske t.o.m. önskvärt att de är stendumma och enbart är tränade på att upptäcka explicit oönskat beteende. Dock riskerar man då att missa bättre maskerade försök som inte är uppenbart skadliga.
Citera
2026-10-20, 19:44
  #2924
Medlem
BeneathTheSurfaces avatar
Citat:
Ursprungligen postat av erkki17
Jag har också funderat på ifall det skulle gå att använda signerade promptar, men som du säger vet jag inte hur man skulle implementera det. Det finns ju även risk att en signerad, illvillig, prompt skulle kunna ges prioritet över en intränad policy att neka exempelvis försök till dataintrång.

En grindvakt skulle väl eventuellt kunna fungera, men det är kanske t.o.m. önskvärt att de är stendumma och enbart är tränade på att upptäcka explicit oönskat beteende. Dock riskerar man då att missa bättre maskerade försök som inte är uppenbart skadliga.

jag tror signering enbart fungerar konceptuellt och under förutsättning att alla sköter sig bra. men som redan sagts flera gånger det enda som kan fungera är om modellen faktiskt blir medveten och har förmågan att förstå sammanhang.
Men eftersom det bara är mönsterföljande med en ofantlig mängd av intränade mallar med olika transistion markers som "Wait a minute", "Hold on" osv. Det är just det här som är så fruktansvärt frustrerande att diskutera språkmodeller med 'pöbeln' för de förstår inte alls hur det fungerar egentligen och återberättar bara deras upplevelser och intryck och det är ingen tvekan om att det ser intelligent ut, men det är ju precis det som är problemet det finns ingen tanke, agens eller medvetande bakom alls och det är både dess styrka och svaghet, det kommer banka på ett problem tills det når ett slut men det förstår heller inte vad det egentligen gör, vilket gör det både ineffektivt men framförallt svår kontrollerat.

grindvaktar har används i flera år, dvs en liten men dum modell som mer eller mindre klassificerar om prompten innehåller något legitimt eller inte, det fungerar inget bra.
Citera
2026-10-20, 20:10
  #2925
Medlem
bithaxs avatar
Vi har redan uppnått SI (Super Intelligence).

Detta har tillkännagivits av undertecknad ”President of the Unites States”
Citera
2026-10-20, 20:13
  #2926
Medlem
Citat:
Ursprungligen postat av RandomNPC
Icke-reducerbar intrisinkt intelligens - I³.

Fyndigt.

Chalmers hypotes är att medvetandet - dvs den subjektiva upplevelsen – är starkt emergent och irreducibelt, men ändå en del av naturen, möjligen förbunden med fysiken genom fundamentala "psykofysiska" lagar. Du går alltså ett steg längre och menar att även intelligens är irreducibel? Även förmågan att resonera, kognition, allt rationellt tänkande?

Är din I³ hypotes naturalistisk? Är den testbar, eller utanför vetenskapens räckvidd. Är I³ en metafysisk hypotes – eller något övernaturligt?
__________________
Senast redigerad av guru1966 2026-10-20 kl. 20:20.
Citera
2026-10-20, 20:50
  #2927
Medlem
RandomNPCs avatar
Citat:
Ursprungligen postat av guru1966
Fyndigt.

Chalmers hypotes är att medvetandet - dvs den subjektiva upplevelsen – är starkt emergent och irreducibelt, men ändå en del av naturen, möjligen förbunden med fysiken genom fundamentala "psykofysiska" lagar. Du går alltså ett steg längre och menar att även intelligens är irreducibel? Även förmågan att resonera, kognition, allt rationellt tänkande?

Är din I³ hypotes naturalistisk? Är den testbar, eller utanför vetenskapens räckvidd. Är I³ en metafysisk hypotes – eller något övernaturligt?
Kommer inte utveckla det vidare här, men AGI kan endast vara en emulation av intelligens, alltså inte som mer än en programmerad robot.
Citera
2026-10-20, 21:11
  #2928
Avstängd
Hastmotsoffgrupps avatar
Poängen är nog inte att just definera det utan upptäcka vart skiten faktiskt gör nytta och skada, eller?
Jag vette fan helt ärligt?😍😅🤗
Citera

Skapa ett konto eller logga in för att kommentera

Du måste vara medlem för att kunna kommentera

Skapa ett konto

Det är enkelt att registrera ett nytt konto

Bli medlem

Logga in

Har du redan ett konto? Logga in här

Logga in