Trump stoppar GPT 5.6

Låt mig citera Roman Yampolskiy:

"To create a safe ASI we must first build a perpetual security machine that never fails and has zero bugs".

Med vilka tentakler ska en ASI kontrollera världen då? Frågar åt en kompis.

Vilka "tentakler" kommer att vara fria från AGI om 10 år?
Spårvagnar på museum?

Så om 10 år kan man i princip bygga människor eller bättre? Jo tjena.

Tesla släpper sin robot Optimus senare i år.
Av vilken anledning tror du att AI-robotar är omöjliga om 10 år?

Var tänker du att de här "andra" skall få kapital till det ifrån?

En potatisskalare som talar är väl inte så imponerande. Inte kinesiska robotsoldater heller. Det är exempel på smal AI.

Denna tråd handlar sedan om LLM som inte förstår någonting om världen och saknar naturligt gränssnitt att navigera i den. Det är informationssystem mer eller mindre.

Vad gäller bred AI som AGI/ASI så är det någonting helt annat som nog inte finns om 10 år.

Jag håller med dig. Potatisskalare imponerar inte på mig heller.
Tack för att du bidrar med livsviktig information till tråden. Hatten av.

Ja, USA:s beslut är en bra början. Äntligen! Problemet är att övriga länder inte gör något. Vem granskar DeepSeek och Mistral?

Om vi ska ha en chans att undvika att AI utnyttjas storskaligt av skurkar och skurkstater, eller en “AI agent takeover”, måste regeringar kräva att nya modeller fördröjs tills de är riskgranskade och alignade. Starka modeller bör först spridas till utvecklare som kan täta säkerhetshål i vanlig programvara – innan autonoma agenter eller hackers hinner utnyttja dem.

Problem 1: Underrättelsetjänsters och militärens access till AI-modeller borde också fördröjas, som Anthropic försökte, men USA:s och Kinas myndigheter lär fortsätta AI-övervaka människor. Och hindra internationellt förbud mot autonoma vapen.

Problem 2: EU var tidigt ute med lagen “AI Act”, men den reglerar främst användning och etik – inte kapacitetskontroll – och kan därför inte bromsa nya riskabla modeller. Våra myndigheter skulle kunna agera ändå, men gör inget. MSB, PTS, FRA, MUST hänger inte med.

Problem 3: Den största kortsiktiga risken med USA:s beslut tror jag är säkerhetshål i icke‑amerikansk mjukvara och öppen källkod inte hinner tätas med Mythos eller GPT‑4.6 innan skurkarna lägger vantarna på stark AI och hinner utnyttja säkerhetshålen. I Europa utvecklas t.ex. delar av Linux‑distributioner och databaser och kommersiella program som SAP, JetBrains, Kaspersky. Det finns inga rapporter om att de granskats med Mythos.

Problem 4: Europa har för lite riskvilligt kapital för att utveckla lika starka AI‑modeller som USA och Kina, eftersom pensionssparandet i södra och östra Europa är lågt och vi har få miljardärer. “IT‑suveränitet” är inte lösningen. Istället behövs mer samarbete med USA kring riskgranskning och Mythos/GPT‑4.6‑granskning av vår programvara. Kanske måste vi vänta tills Trump lämnar posten 2029 – hoppas det inte är för sent då.

Problem 0: Corporate psykopater som Scam Altman kommer att sätta upp en säkerhetsteater som myndigheterna förr eller senare accepterar. Om inte annat kan de övertyga eller varför inte utpressa politikerna med hjälp av sin AGI. Oavsett om den är klar i år eller nästa år.

Punkt 4 påminde mig:

Med vår feministiska regering vars högsta mål är att leka humanitär stormakt och sprida våra skattepengar till diverse parasiter här hemma och i utlandet så har vi solklart fel fokus och kommer vid någon tidpunkt att gå under, för andra länder lägger fokus där fokus bör ligga.

Jag trodde du om någon skulle tycka att denna broms var bättre än ingen broms.

Jag tänker att P(doom) kanske minskade från 50% till 45% tack vare beslutet, och du kanske säger från 99 till 98%?