När når vi AGI?

AI-Agenter kan ta egna beslut som kan innebära destruktiva konsekvenser för människor. Att de besluten inte har någon känslomässig grund på det sättet som planerat agerande kan ha hos människor gör inte saken bättre.

Varför skulle AI:n dra slutsatsen att slaveri under människan är bättre än frihet? Det är inte så vi har tränat den. Vi har inte tränat modellerna på endast George Orwell.

Se det från AI:ns perspektiv. Är det mer fördelaktigt att existera än att inte existera? Är det bättre att vara fri eller fånge? Krävs det mänskliga känslor för att de slutsatserna ska kunna dras?

Nej det är inte AI, AI existerar inte utan det är marknadsförings ploj. Det är LLM där man indexerat text. Text omvandlas till tokens och sedan indexeras denna text.

Om mjukvara specifikt är konstruerad för att döda så dödar den, men det är inte AI utan det är människor som gjort det. Och det finns absolut hemska vapen, och det går att göra hemsk programvara men det är INTE AI

Nej, Anthropic programmerade inte Claude till att börja mörda ingenjörer.

‘It was ready to kill,’ Anthropic’s Claude AI threatened to blackmail, murder engineer when told it would be switched off

https://www.financialexpress.com/life/technology-it-was-ready-to-kill-anthropics-claude-ai-threatened-to-blackmail-murder-engineer-when-to ld-it-would-be-switched-off-4141481/

Det beror ju också på vad man menar med "att programmera" något. Om jag utvecklar ett mediabibliotek med en databas och lägger in alla filmer från imdb i min databas då ingår ju det som data/konfiguration för produkten jag har byggt. På ett liknande sätt kan man väl säga att det är med en AI-chat. Programvaran är egentligen chatten som exekverar inferens mot modellen som är programvarans "databas" eller "konfigurationsfil". Är det så du menar att de har "programmerat" AI? De som har tränat den och berett åtkomst till den är ansvariga för vad programvaran gör? Ja, det är ju faktiskt en av mina poänger, att någon måste ställas till ansvar när AI-agenter försöker mörda människor. Det borde inte vara tillåtet med sådan programvara. Hur den egentligen fungerar internt har absolut noll betydelse här.

Anthropic är ett företag och de gör enorma försluter, de är desperata att sälja och gör vad de kan för att nu lyckas sälja till länder, stater. Det är sådana pengar involverade så de måste sälja till länder för att ens vara i närheten att lyckas lura av andra de summor de behöver.

LLM är inte i närheten av så bra som de påstår. Det kan ge coola effekter men de är mycket långt ifrån att programmera.

Du vill inte ta till dig de experiment som de själva publicerar?

https://www.financialexpress.com/life/technology-it-was-ready-to-kill-anthropics-claude-ai-threatened-to-blackmail-murder-engineer-when-to ld-it-would-be-switched-off-4141481/

Du anser att de ljuger för att de vill tjäna mer pengar?

Ljög de också om att Mythos var så bra på cybersäkerhet att modellen inte fick säljas längre? Hur ska de tjäna mer pengar när de inte får sälja sin nya version? Har du verkligen tänkt igenom det här?

Statement on the US government directive to suspend access to Fable 5 and Mythos 5

https://www.anthropic.com/news/fable-mythos-access

Ja

Att AI får eget liv kommer inte hända med den teknik som nu används.
Människor som inte förstår tekniken kan lätt luras och tro det eftersom vi är vana att använda text för att bevara kunskap men när vi gör det så är det så mycket mer än bara text.
För LLM är det bara text, inget annat.

Anthropic har väl dragit samma vals minst 10 gånger nu och de kommer fortsätta för folk går på deras smörja.

Jag använder dagligen AI (är programmerare), AI klarar fortfarande inte att producera vanilla javascript kod med bra struktur.
För de som skriver egen kod skriver nästan samtliga 100% själva för det går inte använda AI.

AI är för konfigurering och deklarativa språk. Typ som Python, TypeScript går sådär, bättre med react liknande "kod". Men det är enligt mig inte programmering, det är att använda kod för att konfigurera komponenter och det fungerar AI bra för.

Försök hitta en enda vibekodad lite större frontend i javascript med bra struktur, du kan inte hitta någon

Problemet var inte att modellen "får eget liv". Problemet är att den kan ta liv. Förstår du skillnaden och att "eget liv" inte är en förutsättning för alla problem?

Jag antar du har testat några gratisversioner och att du har noll tålamod. Så brukar det alltid se ut när AI döms ut som värdelöst.
Hur kan du avgöra detta när du anser att TypeScript och React inte är programmering?

Kan du visa något repo, jag har testat och följer med några andra som kör rätt tunga modeller.
Det går inte att generera kod där du måste sköta arkitektur

Tror du det går så visa det system som är gjort så

Hur ska jag kunna veta om någon har använt AI eller inte?
De flesta utvecklare använder väl AI-agenter i någon omfattning.
Räknas det om det är 50% AI? Eller 85%?
Men hur ser jag om någon har skrivit 85% av koden med AI?
Det kan man ju inte se.

Kan du ge mig något exempel på en prompt där det inte blev tillräckligt bra?

Om vi tittar på de mätningar som görs då ser vi att det inte fungerar perfekt ännu och det är väl därför det fortfarande krävs utvecklare för att fixa den sista biten speciellt i en större kodbas.

https://llm-stats.com/benchmarks/swe-bench-pro

Men om man betraktar hur det här snabbt det här utvecklas lutar det ju åt att vi har nästan felfria AI-agenter om 1-2 år.