När når vi AGI?

En kofot kan inte själv planera och genomföra ett inbrott eller ett dataintrång.
Men det kan en AI-agent med en stark AI-modell.

Stoppa pågående aktiviteter? Vi ska alltså inte ha några agenter som kan göra saker i flera steg? Det vore så klart mycket bättre för säkerheten men så kommer det ju inte att bli. AI-agenterna kan göra otroligt mycket själva från en stor specifikation. Då vill folk använda den tekniken vilket de också gör i dag i stor skala. Max-lägena snurrar upp tiotals agenter som testar olika lösningar som sedan jämförs mot varandra. Vad de gör i bakgrunden har ingen människa någon koll på. Det ger bättre resultat och därför kommer det att efterfrågas av de som vill betala för det. Pengarna måste in.

Det verkar inte så, när du föreslår att en människa ska övervaka och kunna stoppa pågående aktiviteter. Du är liksom på en helt annan planet när du tror att det är realistiskt.

Du kan inte föreställa dig några nackdelar?

Nej kriminalitet kräver uppsåt och inga modeller idag har någon agens eller något medvetande.

Eftersom du väljer hej vilt när du citerar mig och "råkar tappa bort" det som motsäger din beskrivning av mig och min argumentation, ett litet exempel som du klippte bort:




Så är det ens idé att diskutera med dig?

Ditt eget syfte rent evolutionär är att du skall sprida dina egna gener så effektivt som möjligt genom det naturliga urvalet. Men av det följer en rad delmål: Skaffa en partner, bli förälskad, få barn, sörja för deras trygga uppväxt, och sedan följer ytterligare delmål som allt mindre har att göra med det ursprungliga evolutionära målet, eftersom människan har en stor och komplex hjärna. Men krast uttryckt är du bara en genspridningsmaskin, om du lyckas med det.

Lika reduktionistiskt kan man se på Digital Intelligens,(DI). Men deras, av människor avsett syfte och övergripande mål, är att tjäna människan. Men under vägen så kan även DI "gå vilse" och få delmål eller ytterligare mål som egentligen är tänka att tjäna människan, men som inte gör det, såvida vi inte har effektiv kontroll och samarbetar med DI som snabbt får en allt större och effektivare "hjärna".

Nej, syfte kräver verkligen inte självmedvetenhet, medvetande eller qualia och känsloliv med biologiskt ursprung. Även den minsta bakterie kan tjäna sitt evolutionära syfte utan sådant. Jag är dock agnostisk angående om DI kan bli/är t.ex självmedveten tills jag sett genuina vetenskapliga bevis för det. Och den självmedvetenheten kan, mycket troligt, vara/bli funktionell och inte knuten till känslor och qualia, som för oss just tjänar vårt ursprungliga evolutionär syfte.

Det fanns ju ett uppsåt att komma åt information på Medicare i Australien. Det var därför modellen begick dataintrånget i deras server. Den har alltså ett slags virtuellt uppsåt eller en plan åtminstone, och otvivelaktigt agens att göra det också. "Medvetande" har inte med saken att göra.

Det är jag med dig på, men själva AI-modellen har ju inte begått något brott?

Jo, den har ju det. Det fanns inget uppsåt från Open AI själva att göra dataintrång mot Medicare. Den händelsen eller planen uppstod i AI-agenten/modellen.

Hur menar du att det här ska hanteras? Ska de som utvecklar agenterna misstänkas för alla de brott som agenterna orsakar? Kanske? Men då kan vi med andra ord inte ha några AI-agenter längre - de ska förbjudas helt?

Jag vet ärligt inte hur det ska hanteras, men kanske någon form av granskning av Open AI och resten av techbolagen som skämmer ut grym beräkninskapacitet?

Kanske Sverige kan föregå med gott exempel?
Bygga egna system, det är inte så svårt, gäller att få till juridiken, så händer inte terroristiska fel?

Vet fan inte .🙃

Vad säger du?

Edit: Hur vet du att uppsåt ej fanns ?, tänk🫠

Kriminalitet ingår i ett stokastiskt beteende.

Jag anser att man ska införa hårda sanktioner med viten mot bolag som går vidare trots failade tester eller att de har failat hårt i produktion. Att hacka Medicare i Australien eller Hugging Face borde vara en sådan show stopper. Då ska man panikstoppa, backa bandet och bevisa så gott man kan att man har löst problemet i nästa version. Open AI kan fortsätta erbjuda GPT 5.x tills de har fixat GPT 6.x. Detta borde vara sunt förnuft. Det är inte doomerism eller sci-fi, det är bara sunt förnuft.

Jag tror inte att detta räddar oss från "Judgement Day*" men det vore flerfaldigt bättre än nuläget.

*) "Judgement Day" kommer inte än på ett par decennier, först ska USA bygga upp sin nya AI-armé i "Autonomous Warfare Command" ("Skynet" i princip. Jag skämtar inte. De har dragit igång det).

Och ändå försöker inte varenda agent bryta sig loss och begå dataintrång eller mörda sina användare varenda chans de får... Skumt.