AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Varför flyger det överhuvudet gång på gång.

Det vi förstår är hur man bygger tändsticksaskar och lägger tändstickor i dessa.
Det vi inte kan förutsäga är hur dessa tändstickor lägger sig i asken, men det förändrar inte faktum att det fortfarande är en ask med tändstickor.

Nej, en LLM är inte en ask med tändstickor. En LLM är inte heller en samling halmstrån formad som en halmgubbe även om exakt detta är ditt starkaste argument just nu.

Det är svårt att tänka sig sämre förutsättningar än de som existerar idag. En sak till som är värt att påpeka är att forskning på AI-säkerhet endast utgör 2% av all AI-forskning vilket är fullständigt vansinne. Det finns i praktiken ingen säkerhet alls utan man kör bara på och hoppas på allt ska gå bra, men ser man på hur det gått hittills så tyder allt på att raka motsatsen kommer ske.

Men det är förstås inget problem om man är en galning som tror att AI är jämförbart med en miniräknare eller tändsticksask.

En LLM är en "statistisk databas", det du/ni pratar om är magi, magi finns inte på riktigt. Och jag förstår ärligt talat inte argumenten alls... för det finns ingenting som vi kan detalj förklara i verkligheten eftersom vi inte förstår hur tex kvantmekanik fungerar fullt ut, trots år hundranden av forskning inom fysik (även om just kvantmekaniken "bara" är drygt 100 år gammal).

Vad är egentligen skillnaden mellan en obegriplig språkmodell och magi? Vi vet ju ungefär lika lite om magi som vi vet om de största språkmodellernas förmågor. När vi har en AGI inom några år lär dess förmågor vara än mer överraskande än någon illusion från någon "magic show" någonsin.

Skillnaden är att det ena kan vi inte förklara, det är övernaturligt.

dagens AI teknik är inte det, vi förstår i detalj hur den fungerar och den härstammar helt från statistisk vetenskap. Det innebär inte att det inte går använda det, jag har åtskilliga gånger förklarat för dig att statistik har används i drygt 500 år redan det är jättebra för att fånga trender men det är inte exakt, precis som inte en språkmodell är exakt.

Det var det jag försökte förklara i tidigare inlägg att om du skriver upp alla relationer mellan ord används, så får du ett statistiskt samband det är därför tex "King - Man = Queen", det är ett statistisk samband som kan formas om du har tillräckligt med samplings underlag, det är inget som modellerna "tänker ut".

När och om vi har en AGI så är naturligtvis farhågor om säkerhet en helt annan sak men vi är inte där idag och det är extremt osannolikt vi når dit med nuvarande arkitektur, sen kan självfallet någon helt slumpmässigt komma på något helt nytt som är mer lovande för den tillämpningen.

Men gemensamt är att både AGI och magi är teoretiska koncept (det ena alltså att en maskin ska kunna utföra samma kognitiva uppgifter som en människa, det andra handlar om att trotsa alla naturlagar vi känner till, skulle magi kunna förklaras vetenskapligt upphör det att vara magi) som inte finns någon verklig motsvarighet till idag.

Och som jag sa är definitionen av magi något vi inte förstår så är hela verkligheten magi eftersom vi helt enkelt inte förstår eller kan förklara den. Men vi har ofantligt mycket empiriskt underlag för att hävda vad den är, precis som vi har ofantligt mycket underlag för vad en LLM kan och inte kan göra, det finns däremot inget underlag överhuvudtaget för att den skulle kunna göra mer än den kan idag annat än att extrapolera från historiska avancemang av teknik vilket aldrig har fungerat för förutsägelser så varför skulle det göra det nu?

Du gör precis samma sak igen. Du skriver ett långt inlägg där du redan i den första meningen påstår något som inte stämmer som du sedan bygger hela ditt inlägg på. Vi förstår inte i detalj hur AI fungerar.

Jo... det gör vi. Och ska du påstå annat kan du hänvisa till en källa. Blackbox problematiken med ANNs har inget med förståelsen för tekniken att göra.

Du får nog lära dig hur bevisbörda fungerar. Det är du som påstår att vi i detalj förstår hur AI fungerar. Så låt höra, upp till bevis.

Nu vet jag förstås att du inte kommer leverera någonting överhuvudtaget utan du kommer med största sannolikhet få något sorts psykbryt igen.

Återigen du fokuserar helt på det probabilistiska resultatet av en tränad modell, jag har redan förklarat för dig vad den oförståelsen beror på något som inte är deterministiskt så får du ett resultat som kan variera, att det gör vad den ska ändå är något som träningsmetodiken tvingar fram, en modell som inte konfigurerar sig i en variant som vi är intresserade av kommer inte prestera bra och träningen kommer då avbrytas/startas om.

Det är grundläggande maskininlärningskunskap och exakt samma "problem" har du med alla artificiella neurala nätverk oavsett storlek.

Det är ingen som helst skillnad från en lackerare som lackerar tex en bil, denne har ingen aning om hur varje molekyl lägger sig på skärmen.
En bagare vet inte hur varje jästcell kommer fördelas eller hur mycket koldioxid dessa kommer producera vid jäsning så det går förutsäga bubbelmönstret inuti limpan.
Osv osv, i inget av fallen kommer bilen dra iväg och köra över folk, inget av fallen kommer limpan planera mänsklighetens undergång.

Detta var sista gången jag förklarade för dig och kommer ignorera dig, du är inte diskussions värdig överhuvudtaget och det är ett rent under att du inte är avstängd med tanke på att din argumentationsförmåga är högst bristfällig vilket syns inte minst i andra ämnen du diskuterar i, alla med samma retorik.

Att en AI kan vara intelligent är det väl knappast något tvivel om. Men för att en AI skall ta över världen och utrota mänskligheten så krävs mer än intelligens.

Det som skiljer människor från maskiner är många saker.En maskin kan ju nästan ha evigt liv. Men en AI behöver elektricitet. Skulle den utrota mänskligheten så skulle den inte få det.
Robotar får inga barn. De kan inte äga något. De har inga känslor eller begär.
En AI på egen hand är meningslös. Skulle den skada människor så är det bara att stänga av den.

Nej AI i sig är inte farlig på det sättet. Den kan däremot vara farlig som ett redskap i handen på en människa.
Den kan göra människor arbetslösa. Den kan orsaka problem som är svåra att lösa om ingen förstår hur staten fungerar.

Jo, det är ju bl.a. det som ÄR risken, både bildligt och bokstavligt, med ett gigantiskt neuralt nätverk som ingen vet vad det innehåller i detalj och som kan agera på många olika och oförutsägbara sätt som inte var avsedda av utvecklaren. Precis det problemet har demonstrerats bl.a. i GPT-4. Vi vet att problemet finns, det här är inte sci-fi eller något som vi tror ska hända i framtiden. Det händer i dag.