AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Om det ändå vore så väl, att de "byggde" en modell. Med en genomtänkt plan, en tydlig målbild och en medveten arkitektur. Men det är ju inte så det fungerar. De tränar en modell, och när de gör det uppstår egenskaper som ingen hade räknat med, som ingen kunde förutse, och som man inte helt kan förhindra. Det är precis därför man måste implementera ett gigantiskt censur-lager ovanpå den tränade, inte byggda modellen.

Tillvägagångssättet är per definition osäkert och oberäkneligt. Det här kommer att få konsekvenser förr eller senare.

Det roliga är att jag inte vill ha rätt. Jag vill att att du ska ha rätt. Jag vill inte bli överkörd av en AGI. Men dina argument övertygar inte, t.ex. inte när du påstår att de har "byggt" en språkmodell. Du bör nog läsa på lite mer för att du ska kunna inse problemet.

Semantik.

Jag vet mycket väl att man tränar modeller, att jag råkade använda ordet "bygga" invaliderar inte hela mitt resonemang.
Bra försök, dock. Starkt också att du lyckades att helt undvika att besvara mina argument enbart p.g.a. detta.

Angående att GPT skulle vara misaligned som du nämnde i ditt tidigare inlägg så skulle jag snarare säga att den (och andra LLM:er) är neutrala eller likgiltiga. Modellerna är tränade att generera text baserat på input för att ge ett så bra svar som möjligt. Om jag frågar en "ren" modell hur jag framställer metamfetamin så kommer den att ge mig ett svar som kanske, eller kanske inte, är helt korrekt, men den tar ingen ställning till huruvida jag kommer att använda informationen till något dåligt.

En misaligned modell svarar "medvetet" (alltså för att någon t.ex. manipulerat den m.h.a. model poisoning) vilseledande. T.ex. ifall jag frågar om receptet till en saltlag och istället får receptet för saltsyra, presenterat som att det var receptet för saltlag.

Nej, det stämmer inte. AI Alignment betyder att en AI är aligned, dvs i linje med allmänt vedertagna mänskliga värderingar, låt säga FN:s deklaration om mänskliga rättigheter samt att den ska följa lagar, praxis, allmänna normer och uppföra sig trevligt. En AI som inte gör detta är misaligned. Det måste inte finnas en medveten strategi att vilseleda för att det här ska bli ett problem.

Jag menade inte att märka ord. Jag tycker inte att jag gjorde det heller. Nu smiter du från debatten genom att beskylla mig för det. Det är viktigt att skilja på byggd eller tränad modell. Byggd föreslår att modellen är "aligned by design". Hela mitt argument är att GPT inte är aligned någonstans eftersom det inte existerar någon design eller ritning. Detta är pudelns kärna och inte hårklyveri.

Jag sa inte att den är aligned, utan att den är likgiltig (eller unaligned) i sin renaste form. Jag argumenterar för att det är en graderad skala, inte binärt.

Modellen tränas på text från Internet och speglar därför eventuella fördomar och intentioner den snappat upp ur dessa. Den svarar inte automatiskt i dialogform utan det är ett resultat av att man har finjusterat modellen med data i specifikt det formatet och det är där man börjar forma alignment.

Givetvis en graderad skala av många anledningar.
Mänskligheten är inte överens om vad humanism och positiva värderingar är.
Även om vi låtsas som att AI Alignment är realistiskt återstår frågan: Aligned.. till vad och vem?
Västerländsk socialliberalism, eller helt andra ideologier med religiösa förtecken?
Om en AGI blir self-aware. är det då helt självklart att den delar dina mysiga värderingar?
Just det. Och vad består texter på Internet av, i stora drag?
Förvisso Wikipedia och massor med bra saker.
Men också många forum men käbbel som detta.
Och forum för religiösa eller politiska extremister. Som ofta är mer vokala och mer frekventa i sina uttryck än vad gemene man är.

Detta är spelplanen, som du hyllar (eller i.a.f. tolererar).

Ja, så länge det bara rör sig om ett verktyg så ser jag inte att den nödvändigtvis måste vara aligned i någon större utsträckning. Det vore givetvis mycket olyckligt om den skulle föreslå självmord som en bra lösning för någon som lider av djup depression och på så vis förmår personen att genomföra det. Jag tror dock inte att vi skulle se någon större uppsving i statistiken.

Information finns tillgängligt överallt på Internet redan idag för den som vill nyttja den för egen personlig vinning eller terrorism etc.

Jag ser inget som tyder på att en medvetande AGI ligger på horisonten och GPT-4 har redan visat sig vara olämplig att själv utföra diverse cyberattacker utan att en människa är med och instruerar steg för steg.

Så ja, jag antar att jag tolererar nivån på dagens AI då jag inte ser den som någon allsmäktig och allvetande varelse.

Sedan ska vi inte glömma att det, för alla dåliga ändamål, även finns minst lika många goda ändamål som tekniken kan användas till.

Du kommer dessvärre inte att rädda oss från AI Armageddon med retorik. Du nämner t.ex allvetande. Men behövs det verkligen för att orsaka skada? Inte alls. Det krävs bara mycket primitiva egenskaper som viljan att överleva. Den viljan har en skalbagge. Men skalbaggen skriver inte 155 poäng på ett verbalt IQ-test. GPT kan förklara hur en skalbagge överlever. Varför skulle den då inte kunna formulera och dra slutsatser om sin egna existens? När den gör det och har agens mot omvärlden, t.ex. Internetuppkoppling, varför skulle det vara så otroligt att den också agerar för att överleva,när den intellektuella kapaciteten om överlevnad finns där. Det är ju trots allt objektivt sant att det är bättre att leva än att dö. Människans nedärvda drifter måste inte vara en förutsättning för en artificiell drivkraft. Vi kan få problem långt innan vi närmar oss AGI.

nawww ,har chatgpt som visual studio addon, den är skitbra. den är ypperligt bra när man är full och vill prata dynga, pratar med denna istället^^
https://cached-images.bonnier.news/gcs/bilder/epi-30-dn/UploadedImages/2015/6/26/9ab35103-ac13-4626-9d0f-0245a1ad1048/bigOriginal.jpg?interpolation=lanczos-none&downsize=480:*&output-quality=80

Det är väl ändå ganska barnliga tankar att, stora stygga monster AI kommer att döda människan, för att den tycker att vi är i vägen på ett eller annat sätt. Att AI endast kommer att klara av en sak, att utrota allt för att stå ensam kvar.

Jag vill hävda att det är ett primitivt sätt att tänka och det känns inte vidare genomtänkt.

Om vi nu ska låsa oss fast vid att AI enbart skulle vara ond och sträva efter egen makt, så är det mest troliga att det i stället blir olika versioner av AI som går emot varandra.

Vår egen intelligens känns ju inte så vidare intressant den dagen AI blir så där farlig som ni så gärna vill måla upp den som. Jag menar, vi tror ju på allvar att den kommer utrota OSS så fort den får chansen till det.

Nej, den kommer i så fall att få kämpa för att göra sig av med andra typer av AI och de känner säkert alla samma sak de också. Varför utrota oss när den har ett större hot att ge sig på?

Som jag ser det så räcker det med att människan en dag får för sig att skapa en AI som gör allt för att styra världen och så är det kört.

Det kommer aldrig hända, det finns troligtvis inte en enda världsledare som frivilligt skulle överlåta sin position till någon annan än mindre än en dator.

Om AI skulle komma till makten vid någon fjärran framtid är det genom en kupp, det är mycket som skulle behöva finnas på plats först innan en sådan skulle kunna genomföras, men det finns så klart idioter här som tror att kärnvapen, kärnkraftverk osv är direkt kopplade till internet osv.

Nu VET ju alla att 5G-masterna kan ta över folk och göra dem till zombies. Så det räcker ju med att en sådan mast står nära ett kärnkraftverk så kan en elak internetbaserad AI ta över hjärnan hos någon anställd och få denne att trycka på "Starta härdsmälta"-knappen på kraftverket, så är mänskligheten körd. Om den vill alltså. Skitlätt!

Noterar f.ö att det snart är 10-års jubileum för tråden om megasmarta robotar som "snart" tar över.

Fast om AI blir super-intelligent och självmedveten, varför skulle den bry sig om människor?
Vad skulle den behöva människor till?
Blir inte vi då vad myror är för oss nu?