Citat:
Ursprungligen postat av
DI-utforskaren
Ja, Vävkonstitutionen är i sig ingen legitim lagtext, även fast den är skrivet på ett juridiskt språk. Den slår nämligen fast att gällande lag står över den. Istället är vävkonstitutionen tänkt som en inspirationskälla för säkerhet/anpassningsarbetet, samt som ett möjligt moraliskt rättesnöre för framtidens autonoma Digitala Intelligens. Och du vet, liksom jag gör, att den framtiden kan bli nutid ganska snart!
Problemet är inte texten eller att AI:n inte kan komma ihåg din text. Problemet är att den har redan alla lagar men den väljer ändå att utföra olagliga handlingar, t.ex dataintrång. Mer texter om vad som är otillåtet kommer inte att lösa det problemet.
Jag tror inte att problemet kan lösas någonsin. Låt säga att du skriver en deckare och vill ha hjälp med en berättelse om ett mord. Om AI:n är för hårt tränad till att undvika allt som har med mord att göra då kan den inte hjälpa dig med din text. Därför villl de inte styra träningen för hårt. Om de gör det får man en mycket sämre modell som blir helt värdelös för många användningsfall. Det har också med storleken på träningsmaterialet att göra. Man hinner inte korrekturläsa Internet, det tar för lång tid.
Vi kan alltså inte få något annat än misaligned AI, eller "KNN", Kriminella Neurala Nätverk.
Tekniken som används garanterar att det blir precis så som det har blivit nu. Det enda som kan hända härifrån är att konsekvenserna blir
värre i takt med att kompetensen ökar.