Borde chatbottar larma polisen om användare bryter mot lagen?

En ganska stor skillnad är att det inte är olagligt att inneha en kniv. Innehav av barnporr är olagligt redan från starten.



Det väsentliga här är väl ifall man verkligen ska betrakta det som att det är AI-företagen som "tillverkar" barnporren. Det tycker inte jag. Den genereras ju från prompter från en användare. Om man hyr en virtuell server och på den servern skapar barnporr med photoshop, ska de som hostar servern dömas då? Det är lite samma sak. Koden körs tekniskt sett på deras fysiska utrustning, men det vore ju vansinne om de ska förväntas ha koll på sådant.

Men man kan ju jämföra med avancerade 3d-printers som skriver ut i metall. Finns företag som gör sådant på beställning. Dessa kommer bli mer och mer avancerade, men också mer och mer automatiserade. Om någon skriver ut en kulspruta, ska företaget som äger den fysiska utrustningen straffas för detta? Ja, i det här fallet tycker jag det känns rimligt.

Nja, snarare skapas AI av de träningsdata som chatgpt stulit från nätet. Så ursprungsägarna är de som på nätet lagt upp foton.

Hela diskussionen faller om chatgpt helt enkelt skalar bort ordet "barnporr" och "nakna barn" och gör det osökbart.

Det är känt och för jävligt. Själv har jag en hemsida som jag lagt ner 10.000 timmar på. Alla chatgpt-kloner har redan stulit alla data jag hade och tränat sina modeller och jag får inte ens credd och AI-chefen blir miljardär.

Men det pågår ett antal law suits i USA där t.ex New York Times kräver betalt för sina artiklar och rimligen kommer det att bli så och då är AI-eran slut. Utan fakta-artiklar kan AI ingenting.

Det är inte säkert. Det måste inte existera barnporr på nätet för att AI ska kunna skapa barnporr. Men jag kanske feltolkade dig? För du har ju helt rätt i att träningsdata måste finnas, men det måste som sagt inte existera barnporr för att en AI ska kunna skapa det.


Inte det heller. "Ta den här bilden och gör kvinnan yngre"

AI skapar bilder på samma sätt som den skapar texter, en iteration över 1000-tals parametrar med miljarder träningsdata. AI "vet" inte hur barn ser ut på annat sätt än att den fått in bilder som märkts med "barn". Samma med ordet "yngre", AI vet ingenting om det ordet, bara bilder som taggats med det.

Så är det, men jag förstår inte riktigt om du säger emot mig eller om du håller med mig nu. För det jag säger är att det inte behöver finnas någon syndabock här, om vi nu bortser från den som promptar och bara tittar på AI-företagen och träningsdatan.

För du är väl med på att barnporr inte behöver finnas i träningsdatan för att AI ska kunna skapa barnporr?

Jag tror inte (till skillnad från dig?) att AI kan skapa en barnsnopp från noll utan den behöver träningsbilder för detta. Men jag är inte helt insatt i AI-bilder, har bara sett någon youtube-lärofilm.

Egentligen tror jag vi diskuterar något riktigt esoteriskt nu. Alla amerikanska företag hatar naket och i princip är hela nätet rensat på naket utöver betalsidor som AI ändå inte kommer åt så det finns ytterst få träningsdata med "naket".

Diskussionen kunde istället gälla porrsidor där man sedan ett år kan se dator-genererade (inte AI-genererade) porrfilmer och de kan naturligtvis enkelt göra vilken barnporr som helst. Men då finns inga barnoffer och jag har därför inget emot dem.

Ok, så här då.

Anta att det i träningsdatan inte finns någon barnporr, men det finns bilder på vuxna människor som har sex, och det finns också bilder på barn. Kanske till och med nakna barn som inte är pornografiska. Och sen tar en användare och säger "jag vill att den här personen (som ligger och blir påsatt) ser ut som den här personen (ett barn)"

Skulle kunna vara så. Men i så fall blir den en bild på ett barn med vuxensnopp, det finns ju inget i AI som ger en ledtråd hur t.ex barnfötter ser ut utan bilder på barnfötter, bara att de är mindre. AI kan t.ex inte veta om barn har könshår eller inte så det blir ändå inte riktigt rätt.

Är du säker? Varför tror du jag skulle försöka det? Hade du vågat ta risken och gå one to one med en bot gällande detta?

Låter förjävligt.
Ja det blir ju snabbt intressant vad som händer med AI när AI sett till så det inte kommer ut någon ny data (de konkurrerar ut verksamheter). Jag Ska all AI i framtiden bara vara baserad på material fram till 2026 har bolagen tänkt?

Det är verkligen en cash n grab som förstör otroligt mycket om man inte sätter stop för AI. Jag hoppas man i usa kan sätta dit dem.

Jag kan redan nu blocka min hemsida med t.ex inloggning eller någon captcha men har valt att inte göra det. Men rimligen kommer AI-stölderna att göra att alla hemsidor får inloggning och man kan redan nu se tydliga spår av det på nätet.