Påminner ju lite om det där fallet med den rasistiska datorn i USA som skulle kartlägga brottslighet, och efter att ha fått in statistik över brottslighet och brottslingar som den
enbart utgick ifrån - omgående började peka ut och hävda att svarta personer hade markant högre risk att begå allvarliga brottshandlingar; att den typiska grova brottslingen har mörk hudfärg.
Behöver vi nämna att den studien raskt försattes i malpåse efter att folk blev upprörda?
Citat:
Big data has expanded to the criminal justice system. In Los Angeles, police use computerized “predictive policing” to anticipate crimes and allocate officers. In Fort Lauderdale, Fla., machine-learning algorithms are used to set bond amounts. In states across the country, data-driven estimates of the risk of recidivism are being used to set jail sentences.
Advocates say these data-driven tools remove human bias from the system, making it more fair as well as more effective. But even as they have become widespread, we have little information about exactly how they work. Few of the organizations producing them have released the data and algorithms they use to determine risk.
We need to know more, because it’s clear that such systems face a fundamental problem: The data they rely on are collected by a criminal justice system in which race makes a big difference in the probability of arrest — even for people who behave identically. Inputs derived from biased policing will inevitably make black and Latino defendants look riskier than white defendants to a computer. As a result, data-driven decision-making risks exacerbating, rather than eliminating, racial bias in criminal justice.
Consider a judge tasked with making a decision about bail for two defendants, one black and one white. Our two defendants have behaved in exactly the same way prior to their arrest: They used drugs in the same amount, have committed the same traffic offenses, owned similar homes and took their two children to the same school every morning. But the criminal justice algorithms do not rely on all of a defendant’s prior actions to reach a bail assessment — just those actions for which he or she has been previously arrested and convicted. Because of racial biases in arrest and conviction rates, the black defendant is more likely to have a prior conviction than the white one, despite identical conduct. A risk assessment relying on racially compromised criminal-history data will unfairly rate the black defendant as riskier than the white defendant.
To make matters worse, risk-assessment tools typically evaluate their success in predicting a defendant’s dangerousness on rearrests — not on defendants’ overall behavior after release. If our two defendants return to the same neighborhood and continue their identical lives, the black defendant is more likely to be arrested. Thus, the tool will falsely appear to predict dangerousness effectively, because the entire process is circular: Racial disparities in arrests bias both the predictions and the justification for those predictions.
https://redice.tv/news/racist-comput...o-commit-crime
Citat:
Ursprungligen postat av
Merwinna
(Dessutom var fynden inte nya, jag har alltid haft väldigt bra gaydar och det är ju bl.a. ansiktsdragen man går på. Men även kroppshållning, rörelsemönster, röst, gester o.s.v..)
Samma här - redan i lågstadiet hade jag en vän som tydligt stack ut ifrån mängden och var allmänt flickig och feminin, så pass att till och med vi som var under tio reagerade på hans synnerligen tydliga beteende, att han inte var riktigt som alla andra barn. Nu såhär 20+ år senare så är han öppet homosexuell - vet inte riktigt när han kom ut ur garderoben - men det var inte direkt så att någon blev förvånad när han kom ut.
Likaså i mellan/högstadiet var det ett par stycken - både pojkar och flickor - som tydligt stack ut ur mängden (fjolliga flickpojkar och butchiga pojkflickor), och jag och flertalet andra var ganska övertygade om att de var "lite annorlunda" i sin läggning. Och ja, såhär 15+ år senare så är det ganska lätt att via Facebook och andra sociala medier se vad de har för sig - och mycket riktigt är samtliga "misstänkta" öppet homosexuella idag.
Likaså än idag, märker man snabbt när man hamnar i nya miljöer med nya människor (arbetsplatser, studier etc) om det är någon det är "fel" på - varpå det förr eller senare visar sig att de är gay/bi - dvs än en gång visade sig gayradarn stämma. Det är vad jag vet bara enstaka fall där den inte stämt - men sedan så har man ju inte koll på vad som de människorna
faktiskt har för sig i sängen eller i framtiden, eftersom det handlat om ganska ytliga tillfälliga bekantskaper.