Samenvatting van het stuk 'Fair prediction with disparate impact: a study of bias in recidivism prediction instruments' door Chouldechova (2017). Over de problemen van AI systemen die recidivisme voorspellen.
14. Fair prediction with disparate impact: a study of bias in recidivism
prediction instruments. - Chouldechova (2017).
In dit artikel worden verschillende noties van fairness gepresenteerd en wordt uitgelegd waarom
deze soms op verbazingwekkende manieren niet tegelijkertijd voldaan kunnen worden. Ook
wordt uitgelegd hoe we afwegingen kunnen maken tussen verschillende noties van fairness.
Dit artikel gebruikt gevorderde statistische concepten:
• Positive predictive value (PPV)
• False positive rate (FPR)
• False negative rate (FNR)
- recidivism prediction instruments (RPIs): provide decision-makers with an assessment of the
likelihood that a criminal defendant will reoffend in the future
→ important that they are free from discriminatory biases
- false positive rate (FPR): how often someone innocent is mistakenly thought to be guilty
- false negative rate (FNR): how often someone guilty is mistakenly thought to be innocent
→ in COMPAS: higher FPRs and lower FNRs for black defendants than for white ones
- disparate impact: refers to settings wherein a penalty policy has unintended disproportionate
adverse impact on a particular group
- high-risk score threshold (sHR): defendants whose score S exceeds sHR are referred to as high
risk, the rest is referred to as low risk
- calibration: an algorithm is fairly calibrated if the probability of a positive outcome for each
score of the algorithm is the same for all people, regardless of which group they are in
→ a well calibrated instrument: free from predictive bias or differential prediction
- predictive parity: an algorithm meets predictive parity when the probability of a positive
outcome is the same among all people with a positive prediction value (PPV), regardless of
which group those people are in
- error rate balance: FPRs and PNRs are equal for both groups
- statistical parity: an algorithm satisfies statistical parity if the proportion of individuals
classified as high risk is the same for each group (equal acceptance rates / group fairness)
- predictive parity is incompatible with error rate balance when prevalence differs across groups
- when the recidivism prevalence differs across groups, any instrument that satisfies predictive
parity at a given threshold (sHR) must have imbalanced false positive or false negative error
rates at that threshold
Voordelen van het kopen van samenvattingen bij Stuvia op een rij:
Verzekerd van kwaliteit door reviews
Stuvia-klanten hebben meer dan 700.000 samenvattingen beoordeeld. Zo weet je zeker dat je de beste documenten koopt!
Snel en makkelijk kopen
Je betaalt supersnel en eenmalig met iDeal, creditcard of Stuvia-tegoed voor de samenvatting. Zonder lidmaatschap.
Focus op de essentie
Samenvattingen worden geschreven voor en door anderen. Daarom zijn de samenvattingen altijd betrouwbaar en actueel. Zo kom je snel tot de kern!
Veelgestelde vragen
Wat krijg ik als ik dit document koop?
Je krijgt een PDF, die direct beschikbaar is na je aankoop. Het gekochte document is altijd, overal en oneindig toegankelijk via je profiel.
Tevredenheidsgarantie: hoe werkt dat?
Onze tevredenheidsgarantie zorgt ervoor dat je altijd een studiedocument vindt dat goed bij je past. Je vult een formulier in en onze klantenservice regelt de rest.
Van wie koop ik deze samenvatting?
Stuvia is een marktplaats, je koop dit document dus niet van ons, maar van verkoper immederoever. Stuvia faciliteert de betaling aan de verkoper.
Zit ik meteen vast aan een abonnement?
Nee, je koopt alleen deze samenvatting voor €3,49. Je zit daarna nergens aan vast.
