Samenvatting Algorithmic
Accountability: A primer
Wat is een algoritme?
Algoritme: set instructes vvr ve een cvmputer een taak mvet vlbrengen. Algvritmes vrden
gebruikt dvvr vrganisates vm beslissingen te maken en et tve ijzen an brvnnen vp basis an een
grvte dataset. Svvrt recept, aarbij je dvvr ersc illende ingrediënten en bepaalde stappen een
vvrspelbare uitkvmst krijgt. Deze algvritmes kunnen immens grvvt zijn. Kritek iervp is dat er
einig beperkingen die cvnsumenten- vf burgerrec ten besc ermen vm dataprvfelen vp te bvu en
vf die cvntrvle an algvritmisc e besluit vrming eisen.
Algoritmic accountability: prvces an et tve ijzen an erant vvrdelijk eid vvr sc ade als een
algvritmisc e besluit vrming discrimineert vf vngelijke resultaten geef.
Hoe worden algoritmes gebruikt in het maken van
besluiten?
Vvvrbeelden: aanbe elingen, zvals at je kunt kvpen, liedjes die je kunt luisteren, aanbe vlen
rienden, maar vvk ele ingrijpende dingen zvals c ’s uitkiezen, ie elke ad ertentes ziet vvr
vningen, ie er geprvmv eerd vrdt en ie vntslagen, ie er pvtenteel crimineel is, ie elk
nieu s te zien krijgt en elke zvekresultaten. Hve el algvritmisc e besluit vrming vvrdelen kan
bieden vp et gebied an snel eid, efciënte en zelfs rec t aardig eid, is er een algemene
mis atng dat algvritmen autvmatsc resulteren in vnpartjdige beslissingen.
Black boxed: de besluit vrming an een algvritme is black bvxed, at betekent dat e bepaalde
dingen in de cvmputer kunnen stvppen en de uitkvmst kunnen bevvrdelen, maar at er tjdens de
er erking gebeurt eten e niet.
Algvritmes lijken neutraal te zijn in un besluit vrming, maar dat zijn ze niet. “Opinion embedded in
mathematccs mening in de iskundige berekening. Geen enkele algvritme is etzelfde en er
kunnen mensen vvrgetrvkken vrden, vvrvvrdelen (bias) genvemd.
Bias kan vntstaan dvvr:
- Svciale cvntext aarin et is gemaakt;
- resultaat an tec nisc e beperkingen;
- ve et algvritme in de praktjk vrdt gebruikt.
Een algvritme vrdt natuurlijk dvvr iemand gemaakt met een eigen input die missc ien niet neutraal
is. Een algvritme mvet getraind vrden: eel data ge ved vrden vp basis an beslissingen uit et
erleden vm beslissingen vvr de tvekvmst te maken. Als et erleden be vvrvvrdeeld is, be at et
algvritme anzelf vvrvvrdelen. Black-bvxed algvritmes kunnen zvrgen vvr
technological redlining: anneer algvritmen vnrec t aardige uitkvmsten prvduceren en bekende
vngelijk eden repliceren, at leidt tvt de systematsc e uitsluitng an z arten, latnv’s en in eemse
Amerikanen
Digitale datadiscriminate: gebruikt vnze digitale identteiten en act iteiten vm vngelijk eid en
vnderdrukking te ersterken. We ebben daar aak geen eet an. Wat e dven vrdt vnderdeel
an een algvritmisc e, geautvmatseerde en kunstmatg intelligente svrteermac ine die vns kunnen
ric ten vf uitsluiten.
Voorbeeld: racial bias in algorithms of incarceration
Vvvrvvrdelen vp basis an uidskleur in de algvritmes vf iemand in de ge angenis mvet vf niet
Voordelen van het kopen van samenvattingen bij Stuvia op een rij:
Verzekerd van kwaliteit door reviews
Stuvia-klanten hebben meer dan 700.000 samenvattingen beoordeeld. Zo weet je zeker dat je de beste documenten koopt!
Snel en makkelijk kopen
Je betaalt supersnel en eenmalig met iDeal, creditcard of Stuvia-tegoed voor de samenvatting. Zonder lidmaatschap.
Focus op de essentie
Samenvattingen worden geschreven voor en door anderen. Daarom zijn de samenvattingen altijd betrouwbaar en actueel. Zo kom je snel tot de kern!
Veelgestelde vragen
Wat krijg ik als ik dit document koop?
Je krijgt een PDF, die direct beschikbaar is na je aankoop. Het gekochte document is altijd, overal en oneindig toegankelijk via je profiel.
Tevredenheidsgarantie: hoe werkt dat?
Onze tevredenheidsgarantie zorgt ervoor dat je altijd een studiedocument vindt dat goed bij je past. Je vult een formulier in en onze klantenservice regelt de rest.
Van wie koop ik deze samenvatting?
Stuvia is een marktplaats, je koop dit document dus niet van ons, maar van verkoper brittvandermatten. Stuvia faciliteert de betaling aan de verkoper.
Zit ik meteen vast aan een abonnement?
Nee, je koopt alleen deze samenvatting voor €2,99. Je zit daarna nergens aan vast.