Dit is het eerste deeltentamen van de minor Legal Technology. Alle behandelde stof is besproken, zoals de ethische normen waar een jurist zich aan moet houden, welke nieuwe vaardigheden de jurist moet hebben in de tijd van AI en hoe de toeslagenaffaire in de toekomst voorkomen kan worden.
, Het gebruik van SyRI binnen de praktijk van de Belastingdienst: een advies
Het Directoraat Generaal Digitalisering en Overheidsorganisatie heeft mij gevraagd een advies op te
stellen betreffende de toepassing van het algoritme systeem risico indicatie (hierna: SyRI) binnen de
praktijk van de Belastingdienst. Het advies is gefocust op het gebruik van het voornoemde algoritme
binnen de toeslagenaffaire. Binnen de toeslagenaffaire is de inzet van SyRI namelijk fout gegaan. Dit
advies is opgesteld om herhaling in de toekomst te voorkomen. In dit advies zal eerst de werking van
SyRI worden uiteengezet. Hierna volgt een analyse van het probleem, waarbij aandacht wordt
besteed aan geschonden ethische en juridische randvoorwaarden. Ook zal worden toegelicht welke
klassieke juridische vaardigheden en nieuwe vaardigheden de jurist door de opkomst van algoritmes
zal moeten beheersen. Dan wordt nog kort aandacht besteed aan de beroepsethische principes van
de jurist en hoe deze binnen de ontwikkeling van SyRI ingezet had moeten worden. Daarna wordt
een oplossing beschreven en het advies sluit af met een conclusie.
SyRI
SyRI is een zelflerend anti-fraudesysteem dat aan de hand van een risico-classificatiemodel
aanvragen voor toeslagen verwerkt. SyRI is een machine learning algoritme en daarmee een vorm
van kunstmatige intelligentie (hierna: KI). Dit houdt in dat SyRI zelf patronen herkent en vervolgens
die patronen toepast op de ingevoerde data. 1 Alvorens een algoritme ertoe in staat is om te leren
van ervaringen uit het verleden, moet het algoritme getraind worden. Dit gebeurt door het invoeren
van trainingsdata en vervolgens het algoritme te verbeteren waar nodig. SyRI is een supervised
learning model dat gebruik maakt van classificatie om de frauderisico’s in kaart te brengen. 2 De
classificatie vindt plaats door het toetsen van indicatoren zoals arbeidsgegevens en identificerende
gegevens.3 SyRI herkent en selecteert, aan de hand van de indicatoren, aanvragen die een hoog risico
vormen voor fraude. Deze aanvragen moeten vervolgens handmatig worden gecontroleerd. 4
SyRI is sinds 2014 een uitwerking van de wet Structuur Uitvoeringsorganisaties Werk en Inkomen,
maar al sinds 2011 actief binnen de Belastingdienst. 5 De Belastingdienst heeft SyRI ingezet voor het
voorkomen en tegengaan van fraude met betrekking tot onder andere de sociale zekerheid,
inkomensafhankelijke regelingen en de belastingheffing. 6 Echter, tijdens de inzet van SyRI werd
geconstateerd door de Autoriteit Persoonsgegevens dat de nationaliteit van aanvragers ook een rol
speelde onder de indicator ‘Nederlanderschap’ in het risico-classificatiemodel. Door het beoordelen
met deze indicator zijn veel gezinnen benadeeld omdat mensen met een niet-Nederlandse
nationaliteit sneller werden gecontroleerd. Daardoor werden veel kinderopvangtoeslagen onterecht
stopgezet. Door het gebruik van deze indicator is SyRI medeverantwoordelijk geweest voor de
toeslagenaffaire. Vastgesteld is dat SyRI ten minste vanaf maart 2016 tot oktober 2018 op een
discriminerende wijze gegevens verwerkte. 7 Tienduizenden mensen zijn daardoor onterecht
aangemerkt als fraudeur, met het gevolg dat zij geen kinderopvangtoeslag meer kregen en zij
moesten de gekregen toeslagen terugbetalen. Deze mensen kwamen daardoor in de problemen door
schulden. Velen raakten hun baan en/of huis kwijt en in een aantal gevallen werden zelfs kinderen
uit huis geplaatst.8
1
P. Boucher, Artificial intelligence: How does it work, why does it matter, and what can we do about it?,
Brussel: Europese Unie 2020, p. 4.
2
PowerPoint Bluetick “Workshop Erasmus”, sheet 31-32.
3
Rb. Den Haag 5 februari 2020, ECLI:NL:RBDHA:2020:865, r.o. 4.17.
4
Kamerstukken II 2020/21, 35 510, 2 p. 10-14
5
Stb., 2014, 320.
6
Rb. Den Haag 5 februari 2020, ECLI:NL:RBDHA:2020:865, r.o. 3.1.
7
Kamerstukken II 2020/21, 35 510, 2 p. 14.
8
P. Klein, ‘Boevenstreken van de Belastingdienst: de toeslagenaffaire in vogelvlucht’, RTLnieuws 23 december
2019.
2
Voordelen van het kopen van samenvattingen bij Stuvia op een rij:
Verzekerd van kwaliteit door reviews
Stuvia-klanten hebben meer dan 700.000 samenvattingen beoordeeld. Zo weet je zeker dat je de beste documenten koopt!
Snel en makkelijk kopen
Je betaalt supersnel en eenmalig met iDeal, creditcard of Stuvia-tegoed voor de samenvatting. Zonder lidmaatschap.
Focus op de essentie
Samenvattingen worden geschreven voor en door anderen. Daarom zijn de samenvattingen altijd betrouwbaar en actueel. Zo kom je snel tot de kern!
Veelgestelde vragen
Wat krijg ik als ik dit document koop?
Je krijgt een PDF, die direct beschikbaar is na je aankoop. Het gekochte document is altijd, overal en oneindig toegankelijk via je profiel.
Tevredenheidsgarantie: hoe werkt dat?
Onze tevredenheidsgarantie zorgt ervoor dat je altijd een studiedocument vindt dat goed bij je past. Je vult een formulier in en onze klantenservice regelt de rest.
Van wie koop ik deze samenvatting?
Stuvia is een marktplaats, je koop dit document dus niet van ons, maar van verkoper Sophie2106. Stuvia faciliteert de betaling aan de verkoper.
Zit ik meteen vast aan een abonnement?
Nee, je koopt alleen deze samenvatting voor €7,29. Je zit daarna nergens aan vast.
