Dit is het eerste deeltentamen van de minor Legal Technology. Alle behandelde stof is besproken, zoals de ethische normen waar een jurist zich aan moet houden, welke nieuwe vaardigheden de jurist moet hebben in de tijd van AI en hoe de toeslagenaffaire in de toekomst voorkomen kan worden.
, Het gebruik van SyRI binnen de praktijk van de Belastingdienst: een advies
Het Directoraat Generaal Digitalisering en Overheidsorganisatie heeft mij gevraagd een advies op te
stellen betreffende de toepassing van het algoritme systeem risico indicatie (hierna: SyRI) binnen de
praktijk van de Belastingdienst. Het advies is gefocust op het gebruik van het voornoemde algoritme
binnen de toeslagenaffaire. Binnen de toeslagenaffaire is de inzet van SyRI namelijk fout gegaan. Dit
advies is opgesteld om herhaling in de toekomst te voorkomen. In dit advies zal eerst de werking van
SyRI worden uiteengezet. Hierna volgt een analyse van het probleem, waarbij aandacht wordt
besteed aan geschonden ethische en juridische randvoorwaarden. Ook zal worden toegelicht welke
klassieke juridische vaardigheden en nieuwe vaardigheden de jurist door de opkomst van algoritmes
zal moeten beheersen. Dan wordt nog kort aandacht besteed aan de beroepsethische principes van
de jurist en hoe deze binnen de ontwikkeling van SyRI ingezet had moeten worden. Daarna wordt
een oplossing beschreven en het advies sluit af met een conclusie.
SyRI
SyRI is een zelflerend anti-fraudesysteem dat aan de hand van een risico-classificatiemodel
aanvragen voor toeslagen verwerkt. SyRI is een machine learning algoritme en daarmee een vorm
van kunstmatige intelligentie (hierna: KI). Dit houdt in dat SyRI zelf patronen herkent en vervolgens
die patronen toepast op de ingevoerde data. 1 Alvorens een algoritme ertoe in staat is om te leren
van ervaringen uit het verleden, moet het algoritme getraind worden. Dit gebeurt door het invoeren
van trainingsdata en vervolgens het algoritme te verbeteren waar nodig. SyRI is een supervised
learning model dat gebruik maakt van classificatie om de frauderisico’s in kaart te brengen. 2 De
classificatie vindt plaats door het toetsen van indicatoren zoals arbeidsgegevens en identificerende
gegevens.3 SyRI herkent en selecteert, aan de hand van de indicatoren, aanvragen die een hoog risico
vormen voor fraude. Deze aanvragen moeten vervolgens handmatig worden gecontroleerd. 4
SyRI is sinds 2014 een uitwerking van de wet Structuur Uitvoeringsorganisaties Werk en Inkomen,
maar al sinds 2011 actief binnen de Belastingdienst. 5 De Belastingdienst heeft SyRI ingezet voor het
voorkomen en tegengaan van fraude met betrekking tot onder andere de sociale zekerheid,
inkomensafhankelijke regelingen en de belastingheffing. 6 Echter, tijdens de inzet van SyRI werd
geconstateerd door de Autoriteit Persoonsgegevens dat de nationaliteit van aanvragers ook een rol
speelde onder de indicator ‘Nederlanderschap’ in het risico-classificatiemodel. Door het beoordelen
met deze indicator zijn veel gezinnen benadeeld omdat mensen met een niet-Nederlandse
nationaliteit sneller werden gecontroleerd. Daardoor werden veel kinderopvangtoeslagen onterecht
stopgezet. Door het gebruik van deze indicator is SyRI medeverantwoordelijk geweest voor de
toeslagenaffaire. Vastgesteld is dat SyRI ten minste vanaf maart 2016 tot oktober 2018 op een
discriminerende wijze gegevens verwerkte. 7 Tienduizenden mensen zijn daardoor onterecht
aangemerkt als fraudeur, met het gevolg dat zij geen kinderopvangtoeslag meer kregen en zij
moesten de gekregen toeslagen terugbetalen. Deze mensen kwamen daardoor in de problemen door
schulden. Velen raakten hun baan en/of huis kwijt en in een aantal gevallen werden zelfs kinderen
uit huis geplaatst.8
1
P. Boucher, Artificial intelligence: How does it work, why does it matter, and what can we do about it?,
Brussel: Europese Unie 2020, p. 4.
2
PowerPoint Bluetick “Workshop Erasmus”, sheet 31-32.
3
Rb. Den Haag 5 februari 2020, ECLI:NL:RBDHA:2020:865, r.o. 4.17.
4
Kamerstukken II 2020/21, 35 510, 2 p. 10-14
5
Stb., 2014, 320.
6
Rb. Den Haag 5 februari 2020, ECLI:NL:RBDHA:2020:865, r.o. 3.1.
7
Kamerstukken II 2020/21, 35 510, 2 p. 14.
8
P. Klein, ‘Boevenstreken van de Belastingdienst: de toeslagenaffaire in vogelvlucht’, RTLnieuws 23 december
2019.
2
The benefits of buying summaries with Stuvia:
Guaranteed quality through customer reviews
Stuvia customers have reviewed more than 700,000 summaries. This how you know that you are buying the best documents.
Quick and easy check-out
You can quickly pay through credit card or Stuvia-credit for the summaries. There is no membership needed.
Focus on what matters
Your fellow students write the study notes themselves, which is why the documents are always reliable and up-to-date. This ensures you quickly get to the core!
Frequently asked questions
What do I get when I buy this document?
You get a PDF, available immediately after your purchase. The purchased document is accessible anytime, anywhere and indefinitely through your profile.
Satisfaction guarantee: how does it work?
Our satisfaction guarantee ensures that you always find a study document that suits you well. You fill out a form, and our customer service team takes care of the rest.
Who am I buying these notes from?
Stuvia is a marketplace, so you are not buying this document from us, but from seller Sophie2106. Stuvia facilitates payment to the seller.
Will I be stuck with a subscription?
No, you only buy these notes for $7.92. You're not tied to anything after your purchase.
