Week 2 – AI
Artikel 1 – (Araujo, 2020) In AI we trust? Perceptions about
automated decision-making by artificial intelligence
Door de steeds groter wordende hoeveelheden data en de vooruitgang van kunstmatige intelligentie,
wordt besluitvorming steeds meer gedelegeerd aan automatische processen. Mensen maken zich
over het algemeen zorgen over de risico’s en gemengde meningen over eerlijkheid en bruikbaarheid
hiervan. Daarentegen werden beslissingen die automatisch door AI werden genomen, vaak beter
beoordeeld dan menselijke experts.
Steeds meer beslissingen worden gemaakt door automatische processen, algoritmen geven
bijvoorbeeld nieuwsaanbevelingen, personaliseren advertenties en identificeren verdachte profielen.
ADM-processen komen ook steeds meer op in de gezondheidszorg en wetshandhavingssector.
Geautomatiseerde besluitvorming= beslissingen met technologische middelen zonder menselijk
tussenkomst. Het kan ook worden gezien als het proces waardoor de steeds groeiende hoeveelheid
informatie vervolgens wordt verwerkt door algoritmen die gebruikt worden om beslissingen te
nemen. ADM dus omvat een scala aan processen, van hulpmiddelen voor menselijke besluitvormers
tot volledig geautomatiseerde besluitvormingsprocessen, in een breed scala aan contexten.
Er is een steeds grotere bezorgdheid om de risico’s van geautomatiseerde beslissingen en het feit dat
ze vertekent kunnen zijn. Onderzoeken wat de perceptie van mensen over ADM beïnvloedt, is vooral
belangrijk, omdat ADM, en algoritmen in het algemeen, kunnen worden gezien als sociaal-technische
artefacten die niet geïsoleerd functioneren, maar ingebed zijn in de context van specifieke
maatschappelijke, institutionele of organisatiestructuren, met hun eigen mechanismen, prikkels,
(machts) relaties en rollen in de samenleving. Het begrijpen van de drijvende krachten achter ADM is
belangrijk, omdat de perceptie van mensen welke algoritmen in staat zijn een cruciale rol te spelen
bij de acceptatie van ADM. Deze studie onderzoekt de algoritmische waardering, het onderzoekt hoe
individuele kenmerken de algemene houding ten opzichte van ADM beïnvloeden. Meer specifiek
wordt onderzocht in hoeverre kennis, online privacyproblemen en zelfredzaamheid, demografie en
geloof in gelijkheid een effect hebben op hoe individuen ADM als eerlijk, nuttig of riskant
beschouwen. Ze onderzoeken op verschillende niveaus van impact van de beslissing (laag en hoge
impact).
2 Geautomatiseerde besluitvorming
Bij ADM worden algoritmen of AI gebruikt om gegevens te verzamelen, verwerken en modelleren om
geautomatiseerde beslissingen te nemen. Feedback van deze beslissingen worden weer gebruikt
door het systeem om zichzelf te verbeteren. Dit gaat verder dan alleen het technische aspect. Een
algoritme= een reeks gecodeerde procedures voor het omzetten van gegevens in een gewenste
output, gebaseerd op berekeningen. Dit evolueert de manier waarop we communiceren tussen mens
en machine. Het kan zich ook richten op automatiseren: de voortdurende productie van een proces
zonder tussenkomst van een persoon.
Een geautomatiseerde beslisser kan worden gezien als een algoritme, een aanbevelingssysteem of
als kunstmatige intelligentie afhankelijk van hoe deze is opgesteld. ADM’s kunnen ook vormen
aannemen die variëren van beslissingsondersteunende systemen die aanbevelingen doen aan menen
tot volledig geautomatiseerde besluitvormingsprocessen die beslissingen nemen namens instellingen
zonder menselijke tussenkomst. In die zin vertrouwen menselijke besluitvormers in verschillende
mate op geautomatiseerde beslissingsondersteunende systemen bij het nemen van beslissingen die
, ofwel op henzelf betrekking hebben (bijv. Een gezondheidsapp die gezond gedrag begeleidt) of op
anderen (bijv. Een rechter die een ADM gebruikt om een boete te bepalen).
De mate van betrokkenheid van mensen bij deze geautomatiseerde beslissingen varieert. Aan de ene
kant kunnen aanbevelingssystemen wanneer ze iets aanbevelen aan een gebruiker nog steeds een
mate van autonomie aan de gebruiker overlaten om te kiezen of ze dit accepteren of niet. Deze
datagedreven beslissingsondersteunende systemen zullen worden beïnvloed door het gedrag van de
gebruiker door middel van een feedbackloop. Volledig geautomatiseerde besluitvormingsprocessen
communiceren daarentegen vaak alleen de resultaten van een beslissing zonder enige ruimte voor
menselijke betrokkenheid bij het nemen van de beslissing zelf. Het systeem laat de mens in het
duister tasten over de gegevens die in de beslissing zijn gebruik of hoe de uitkomst kan worden
betwist.
Deze methoden doorlopen een angst en hype cyclus. Wat de attituden over ADM beïnvloed is niet
alleen de oplossing die ze bieden of de prestaties, maar ook de manier waarop ze worden
gecommuniceerd naar de gebruiker. Het belangrijkste is de neutraliteit en objectiviteit van het
systeem. Echter is dit niet het geval, e zijn gemaakt voor doeleinden die verre van neutraal zijn: om
waarde en kapitaal te maken, om gedrag te stimuleren en voorkeuren op een bepaalde manier te
structureren en om mensen te sorteren/classificeren.
2.1 Houding ten opzichte van ADM
Mensen zien een expertsysteem als objectiever en rationeler dan een menselijke adviseur. Dit is
gebaseerd op de aanname dat statistische methoden beter presteren dan het menselijke oordeel. Dit
komt door de machineheuristiek, die suggereert dat hoe minder een gebruiker een machine
menselijke trekjes geeft, hoe meer hij de beslissingen ervan als objectief en vrij van oordelen zal
beschouwen. Computers worden ook behandeld als autonome bronnen waarbij de aannames of
regels worden bepaald door de programmeur, dit verdwijnt uit het zicht en zijn hierdoor niet zo
prominent aanwezig voor de gebruiker.
ADMs worden vaak als ondoorgrondelijk beschouwd, dit kan van invloed zijn op de bereidheid van e
gebruiker om het systeem/ de aanbevelingen te accepteren. Mensen zijn minder vergevingsgezind
tegenover ADM dan tegenover mensen. Een fout van het systeem werd als voldoende reden gezien
om de menselijke besluitvormen te laten kiezen (algoritmische aversie). De context is ook belangrijk.
Het type mens (de beslisser) is belangrijk, menselijke experts worden meer vertrouwt dan geen
expert. Er zit ook een verschil in subjectieve of objectieve beslissingen of voor beslissingen die
vaardigheden vereisen.
4 Resultaten
4.1 Algemene opvattingen over geautomatiseerde besluitvorming door AI
Over het algemeen kwam een optimistisch beeld naar voren over de bruikbaarheid van AI. Over het
waargenomen risico waren veel respondenten negatief. Hoe groter de bezorgdheid over privacy, hoe
negatiever de attituden over ADM. Hoe sterker de persoon geloofde in zijn eigen vermogen om zijn
privacy te beschermen, hoe positiever zijn perceptie over het nut en eerlijkheid van ADM en hoe
lager het risico. Leeftijd is negatief gerelateerd aan het ervaren nut van ADM en positief gerelateerd
aan het risico. Vrouwen vonden ADM minder nuttig dan mannen. Een hogere behoefte aan
economische gelijkheid zorgde voor een hoger niveau in de perceptie van bruikbaarheid.
5 Discussie
Dit onderzoek onderzocht de mate waarin individuele en contextuele kenmerken de attitudes ten
opzichte van ADM beïnvloeden. Wanneer mensen nadenken over ADM als een maatschappelijke
