WEEK 2
Gunkel, D. J. (2012). Communication and artificial intelligence: Opportunities
and challenges for the 21st century. Communication+ 1, 1(1), 1-2
Abstract
Historisch gezien heeft het vakgebied van de communicatie nieuwe technologie geaccommodeerd
door deze innovaties om te zetten in een medium voor menselijke interactie en uitwisseling van
berichten. In CMC (computergestuurde communicatie) wordt de computer begrepen en onderzocht
als een min of meer neutraal kanaal voor de overdracht van berichten en als instrument voor
menselijke interactie. Deze formalisering, hoewel niet noodzakelijkerwijs onjuist, gaat voorbij aan het
feit dat de computer, in tegenstelling tot eerdere technologische ontwikkelingen, ook de positie van
deelnemer aan communicatieve uitwisselingen inneemt.
Introduction
Computergemedieerde communicatie (CMC) heeft een anonimiteit. Niet alleen de anonimiteit en
onbepaaldheid van anderen in CMC, maar ook de onbetwiste veronderstelling dat ondanks deze
anonimiteit de gebruiker ervan uitgaat dat de ander met wie hij of zij in contact komt en
communiceert een ander mens is.
In het bijzonder erkent dit essay expliciet het feit dat het merendeel van de online communicatie niet
van mens tot mens (H2H) is, maar interacties tussen mens en machine en machines en machines.
AI and communication
Communicatie is fundamenteel voor zowel de theorie als de praktijk van de kunstmatige intelligentie
(AI).
Turing’s spel → Als een computer in feite in staat is om een mens, van beide geslachten, met succes
te simuleren in een communicatieve uitwisseling met een menselijke ondervrager, in die mate dat de
ondervrager niet kan zien of hij met een machine of een ander mens in interactie is, dan zou die
machine, zo concludeert Turing, als "intelligent" moeten worden beschouwd.
Gevolgen van Turing zijn spel voor communicatieonderzoek:
1. Omdat intelligent denken bij AI niet direct waarneembaar is, kan men het beste
omgaan met iets, zoals communicatieve interactie, dat routinematig wordt
beschouwd als een product van intelligentie en dat in feite empirisch kan worden
geobserveerd, gemeten en geëvalueerd.
2. Communicatie is een product van intelligentie. alles - een ander mens, een dier,
een machine, etc.- dat in staat is om communicatieve handelingen uit te voeren die
vergelijkbaar zijn met wat men normaal gesproken van een ander mens verwacht,
ongeacht wat er werkelijk in het hoofd of in het hoofd gebeurt.
Er blijft een aanzienlijk debat in de AI-gemeenschap over de vraag of de succesvolle
simulatie van het communicatieve vermogen op menselijk niveau noodzakelijkerwijs de
aanwezigheid van "intelligentie" impliceert of niet, wat niet wordt besproken is dat
machines in feite in staat zijn om succesvol te communiceren met menselijke gebruikers in
een verscheidenheid van contexten en op een manier die vaak niet te onderscheiden is van
een andere persoon. En voor onderzoek in communicatiestudies - waar communicatie en
niet intelligentie de focus is - is dit een echte game-changer.
,The Machinery of Communication
LickLider en Taylor → zeiden dat de computer in eerste instantie ontworpen was om snel en
automatisch te kunnen rekenen. Echter begon een jaar later het ARPAnet, en evolueerde het
netwerk naar een medium voor interpersoonlijke communicatie (computerondersteunende
communicatie).
Computerconferencing system (CCS) / computergestuurde communicatie = elk systeem dat de
computer gebruikt om de communicatie tussen mensen te bemiddelen.
Computergestuurde communicatie = een nieuwe vorm van verbeterde menselijke communicatie.
Computer-gemedieerde communicatie is een proces van menselijke communicatie via computers.
Het definiëren van de rol en functie van de computer op deze manier is zowel intuïtief aantrekkelijk
als conceptueel verantwoord. Drie voordelen hiervan voor communicatiewetenschap:
- Computer krijgt herkenbare plaats
binnen het procesmodel van
communicatie. Model van Shannon en
Weaver → zender en ontvanger zijn met
elkaar verbonden via
communicatiekanaal of -medium
waarmee berichten worden
overgebracht.
McLuhan → stelde dat media de
verlengstukken zijn dan de mens.
- Deze tussenpositie wordt onderbouwd
door het traditionele begrip van de juiste rol en functie van het technologische apparaat. De
ene zegt: Technologie is een middel om een doel te bereiken. De andere zegt: Technologie is
een menselijke activiteit. De twee definities van technologie horen bij elkaar.
- Het begrip blijft grotendeels onbetwistbaar, want het vormt wat epistemologen routinematig
"normale wetenschap" (=gangbare norm voor onderzoek doen) noemen. Voor
communicatiestudies is CMC dus normale wetenschap.
Back to the future
Ondanks het opmerkelijke succes van CMC mist deze aanpak een cruciale kans die oorspronkelijk
door Turing werd geïdentificeerd - het feit dat een machine niet alleen een middel tot menselijke
samenloop is, maar ook een deelnemer aan communicatieve interacties kan zijn.
Ondanks de vroege identificatie van deze twee mogelijkheden, heeft de communicatiestudie zich ten
goede of ten kwade beperkt tot het aanspreken van de computer als medium voor menselijke
interactie en heeft zij daarbij de andere situaties waarin de computer als een Other in
communicatieve uitwisseling kan worden beschouwd, effectief gemarginaliseerd.
1. Ten eerste wordt de veronderstelling dat de computer uitsluitend een medium voor menselijke
communicatie is, noodzakelijkerwijs onderbroken en zelfs weerstaan door de mechanismen en
machines van de computer. → De meeste technologieën zetten alleen licht, geluid of gegevens om in
elektronische impulsen voor transmissie en keren het proces vervolgens om aan de ontvangende
kant. Voor het eerst kan een technologie niet alleen de uitwisseling van berichten versnellen en
,uitbreiden, maar het kan ook reageren met een eigen bericht aan een menselijke partner. De
computer verzet zich inhoudelijk tegen het feit dat hij uitsluitend wordt gedefinieerd als een medium
en een instrument waarmee menselijke gebruikers berichten uitwisselen.
2. Ten tweede is de erkenning dat de computer ook kan worden beschouwd als een deelnemer aan
de communicatieve uitwisseling niet iets wat louter theoretisch mogelijk blijft, het is al praktisch
noodzakelijk (Siri op iphone).
Conclusions: Paradigm Shift
Dus waar laat dit ons toe? Drie verklaringen die op dit moment een beetje apocalyptisch zijn:
- Ten eerste, communicatiestudies zoals we die hebben gekend en geoefend zijn ten einde →
Op het gebied van communicatiestudies situeert het operatieve paradigma - het kader dat
heeft bepaald wat als normale wetenschap wordt beschouwd - de technologie als een
instrument of een instrument voor de uitwisseling van berichten tussen menselijke
gebruikers. Tegelijkertijd wordt het echter steeds duidelijker dat de computer zich niet
volgens deze paradigmatische structuur heeft gedragen en zich ook niet gedraagt en dat hij
in feite de aloude aannames over de rol en functie van de technologie in de communicatie
uitdaagt. Deze uitdaging komt niet voort uit de succesvolle realisatie van "sterke AI".
- Ten tweede, een nieuw paradigma, vooral in de tijd van zijn eerste verschijning en
formulering, vervangt, verwerpt of ontkracht niet eenvoudigweg het voorgaande. Het vorige
kan dus nog steeds nuttig zijn. → Op een analoge manier weerlegt de verandering in het
paradigma die momenteel in communicatiestudies wordt ervaren, het CMC-onderzoek als
zodanig niet of maakt er eenvoudigweg geen einde aan. In plaats daarvan herdefinieert het
CMC als een zeer specifiek en beperkt geval van wat een veel uitgebreider begrip van de rol
en functie van de computertechnologie binnen het gebied van de communicatie moet zijn.
- Tot slot, hoewel de computer in feite het huidige paradigma uitdaagt en zijn normale
werking in een soort crisis plaatst, begint wat er nu komt, wat het nieuwe paradigma omvat,
nu pas een rol te spelen. → In dit voorstadium kunnen we echter beginnen met het
identificeren van enkele aspecten van hoe de volgende generatie van communicatiestudies
eruit zou kunnen zien.
Het wordt tijd dat communicatiestudies de impact en betekenis van deze situatie (AI) serieus nemen.
,Araujo, T., Helberger, N., Kruikemeier, S., & De Vreese, C. H. (2020). In AI we
trust? Perceptions about automated decision-making by artificial intelligence.
AI & SOCIETY, 1-1
Abstract
Op basis van sociaal-wetenschappelijke theorieën en het opkomende onderzoek over algoritmische
waardering en algoritmische percepties, onderzoekt de huidige studie in hoeverre persoonlijke
kenmerken kunnen worden gekoppeld aan percepties van geautomatiseerde besluitvorming door AI,
en de randvoorwaarden van deze percepties, namelijk de mate waarin dergelijke percepties
verschillen tussen media, (volks)gezondheid, en juridische contexten.
Uit het onderzoek blijkt dat mensen over het algemeen bezorgd zijn over risico's en gemengde
meningen hebben over de billijkheid en bruikbaarheid van geautomatiseerde besluitvorming op
maatschappelijk niveau, waarbij de algemene attitudes worden beïnvloed door individuele
kenmerken. Interessant is dat automatisch door AI genomen beslissingen voor specifieke
beslissingen vaak even goed of zelfs beter werden beoordeeld dan menselijke deskundigen.
Introduction
Gevoed door steeds grotere hoeveelheden digitale data en de vooruitgang in kunstmatige
intelligentie (AI) wordt besluitvorming steeds meer gedelegeerd aan geautomatiseerde processen.
Deze geautomatiseerde besluitvormingsprocessen (ADM; automated decision-making) vinden
bijvoorbeeld plaats in communicatie, waarbij algoritmes (gepersonaliseerde) nieuwsaanbevelingen
doen.
Geautomatiseerde besluitvorming kan op verschillende manieren worden gedefinieerd. Nauw kan
het worden omschreven als "besluiten met technologische middelen zonder menselijke
tussenkomst". In bredere zin kan het echter worden gezien als het proces waardoor de steeds
groeiende hoeveelheid- en verscheidenheid aan persoonsgegevens "vervolgens worden verwerkt
door algoritmen, die vervolgens worden gebruikt om (datagedreven) beslissingen te nemen". ADM
omvat dus een reeks processen, van hulpmiddelen voor menselijke besluitvormers tot volledig
geautomatiseerde besluitvormingsprocessen, in een grote verscheidenheid aan contexten.
Automated desicion-making
ADM kan worden geconceptualiseerd als gevallen waarin algoritmen of een AI worden gebruikt om
gegevens te verzamelen, te verwerken, te modelleren en te gebruiken om geautomatiseerde
beslissingen te nemen. De feedback van deze beslissingen wordt dan weer door het systeem gebruikt
om zichzelf te verbeteren. Een geautomatiseerde besluitvormer kan worden geconceptualiseerd als
een algoritme, een aanbevelingssysteem of eenvoudigweg een "kunstmatige intelligentie".
De mate van betrokkenheid van de mens bij deze geautomatiseerde beslissingen varieert. Volledig
geautomatiseerde besluitvormingsprocessen, wanneer opgenomen in "managerial and governance
processes", communiceren daarentegen vaak alleen de resultaten van een beslissing zonder enige
ruimte voor menselijke betrokkenheid bij het nemen van de beslissing zelf.
Attitudes towards ADM
Uit eerdere studies blijkt een algemene tendens om een "expertsysteem objectiever en rationeler te
achten dan een menselijke adviseur". Dit is vaak gebaseerd op de aanname dat statistische
methoden beter presteren dan menselijke oordelen. Dit geldt dus ook voor algoritmes; dat men
denkt dat oordelen van een algoritme beter zijn dan die van mensen. Deze tendens kan deels worden
, toegeschreven aan de notie van de machine heuristiek → die suggereert dat hoe minder een
gebruiker een interface antropomorfiseert, hoe meer zij of hij de beslissingen en selecties ervan als
objectief en vrij van (ideologische) vooringenomenheid zal beschouwen.
Verschillende studies contextualiseren deze algemene tendens, en suggereren dat het afhankelijk
kan zijn van verschillende factoren. Verschillende studies contextualiseren deze algemene tendens,
en suggereren dat het afhankelijk kan zijn van verschillende factoren.
Personal charateristics and attitudes towards ADM
Kennis → opleidingsniveau blijkt positieve associaties te hebben met een betere houding ten
opzichte van algoritmische aanbevelingen.
Online privacy bezorgdheid en zelfredzaamheid → algemene bezorgdheid over de manier waarop
persoonlijke gegevens worden verzameld en gebruikt (bezorgdheid over privacy) - evenals de eigen
veronderstellingen van individuen over hun niveau van bekwaamheid om hun gegevens te
beschermen (online self-efficacy) - zal ook van invloed zal zijn op de algemene perceptie over ADM
door AI.
Demografie → leeftijd en geslacht hebben mogelijk invloed op de perceptie van ADM.
Geloof/belief in gelijkheid → Volgens de machine-heuristiek kunnen geautomatiseerde aanbevelings-
of besluitvormingssystemen worden gezien als onbevooroordeeld en objectief, en passen ze altijd
dezelfde reeks (objectieve) regels toe.
Hypothese 1 Het niveau van bezorgdheid over de online-privacy hangt negatief samen met de
perceptie van eerlijkheid en het nut van ADM, en positief met de perceptie van risico.
Hypothese 2 Online self-efficacy hangt positief samen met de perceptie van billijkheid en het nut van
ADM, en negatief met de perceptie van risico.
Vragen:
1. In welke mate beïnvloedt algemene en domeinspecifieke kennis de percepties over nut,
eerlijkheid en risico van ADM door AI?
2. In welke mate beïnvloeden demografische kenmerken - d.w.z. leeftijd en geslacht - de
perceptie van het nut, de billijkheid en het risico van ADM?
3. In hoeverre beïnvloedt het geloof in de noodzaak van gelijkheid de perceptie van het nut, de
billijkheid, en het risico van ADM door AI?
4. In welke mate verschillen het nut, de eerlijkheid en de risicopercepties van ADM in de
sectoren media, justitie en gezondheidszorg?
Attitude towards AI-decision-makers: differences across context
Onderzoek toont aan dat het type taak, of beslissing, van invloed is op de houding ten opzichte van
of het vertrouwen in algoritmische aanbevelingen.
Methoden
Monster → niet belangrijk voor tentamen
Procedure → niet belangrijk voor tentamen
Maatregelen → niet belangrijk voor tentamen
