Natuurlijk is het belangrijk dat meer vrouwen deelnemen aan de ontwikkeling van kunstmatige intelligentie. Maar als AI niet transparanter en maatschappelijk verantwoord wordt gemaakt, blijven dominante wereldbeelden zich via data, algoritmen en statistische koppelingen in nieuwe technologie reproduceren en versterken.
Met belangstelling las ik het opiniestuk ‘Vrouwen, bemoei je meer met AI, want een feminiene blik is hoognodig’ van Leontien Hasselman-Plugge. Natuurlijk is het belangrijk dat meer vrouwen deelnemen aan de ontwikkeling van kunstmatige intelligentie. Toch vrees ik dat daarmee een fundamenteler probleem buiten beeld blijft.
AI is niet alleen een verzameling slimme algoritmen; de systemen zijn grotendeels gebaseerd op statistische modellen die leren van historische data. Op basis daarvan construeert AI voortdurend statistische koppelingen tussen woorden, beelden, gedragingen en beslissingen. Die koppelingen lijken objectief, maar zijn dat niet. Zij worden afgeleid uit data waarin dominante maatschappelijke wereldbeelden, zoals genderstereotypen en andere vormen van bias, al besloten liggen, en kunnen daardoor ongemerkt worden bevestigd en zelfs versterkt.
AI leert daardoor niet alleen feiten of patronen, maar ook impliciete aannames, normen en machtsverhoudingen die in die data verborgen zijn. Wat statistisch vaak voorkomt, krijgt gemakkelijk de status van wat normaal, waarschijnlijk of zelfs wenselijk is.
Over de auteur
Cecile Crutzen is voormalig universitair hoofddocent aan de School of Informatics van de Open Universiteit.
Dit is een ingezonden bijdrage, die niet noodzakelijkerwijs het standpunt van de Volkskrant reflecteert. Lees hier meer over ons beleid aangaande opiniestukken.
Eerdere bijdragen in deze discussie vindt u onder aan dit artikel.
Juist daarin schuilt het risico. De Nederlandse toeslagenaffaire heeft op pijnlijke wijze laten zien waartoe dit kan leiden. Statistische patronen en algoritmische koppelingen werden behandeld als objectieve waarheid, terwijl de onderliggende aannames en vooroordelen nauwelijks ter discussie werden gesteld. Het gevolg was dat duizenden burgers ten onrechte als fraudeur werden aangemerkt. Dit voorbeeld laat zien dat de kwaliteit van AI niet alleen afhangt van de techniek, maar vooral van de bereidheid om de verborgen aannames waarop algoritmen en data zijn gebaseerd voortdurend kritisch te onderzoeken.
Daarom worden vrouwen opnieuw voor een dilemma geplaatst. Zij kunnen deelnemen aan de ontwikkeling van AI, maar werken dan veelal met instrumenten waarvan de uitgangspunten al eerder zijn vastgesteld. Zoals Audre Lorde treffend schreef: ‘The master’s tools will never dismantle the master’s house.’ Meer vrouwen alleen verandert de onderliggende logica van deze instrumenten niet vanzelf.
Al sinds 2000 betoog ik in mijn wetenschappelijke publicaties dat technologie nooit neutraal is. Zij maakt deel uit van een interactiewereld waarin waarden, aannames en machtsverhoudingen worden geconstrueerd en doorgegeven. Daarom moeten wij niet alleen vragen wie AI ontwikkelt, maar vooral welke wereldbeelden verborgen liggen in algoritmen, datasets en de statistische koppelingen die AI legt. Juist deze koppelingen bepalen welke verbanden AI legt, welke voorspellingen zij doet en welke conclusies als waarschijnlijk worden gepresenteerd.
Dat vraagt om meer dan diversiteit alleen. Het vraagt om een fundamentele herziening van informatica- en AI-opleidingen. Naast programmeren en data-analyse zouden ethiek, zelfreflectie, filosofie van technologie en een kritische analyse van de maatschappelijke aannames achter algoritmen een vanzelfsprekend onderdeel van het curriculum moeten zijn.
Daarnaast zouden onderzoekers en ontwikkelaars moeten investeren in hulpmiddelen die algoritmen, datasets en de statistische koppelingen waarop AI is gebaseerd systematisch toetsen op verschillende vormen van bias. Nog belangrijker is de ontwikkeling van instrumenten die ontwerpers confronteren met hun eigen blinde vlekken en de verborgen aannames die zij – vaak onbewust – in AI-systemen inbouwen.
Werkelijke innovatie ontstaat niet door bestaande algoritmen verder te verfijnen, maar door de vanzelfsprekendheden waarop zij zijn gebaseerd ter discussie te stellen. De uitdaging is niet alleen om intelligentere AI te ontwikkelen, maar ook om AI transparanter, zelfkritischer en maatschappelijk verantwoord te maken.
Alleen dan veranderen we niet alleen de samenstelling van de ontwikkelteams, maar ook de manier waarop AI wordt ontworpen en toegepast. Zonder fundamentele zelfreflectie blijven dominante wereldbeelden zich via data, algoritmen en statistische koppelingen in nieuwe technologie reproduceren en versterken.
Wilt u reageren? Stuur dan een opiniebijdrage (max 700 woorden) naar opinie@volkskrant.nl of een brief (maximaal 200 woorden) naar brieven@volkskrant.nl
Geselecteerd door de redactie
Source: Volkskrant