In onze moderne wereld zijn kunstmatige intelligentie (AI) en algoritmen alomtegenwoordig en vormen ze een integraal onderdeel van ons dagelijks leven. Dit roept belangrijke vragen op over de impact ervan op mensenrechten. In dit kader is het werk van Iris Muis, een jonge wetenschapper uit Utrecht, van bijzonder belang. Ze heeft een belangrijke rol gespeeld bij de ontwikkeling van het Impact Assessment Mensenrechten en Algoritmes (IAMA), een instrument dat is ontworpen om discussies over mensenrechten en het gebruik van algoritmen aan te wakkeren en om algoritmische toepassingen kritisch te evalueren. Het IAMA trekt voornamelijk aandacht binnen bedrijven en overheidsinstellingen, waar het de manier waarop we ethisch naar AI en algoritmen kijken, aanwakkert. In dit artikel vertelt Iris Muis over haar ontwikkeling van rechtenstudent tot een pionier op het gebied van ethisch gebruik van algoritmes en AI binnen overheidsinstellingen.
Recht naar impact
Muis startte haar academische loopbaan met een focus op rechten, maar haar interesse in internationale betrekkingen en mensenrechten leidde haar uiteindelijk naar een geheel ander traject. Dit kwam voort uit haar verlangen om een belangrijke impact te maken, iets wat ze binnen de traditionele advocatuur als beperkt ervoer.
‘Ik wil echt impact maken’
Haar interesse voor digitalisering en de globaliserende wereld bracht haar naar de Data School van de Universiteit Utrecht. ‘Ik wil echt impact maken,’ stelt Muis. Het begon met een eenvoudige vraag aan de Data School om een cursus te volgen, wat leidde tot een baan bij de Data School zelf en bij het ontwikkelen van cursusinhoud over digitalisering. ‘Het was eigenlijk heel toevallig,’ erkende Muis. ‘Maar het sloot perfect aan bij mijn interesses.’ Zo vond ze haar weg naar het IAMA, waar ze een sleutelrol speelt in het bevorderen van het ethisch gebruik van AI en algoritmen binnen overheidsinstellingen.
Mensenrechten in het digitale tijdperk
Het IAMA is een tool voor zelfevaluatie die ze heeft ontwikkeld samen met collega’s van Universiteit Utrecht, in opdracht van het ministerie van Binnenlandse Zaken. Het helpt teams om hun algoritmische toepassingen te beoordelen, met speciale aandacht voor mensenrechten. ‘Het is bedoeld om organisaties te helpen een balans te vinden tussen algoritmische toepassingen en de bescherming van individuele rechten’, legt Muis uit. Het IAMA moet als het ware discriminatoire aspecten van AI en algoritmische toepassingen eruit filteren, vertelt Muis. Die kunnen er soms bewust dan wel onbewust ingebouwd zijn door bijvoorbeeld bestaande discriminerende databases.
‘Het is essentieel dat ontwikkelaars van algoritmen en AI zich bewust zijn van de bredere impact van hun werk op de samenleving en individuen’
Dit initiatief komt voort uit de groeiende vraag naar ethische overwegingen binnen AI en algoritmes. Het is ook een proactieve stap richting verantwoorde innovatie. ‘Met het IAMA wilden we een middel creëren waarmee organisaties zelf kunnen bepalen hoe ze innovatie en de bescherming van rechten kunnen combineren,’ verduidelijkt Muis. Het evaluatieproces dat het IAMA stimuleert, gaat dieper dan alleen een oppervlakkige beoordeling van algoritmische toepassingen. Het vraagt teams om niet alleen te denken aan de directe effecten van hun werk, maar ook aan de langetermijngevolgen voor zaken als sociale gelijkheid, privacy en eerlijke besluitvorming. Muis benadrukt het belang van deze reflectie: ‘Het is essentieel dat ontwikkelaars van algoritmen en AI zich bewust zijn van de bredere impact van hun werk op de samenleving en individuen.’
Woman in AI en diversiteit
Het is zonder meer duidelijk dat IAMA een impact heeft gehad op het bevorderen van verantwoordelijk gebruik van AI binnen overheidsinstellingen. Deze bijdrage heeft Muis een nominatie opgeleverd voor de Leader in Responsible AI Award bij de Women in AI Awards. Ze belandde zelfs in de top 3 van genomineerden. Muis stelt dat het belangrijk is dat dit soort prijzen bestaan. Er is namelijk een uitdaging op het gebied van diversiteit en inclusie binnen de tech-sector. Muis stelt dat hier nog veel terrein te winnen valt. Bij tech-congressen domineren vooral ‘wat oudere witte mannen’, terwijl er talloze goede sprekers zijn die niet binnen dit stereotype vallen. Zelf probeert ze hierin verandering te brengen door actief te pleiten voor meer diversiteit in sprekerslijsten en organisatoren hierop aan te spreken.
Technologisch geweten
Met een vooruitziende blik benadrukt Muis de groeiende vraag naar juridische professionals die de complexiteit van algoritmen en AI begrijpen en de impact ervan op mensenrechten kunnen inschatten. ‘Ik zie echt een groeiende vraag naar goede juristen die begrijpen hoe technologie van invloed kan zijn op grondrechten,’ zegt ze. Haar overgang van het recht naar de tech-sector laat zien dat de overstap met voldoende passie en enthousiasme haalbaar is.
Daarnaast onderstreept haar werk met het IAMA het belang van de betrokkenheid van goede juristen bij exponentieel groeiende innovaties. De technologische vooruitgang stopt niet en zorgt ervoor dat we moeten nadenken over hoe technologie ons leven beïnvloedt en dat het een grote impact kan hebben op onze grondrechten. Muis stelt dat technologie niet losstaat van onze dagelijkse realiteit en dat we ethische overwegingen hierin serieus moeten nemen. Dit is van belang voor iedereen die betrokken is bij de toekomst van AI, algoritmes en mensenrechten.
