Netflix die je een serie aanbeveelt, een chatbot, of door middel van gezichtsherkenning je telefoon ontgrendelen: het is allemaal gebaseerd op Artificial Intelligence, ook wel ‘AI’. Het toenemend gebruik hiervan zal de wereld behoorlijk gaan veranderen. Een digitale technologie met zulke grote gevolgen vraagt om regulering. Eind april werd dan ook het langverwachte voorstel voor de ‘Artificial Intelligence Act’ door de Europese Commissie gepubliceerd. De regels moeten de basis gaan vormen van een nieuw wetgevend kader rondom AI. Als de richtlijn in de huidige vorm wordt aangenomen, zal deze grote impact hebben op het gebruik van AI in de Europese Unie. Over de tekst en de reikwijdte ervan zal dan ook ongetwijfeld nog gediscussieerd worden.
Slimme systemen
De nieuwe wetgeving zal zich richten op de ontwikkelaars, aanbieders en gebruikers van AI-systemen. AI systemen bootsen menselijke intelligentie na, om taken uit te voeren en die zichzelf verbeteren op basis van de verzamelde informatie. We komen het iedere dag tegen. Zo beveelt Netflix je geautomatiseerd aan welke series je leuk zal vinden op basis van je kijkgedrag en kun je je telefoon ontgrendelen met de AI-gedreven techniek van gezichtsherkenning. De inzet van AI kan veel voordelen bieden, maar kent ook risico’s. Zo bouwde Amazon bijvoorbeeld een werving- en selectie-systeem om de cv’s van sollicitanten te beoordelen. Omdat de verzamelde cv’s vooral van mannen waren, leerde Amazon’s systeem zichzelf dat mannelijke kandidaten beter waren. Dit leidde tot een discriminerend selectieproces.
De AI piramide
De Europese Commissie wil AI nu gaan reguleren om de grondrechten van Europese burgers te beschermen. Het idee is AI-producten te categoriseren op basis van het risico dat het gebruik ervan met zich meebrengt. In het wetsvoorstel is daarom een lijst opgesteld met verboden toepassingen. Daarnaast krijgen veel AI-oplossingen een zogenoemde ‘hoog-risicoclassificering’. Dat houdt in dat die toepassingen, om in de EU te worden gebruikt, voortaan aan strenge eisen moeten voldoen.
De Commissie gebruikt in haar wetsvoorstel een piramideconstructie: hoe groter het risico, hoe meer regels er nodig zijn. Deze constructie bestaat uit vier soorten systemen. In de bovenste laag van de piramide zitten de AI systemen die een ‘onaanvaardbaar risico’ zouden vormen voor de grondrechten en veiligheid van mensen. Hierbij valt te denken aan social scoring en gezichtsherkenning in openbare ruimtes. Deze vormen van AI wil de Commissie geheel verbieden. De regulering focust zich echter het meest op de categorie daaronder: de ‘hoog risico systemen’. Dit zijn bijvoorbeeld de systemen die vaststellen of iemand een lening of hypotheek krijgt, of systemen die cv’s beoordelen. Onderin staan de overige toepassingen die een beperkt of minimaal risico meebrengen.
Struikelblokken
Om deze ‘hoog risico systemen’ in goede banen te leiden, moeten zij voldoen aan strenge eisen, waarvan de belangrijkste een verplichte keuring is. Wanneer het product de keuring doorstaat krijgt het een CE keurmerk en mag het op de Europese markt worden gebracht. Hierin schuilt volgens experts een eventueel struikelblok. Dit heeft alles te maken met de uitvoerbaarheid van het wetsvoorstel: er moeten mensen komen die de ontwikkelaars kunnen helpen met het behalen van het CE keurmerk. Dit is echter niet het enige obstakel. Ook de lijst met verboden- en hoog risico toepassingen is naar verwachting nog niet volledig. Hierover zal vermoedelijk veel gelobbyd worden bij de Europese Raad- en Commissie. Tenslotte kan er nog bezorgdheid ontstaan over het brede toepassingsgebied van de voorgestelde regels. Ook aanbieders in Amerika zullen zich namelijk aan de regels moeten houden, als zij hun AI-systeem beschikbaar stellen in de EU.
Een eerste stap gezet
Het voorstel is pas een eerste ontwerp en wordt op dit moment door het Europees Parlement en de Raad van de Europese Unie beoordeeld. Het zal een aantal jaren duren voordat de wetgeving in werking treedt. In die periode zal de uitwerking van de verboden lijst en de reikwijdte van de regelgeving ongetwijfeld onderwerp van discussie zijn. Één ding is zeker: over de precieze invulling van AI regelgeving is het laatste woord nog niet gezegd.
