Maxim Februari is rechtsfilosoof en schrijver. In zijn wekelijkse column in NRC waarschuwt hij regelmatig voor de opkomst van kunstmatige intelligentie binnen de overheid. Wat betekent het voor de burger als een bestuurlijke beslissing niet meer door een mens gemaakt wordt, maar door een computer? En wat voor gevolgen heeft deze ontwikkeling voor de rechtsstaat?
Van student tot scribent
Toen Februari in de jaren ‘80 afstudeerde in Filosofie en Kunstgeschiedenis, was de werkloosheid in Nederland torenhoog. Om zijn baankans te vergroten besloot hij nog een derde studie te beginnen: Rechtsgeleerdheid, een vakgebied dat goed samenging met zijn interesse in ethiek. “Dat maakt dat ik mij later rechtsfilosoof ben gaan noemen”, vertelt Februari aan zijn keukentafel in het prachtige stadje Buren. Na zijn studententijd promoveerde hij in de filosofie en doceerde een aantal jaren ethiek en rechtsfilosofie. Rond 2002 liet hij de universiteit achter zich.
Ik hoef niet precies alle artikelen van de wet uit mijn hoofd te kennen
De afgelopen twintig jaar is Februari in Nederland bekend geworden door zijn werk als columnist – eerst voor de Volkskrant en nu voor NRC – en als schrijver. Ook doet hij af en toe advieswerk, iets waarbij zijn juridische achtergrond nog altijd van pas komt. Zo werkte hij recent mee aan een adviesproject over industriële veiligheid, waarbij er een spanning aan de orde kwam tussen de industrie en het OM. Februari: “Het helpt dan dat rechtsdenken te kennen,” een term die tijdens het gesprek nog vaker zal vallen, “ik hoef niet precies alle artikelen van de wet uit mijn hoofd te kennen, maar ik snap hoe de staat in elkaar zit en wat de diverse bevoegdheden, taken en opdrachten zijn.”
Rechtssysteem als organisch wezen
Wat vindt hij er dan van dat de nieuwe minister van Justitie en Veiligheid niet is opgeleid als jurist? Hoe zit het met haar ‘rechtsdenken’? Februari wil het afwachten: “Misschien werkt het fantastisch, maar dat er wenkbrauwen omhoog gaan snap ik wel.” Hij legt uit dat vaak gedacht wordt dat juristen gewoon mensen met een hoofd vol kennis van de wet zijn, terwijl de rechtsfilosofie laat zien hoe het rechtssysteem als een organisch wezen in elkaar zit: “Je kunt niet zomaar ergens een wetje uithalen en een andere erin zetten, want dat heeft dan ergens anders weer gevolgen.” Als minister is het, denkt hij, wel handig om te begrijpen “hoe het hart van dat systeem klopt”.
Een goed jurist heeft volgens Februari echt besef van wat het rechtsdenken en wat recht is.
Dit begint al op de universiteit. Deel van een goede opleiding is dat studenten leren zelf te reflecteren. Dat hier niet altijd aandacht voor is, baart hem zorgen. Als voorbeeld hoe het niet moet, wijst hij op de toeslagenaffaire: “Dan zie ik ambtenaren die niet meer in staat zijn om te begrijpen wat eigenlijk de bedoeling is, waarop de beslissingen eigenlijk gebaseerd worden en wat die te maken hebben met het werkelijke leven van mensen.”
Rechtsstaat onder gigantische druk
De toeslagenaffaire is ook een gevolg van het toenemende gebruik van data en kunstmatige intelligentiesystemen binnen de overheid, een ontwikkeling waarvoor Februari de laatste jaren in zijn columns met regelmaat waarschuwt. De burger wordt dan niet meer bestuurd door mensen, maar door systemen en algoritmes. Hij verwacht dat in de toekomst de overheid meer gebruik gaat maken van dataprofielen of ‘afbeeldingen’ van personen. “Het rechtssysteem gaat eigenlijk werken als een black box. Je weet niet meer welke afbeelding de overheid van je maakt, welke data ze van je hebben en of die nog kloppen. En je weet ook niet meer wat de regels zijn en hoe de analyse van de data wordt gemaakt.”
Je ziet die druk op de rechtsstaat, de rule of law, gigantisch worden.
Bovendien zie je volgens Februari dat de politiek en het bestuur zich steeds vaker beroepen op hoge druk, om zo juridische procedures te kunnen negeren. “Ze zeggen eigenlijk: we hebben veel grote problemen en haast, dus we moeten even buiten de wet om.” Als gevolg van deze ontwikkelingen begint het gevoel van rechtsbescherming in de samenleving te eroderen. “Nu staat de rechter er nog als een soort blok voor, maar hoe lang houdt die dat nog. Je ziet de druk op de rechtsstaat, de rule of law, gigantisch worden.”
Een nieuwe ethische theorie
Volgens Februari gaat de rechtsbescherming fundamenteel veranderen, omdat heel veel juridische beslissingen genomen zullen worden door kunstmatig intelligente systemen, die op een heel andere manier iets van ons gedaan proberen te krijgen. “Op het moment dat je iets in de code zet staat iets al snel vast. Hoe kan je dan jurisprudentie gaan maken? Hoe codeer je dat?” Hij vraagt zich af hoe je de rule of law in kunstmatige intelligentie kunt krijgen: “die kun je niet in wetteksten programmeren, dus je moet dat opleggen aan het systeem.”
Er is een heel nieuw soort ethische theorie nodig
Februari roept op om als samenleving vooruit te kijken en ons voor te bereiden op de veranderingen die het gebruik van kunstmatige intelligentie binnen de overheid met zich meebrengt. “Er is een heel nieuw soort ethische theorie nodig, die het rechtsdenken oplegt aan het bestuur. Daar moeten we ontzettend diepgaand en fundamenteel over nadenken. En, het moet snel…” Hoe? Dat is de grote uitdaging die voor ons ligt.
