In juni 2023 kwam naar voren dat een Nederlandse kantonrechter voor zijn uitspraak ChatGPT gebruikte. De zaak betrof een geschil tussen buren over de efficiëntie van zonnepanelen na een verbouwing. De rechter heeft ChatGPT gebruikt om de levensduur van zonnepanelen en de prijs per kilowattuur aan elektriciteit te bepalen. Een woordvoerder van de rechtbank benadrukt dat voor de uitkomst van de zaak het gebruik van ChatGPT geen enkele rol heeft gespeeld. Onder rechters en cyberspecialisten heerst twijfel over de vraag of de inzet van ChatGPT in rechterlijke uitspraken geoorloofd en aanvaardbaar is.
Chatbot is vlot
ChatGPT is een taalmodel dat gebaseerd is op kunstmatige intelligentie (AI). Wanneer men een vraag stelt aan de chatbot, genereert het tekst in reactie op die vraag. Als de vraag op een andere manier wordt gesteld, is het antwoord ook anders. Hoewel de lancering al bijna twee jaar geleden is, kan de chatbot nog steeds fout antwoorden. Het taalmodel wordt almaar beter, maar het is nog niet zo betrouwbaar in cijfers. Het is gemaakt om te gebruiken als zogenoemde ‘woordvoorspeller’ en dient niet als zoekmachine. Tech-expert Jarno Duursma geeft bovendien aan dat het taalmodel geen echte kennis bezit en geen database is. “Het is een computersysteem dat het volgende woord voorspelt in een zin, meer niet”, aldus Duursma.
Dit is waar het spaak liep in de uitspraak van de kantonrechter. Deze rechter gebruikte ChatGPT niet als het hulpmiddel waarvoor het is bedoeld. Hierdoor kan de rechter een onjuiste conclusie trekken op basis van onbetrouwbare data. Uiteindelijk zaten de cijfers er niet ver naast en speelden ze verder geen rol in de schadevergoeding aangezien de vordering werd afgewezen. Duursma geeft ook aan dat ervan uitgegaan mag worden dat een rechter onderzoek laat verrichten of zelf onderzoek doet. Om het antwoord van de rechter te kunnen toetsen is het van belang te weten welke bronnen daarbij gebruikt zijn.
Googelende rechter 2.0?
Wanneer een rechter op internet informatie heeft gevonden, dienen de betrokken partijen hierover geïnformeerd te worden. Dit zodat zij hiervan op de hoogte zijn en er eventueel op kunnen reageren. Zo wordt het beginsel van hoor en wederhoor gewaarborgd. In 2011 heeft de Hoge Raad over dit beginsel uitspraak gedaan. Een arrest van het gerechtshof steunde gedeeltelijk op feitelijke gegevens die het hof uit eigen beweging op het internet had gevonden. Deze gegevens kwamen niet voor in het procesdossier, waardoor de Hoge Raad oordeelde dat het in strijd was met het beginsel van hoor en wederhoor. Uit het arrest vloeide de term ‘googelende rechter’ voort, wat gauw gekoppeld werd aan de kantonrechter die ChatGPT gebruikte. Deze rechter schrijft dat zijn vonnis slechts ‘mede’ door ChatGPT tot stand is gekomen. Toch bestaat er twijfel onder juristen of de werkwijze van de rechter voldoet aan het beginsel van hoor en wederhoor.
Afkeuring of baanbrekend?
Alhoewel het de eerste keer is dat een rechter transparant is over het gebruik van ChatGPT, is hij niet de eerste in de juridische wereld die gebruikmaakt van AI. Diverse advocatenkantoren gebruiken al geruime tijd juridische varianten op ChatGPT. Een belangrijk onderscheid is dat deze meestal alleen voor intern gebruik wordt toegepast. Dave Maasland, CEO van cyberbedrijf Eset, zegt dat dit hopelijk gaat helpen om de discussie binnen de rechtspraak over het gebruik van generatieve AI te starten. Nederland kampt binnen de rechtspraak met grote uitdagingen. Denk hierbij aan hoge werkdruk, lange wachttijden, laaggeletterden of mensen met een kleiner budget die een procedure starten als obstakel zien.
Het is essentieel dat AI wordt toegepast op een verantwoorde wijze, waarbij de rechter goed geïnformeerd blijft en uiteindelijk zelf de beslissing neemt. Aangezien het ICT-kennisniveau binnen de rechterlijke macht beperkt is, zijn opleiding en training van groot belang. Rechters die AI op een slimme manier inzetten, tonen aan dat ze deze technologie met zorg toepassen. Naar verwachting zal het gebruik van AI in de rechtspraak toenemen, dus kunnen we het maar beter omarmen. AI blijft een hulpmiddel en geen vervanging.
