Versnelde processen, enorme kostenbesparingen en verbeterde toegankelijkheid en beschikbaarheid van zorg: het potentieel van de adoptie van artificiële intelligentie (AI) in de gezondheidszorg is enorm. Op 21 april 2021 heeft de Europese Unie een voorstel gedaan voor ‘s werelds eerste algemene wet betreffende artificiële intelligentie, de AI Act. Hannah van Kolfschoten, promovenda en docent aan de UvA op het gebied van AI in de gezondheidszorg, is kritisch ten aanzien van het wetsvoorstel. Is er wel voldoende aandacht besteed aan patiëntenrechten of is er überhaupt behoefte aan een specifieke AI-wet voor de gezondheidszorg?
Ver van het bed
Van Kolfschooten heeft de masters Informatierecht en Gezondheidsrecht afgerond en beschouwt haar onderzoek dan ook als een goede combinatie van de twee. “Ik was eigenlijk altijd al geïnteresseerd in hoe de EU onze persoonlijke levens raakt. Van wat er in de supermarkt wordt verkocht tot welke kleurstoffen er mogen worden gebruikt, mensen hebben niet door dat kleine Europese beslissingen grote gevolgen hebben op ons dagelijks leven.” Niet alleen ons dagelijks leven, maar ook onze gezondheidszorg wordt beïnvloed door Europese regulering. Er wordt steeds meer technologie gebruikt in de zorg, wat afdoet aan de menselijke maat. Hierdoor wordt iets persoonlijks uit handen gegeven. Beslissingen over het gebruik van technologie in de zorg worden bovendien op Europees niveau gemaakt. Dit zorgt ervoor dat het voor veel mensen voelt als een ver-van-hun-bed-show.
De EU als trendsetter
Daar waar de Verenigde Staten en China wat betreft de ontwikkeling van AI ver voorlopen op de rest van de wereld, is de EU de eerste grote wetgevende macht die gepoogd heeft kunstmatige intelligentie te reguleren. “De EU heeft als supranationale organisatie een unieke positie. Zij kan met regulering in haar interne markt innovatie stimuleren.” De AI Act is in dat opzicht ‘baanbrekend’ te noemen. Het wetsvoorstel is echter algemeen geformuleerd, dus niet slechts gericht op de zorgsector. Van Kolfschooten ziet daarom een aantal haken en ogen.
Speciale mate van bescherming
De AI Act zou ook van toepassing zijn op medische apparaten die gestuurd worden door AI. “Mijn voornaamste kritiekpunt is dat wij op het gebied van gezondheidszorg een speciale mate van bescherming nodig hebben, vooral wat betreft dit soort technologische ontwikkelingen waarbij menselijke beslissingen uit handen worden gegeven.” Op dit moment wordt die behoefte aan extra bescherming niet erkend in het wetsvoorstel. Inbreuken op fundamentele rechten die vaak worden geassocieerd met AI, zoals discriminatie, verminderde privacy en ondoorzichtige besluitvorming, zouden in de zorgcontext kunnen worden verergerd.
“De grootste risico’s van AI komen juist naar voren tijdens het gebruik, niet in de ontwikkeling.”
Van Kolfschooten pleit voor een meer menselijke benadering in het wetsvoorstel in plaats van een bedrijfsmatige. Tachtig procent van de in Europa ontwikkelde AI is bestemd voor de gezondheidszorg, maar de AI Act en discussies daaromtrent zien eerder op grootschalige surveillancesystemen. “De grootste risico’s van AI komen juist naar voren tijdens het gebruik, en niet in de ontwikkeling. Je weet pas hoe een zelflerend systeem werkt op het moment dat het in gang is gezet.”
Blik op de toekomst
Van Kolfschooten heeft voor haar promotieonderzoek de implementatie van AI als volgt gedefinieerd: “Een beslissing die voorheen door een persoon werd genomen, wordt geheel of ten dele overgenomen door een computer, buiten de controle van de mens om.” Dit kan iets heel groots zijn, maar ook iets kleins. Als voorbeeld noemt zij het afsprakensysteem van een huisarts: “Het systeem kan straks uit zichzelf mensen met bepaalde klachten voorrang geven.” Momenteel zitten veel AI-systemen die bestemd zijn voor de zorg in de ontwikkelingsfase. Van Kolfschooten ziet voor zich dat over tien jaar in ieder geval de simpele processen volledig zijn geautomatiseerd. Operaties eventueel ook, maar altijd onder toezicht van een arts.
“Straks heb je in het ziekenhuis geen radioloog meer, maar een data scientist.”
Van Kolfschooten verwacht niet dat de arts die gewoon met een patiënt moet communiceren, op korte termijn volledig vervangen zal worden. Maar in de radiologie bijvoorbeeld, waar de artsen over het algemeen minder te maken hebben met patiënten, kunnen de voordelen op den duur zo groot worden dat er andere beroepen nodig zijn. “Straks heb je in het ziekenhuis ineens geen radioloog meer, maar een data scientist.”
Van Kolfschooten zou momenteel wel een operatie ondergaan ten behoeve van de ontwikkeling van AI. “Als ik naderhand inzicht zou krijgen in alle gegevens, zou ik het niet erg vinden om een proefkonijn te zijn. Als het eenmaal uit de ontwikkelingsfase is, zou ik een stuk principiëler zijn.” Wie weet heeft de EU tegen de tijd dat dergelijke operaties de norm zijn de menselijke benadering van Van Kolfschooten geadopteerd.
