RVS: ‘Overheid moet kunstmatige intelligentie in goede banen leiden’

Kunstmatige intelligentie (artificial intelligence, AI) kan de kwaliteit en de toegankelijkheid van de zorg verbeteren, maar dan moet  de overheid wel een scherp oog in het zeil houden. Anders gaat de commercie ermee vandoor en ontstaat wildgroei.

Zo luidt de boodschap van een ‘verkennend rapport’ over AI dat de Raad voor Volksgezondheid en Samenleving (RVS) heeft uitgebracht. 

De nieuwe technologie is aan een gestage, niet geheel voorspelbare opmars bezig: van eenvoudige systemen in de care die bijvoorbeeld een dementerende patiënt structuur of een geheugensteuntje geven tot systemen in de cure die diagnoses stellen, aanvullend onderzoek aanvragen, uitvoeren en beoordelen, therapieën voorstellen en geneesmiddelen voorschrijven. Dat laatste mag nog toekomstmuziek lijken, het is, meent de RVS, dichterbij dan menigeen denkt. 

Zo zijn er al expertsystemen die (bijna) net zo goed een diagnose kunnen stellen als een medisch specialist. De verwachting is dat zulke systemen zelfstandig kunnen leren en steeds nauwkeuriger zullen zijn naarmate ze meer toegang hebben tot de enorme hoeveelheid medische gegevens van patiënten en zo klachten en symptomen kunnen koppelen aan diagnoses en uitkomsten.  

Ook geavanceerde robotica is niet langer sciencefiction: autonome robots die verzorgende taken overnemen, bijvoorbeeld patiënten wassen of operaties veilig uitvoeren, zijn er vooralsnog niet, maar op meerdere plaatsen in de wereld wordt onderzoek gedaan naar robots die verpleegkundige handelingen kunnen overnemen.  

De vraag is daarbij steeds wie er aan de touwtjes trekt bij de invoering van AI. Volgens de RVS zien grote techbedrijven de zorgsector als een aantrekkelijke markt; vooral ‘het achterblijven van de zorgsector op het vlak van ICT biedt een enorme winstpotentie’. ‘Ze zullen waarschijnlijk de gangmaker van de ontwikkeling van AI in de zorg worden.’ 

De raad acht een tweesporenbenadering nodig om de ontwikkelingen in goede banen te leiden. Een spoor voor de lange(re) termijn en een spoor om morgen mee te beginnen.  

Het eerste spoor omvat het ‘programmatisch volgen’ van AI-ontwikkelingen, kennis over AI genereren en delen, burgers informeren en aandacht voor AI in zorgopleidingen. Want zorgverleners moeten weten hoe algoritmes werken en wat ze doen.  

Het tweede spoor omvat het stellen van kwaliteitseisen aan AI-toepassingen en die ook afdwingen. De CE-markering voor toelating tot de (Europese) markt van AI-toepassingen is nu ontoereikend. Aanbieders van AI-technologie opereren voor een belangrijk deel buiten de collectieve verzekering om en dus is er voor hen geen noodzaak om een toelating op grond van de Wet Toelating Zorginstellingen (WTZi) aan te vragen. De overheid moet daarom een bestaand juridisch instrument inzetten, namelijk de Europese regelgeving op het gebied van de ‘dienst van algemeen (economisch) belang’.  Daarmee kan de overheid voorwaarden stellen aan onder meer de kwaliteit, betrouwbaarheid en prijsstelling van een dienst (zoals AI).  

Heel belangrijk is ook de garantie van datacontinuïteit: bedrijven kunnen failliet gaan. In dat geval moeten patiënten over hun gegevens kunnen blijven beschikken. Een verplichte (gratis) downloadmogelijkheid voor patiënten van hun gegevens in zorgsystemen kan die continuïteit van zorg waarborgen, adviseert de RVS.