Ethici: ‘Verwacht niet dat AI de zorg per definitie efficiënter maakt’

In de medische wereld wordt artificiële intelligentie (AI) als veelbelovend gezien omdat het tot meer efficiëntie kan leiden. Maar het is maar de vraag of AI op lange termijn die belofte kan vervullen. Hierover schreef een aantal Nederlandse ethici, Karin Rolanda Jongsma e.a., een commentaar in NPJ Digital Medicine, onderdeel van Nature.

De ethici adviseren om kritisch te blijven over de verwachte voordelen van AI. AI-systemen zijn vaak nauwkeuriger in bepaalde taken die zorgmedewerkers veel tijd en energie kosten, waardoor de werkdruk afneemt. Maar die nauwkeurigheid wordt vaak gelijkgesteld aan meer efficiëntie, terwijl dat een misvatting is, vinden ze.

Zo wordt er een te smalle definitie van werkdruk gehanteerd, waardoor AI op de korte termijn dan wel efficiënt lijkt, maar op de lange termijn dit mogelijk niet is. In de ontwikkeling en het onderhoud van een AI-systeem gaat namelijk ook veel mensenwerk zitten, zowel van zorgmedewerkers als van ICT-medewerkers en data-analisten bijvoorbeeld. Daarnaast moeten zorgmedewerkers trainingen volgen over AI, en komen er nieuwe verantwoordelijkheden bij, die hun werkdruk juist verhogen. Zo moeten zij alert blijven op fouten van AI die de patiënt mogelijk kunnen schaden, en in de gaten houden of het systeem nog goed functioneert. Jongsma trekt tevens de vergelijking met de opkomst van e-mail: de gedachte was dat dit brieven zou vervangen, maar het veranderde fundamenteel hoe we met elkaar communiceren, en leidde uiteindelijk tot veel meer communicatie dan vóór die tijd. Zo kan het gebeuren dat de bredere beschikbaarheid van AI ertoe leidt dat het beleid gaat voorschrijven om het ook vaker toe te passen, waardoor de werkdruk juist eerder verhoogd wordt en de efficiëntie afneemt. Mocht toch blijken dat AI leidt tot meer efficiëntie binnen de medische zorg, dan moet niet vergeten worden dat er altijd een menselijke factor aan te pas dient te komen. Zo is het de vraag welk vertrouwen de professional stelt in het AI-systeem. Als te veel wordt uitgegaan van het AI-algoritme, dat later blijkt fouten te maken of een bias te hebben, bestaat de kans dat in het begin de efficiëntie toeneemt, maar later afneemt.

De ethici concluderen dat het nog te vroeg is om harde conclusies te trekken over de mate waarin AI tot meer efficiëntie leidt. Het uiteindelijke effect van AI zal pas enkele jaren na het invoeren ervan goed beoordeeld kunnen worden. In de tussentijd is het belangrijk om voorzichtig om te gaan met de technologie en kritisch te beoordelen of AI echt bijdraagt aan de klinische praktijk.

Why we should not mistake accuracy of medical AI for efficiency (NPJ Digital Medicine)