Laatste nieuws
Nieuws

Ethische dilemma’s bemoeilijken kunstmatige intelligentie in zorg

Plaats een reactie

Van kunstmatige intelligentie in de zorg wordt veel verwacht, maar er zijn nog allerlei ethische knelpunten die de ontwikkeling en toepassing ervan in de praktijk bemoeilijken. Dat blijkt uit het signalement ‘Digitale dokters’ over zogeheten medische expertsystemen dat woensdag werd gepresenteerd door het Centrum voor Ethiek en Gezondheid.

Er bestaan verschillende soorten medische expertsystemen. In de ‘smalle’, meestal ‘regelgebaseerde’ systemen, worden specifieke data volgens vastgelegde regels gebruikt. Bijvoorbeeld om patiëntspecifieke behandeladviezen te genereren gebaseerd op patiëntgegevens en richtlijnen. Ook bestaan er zelflerende systemen; die worden niet van A tot Z voorgeprogrammeerd, maar leren en nemen beslissingen op basis van patronen in data. De toepassing van de bredere, zelflerende expertsystemen is nu nog futuristisch, omdat ze nog niet voldoende ontwikkeld zijn. Hierover zijn, volgens het Centrum voor Ethiek en Gezondheid (CEG, een samenwerking van de Raad voor Volksgezondheid en Samenleving en de Gezondheidsraad), de verwachtingen echter het hoogst. Maar het risico bestaat dat te veel betekenis worden gehecht aan de resultaten van expertsystemen, terwijl tot dusver kunstmatige intelligentie de gezondheidszorg niet heeft gebracht wat ervan werd verwacht, waarschuwt het CEG.

Ook waarschuwt het CEG voor ethische dilemma’s bij het gebruiken van expertsystemen. Bij zelflerende systemen is het bijvoorbeeld de vraag in hoeverre de gebruikers nog inzicht hebben in hoe het systeem tot een diagnose of behandelvoorstel komt. Daardoor kan het lastig zijn te beoordelen of het wel leidt tot de beste zorg voor de individuele patiënt. Daarnaast kan het lastig zijn om bijvoorbeeld een selectiebias of fouten in het gebruikte wetenschappelijk onderzoek in het systeem te ontdekken. Dit komt doordat niet inzichtelijk is hoe en op basis van welke data het systeem tot een voorstel komt. Als die fouten in het systeem verborgen blijven, kan dat risico’s geven voor de patiënt, stelt het CEG. Verder zijn er ethische vraagstukken op het gebied van besluitvorming van de patiënt, die zelf de regie wil voeren over zijn behandeling en misschien tot een heel andere keuze komt dan het systeem.

Ook op het gebied van de professionele verantwoordelijkheid van artsen zijn er ethische dilemma’s. Zo ‘willen’ sommige systemen dat de arts een uitleg geeft als die het voorstel van het systeem naast zich neerlegt. Dat kunnen artsen als een ongewenste inmenging ervaren. Daarnaast wijst het CEG erop dat het gebruik van expertsystemen kan leiden tot een afname van vaardigheden van artsen, omdat een taak die ze eerder zelf uitvoerden door een systeem wordt overgenomen. Dat hoeft volgens het CEG niet erg te zijn als er overeenstemming is over wanneer een uitkomst succesvol is. Het is echter niet altijd makkelijk vast te stellen wanneer een systeem beter presteert dan een arts. Aan de andere kant kunnen artsen ook worden verleid te veel te vertrouwen op een expertsysteem, wat zou kunnen leiden tot minder goede zorg voor een patiënt. De klinische vaardigheden van artsen zijn, wat het CEG betreft, onontbeerlijk. Maar misschien is het in de toekomst – als systemen op sommige gebieden beter gaan presteren dan artsen – juist onethisch om níet te kiezen voor een expertsysteem. Andere ethische dilemma’s gaan over de privacy van patiënten en de aansprakelijkheid bij medische fouten als expertsystemen worden ingezet.

Op dit moment is niet duidelijk of expertsystemen al leiden tot betere zorg, stelt het CEG. Er zou meer onderzoek moeten worden gedaan naar de effectiviteit ervan. Ook moet worden gekeken naar de transparantie van de expertsystemen, naar de professionele verantwoordelijkheid van de arts en de juridische regelgeving voor het gebruik van deze systemen. En artsen moeten meer worden geschoold in vaardigheden om expertsystemen te gebruiken.

lees ook

Nieuws
  • Simone Paauw

    Simone Paauw deed de deeltijdopleiding journalistiek in Tilburg en werkt sinds 2008 als journalist bij Medisch Contact. Ze interviewt het liefst de ‘gewone arts’ met een bijzonder verhaal, bijvoorbeeld voor de rubriek Het Portret.  

Op dit artikel reageren inloggen
Reacties
  • Er zijn nog geen reacties
 

Cookies op Medisch Contact

Medisch Contact vraagt u om cookies te accepteren voor optimale werking van de site, kwaliteitsverbetering door geanonimiseerde analyse van het gebruik van de site en het tonen van relevante advertenties, video’s en andere multimediale inhoud. Meer informatie vindt u in onze privacy- en cookieverklaring.