‘Opereer jij of opereer ik?’

Scheidslijn vervaagt

Natuurlijk, robotica in de zorg betreft nog steeds een aanvulling op het menselijk handelen. Een operatierobot maakt de handelingen nauwkeuriger en verbetert de ergonomie, maar de chirurg is nog steeds het brein achter de ingreep. De scheidslijn tussen fysieke, digitale en biologische elementen vervaagt echter, en de autonomie van de robot komt onmiskenbaar dichterbij.1

Dus stel, u wordt binnenkort geopereerd. Voor deze ingreep kan een operatierobot ingezet worden. Deze robot beschikt over software op basis van artificiële intelligentie en een database van tienduizenden vergelijkbare operaties. De chirurg heeft jarenlange ervaring met deze operatie.

Op basis van hun vaardigheden maken robot en chirurg hun eigen inschattingen van wat het beste is, maar deze beoordelingen kunnen van elkaar verschillen. Gemiddeld genomen heeft de robot, als deze autonoom werkt, iets betere klinische uitkomsten en iets minder complicaties dan de chirurg. Waarvoor zou u dan kiezen?

Wat als de rol van de robot groter wordt dan die van de arts?

Dit vraagstuk legde het Máxima MC (MMC) in oktober 2019 voor aan de bezoekers van de Dutch Design Week (DDW) in Eindhoven. Het nodigde bezoekers uit voor een gesprek, aan de hand van een futuristische film van een autonoom werkende robot. Wat als de rol van de robot groter wordt dan die van de arts? Robots worden nooit moe of ziek en kennen grote nauwkeurigheid en betrouwbaarheid. Maar wie is er aansprakelijk als het misgaat? En nog belangrijker: durven we ons volledig over te geven aan deze technologie?

Zes vragen

Om mensen aan het denken te zetten en de discussie te voeden werden aan de respondenten zes vragen gesteld. Er is overigens niet gevraagd naar bijvoorbeeld geslacht of leeftijd van de respondenten: achteraf gezien een gemis.

In totaal werden 811 personen geënquêteerd over robots en kunstmatige intelligentie in de zorg.

Diezelfde vragen werden na afloop van de DDW eveneens voorgelegd aan een groep medische zorgprofessionals: 86 medisch specialisten, 35 arts-assistenten, 40 coassistenten, 95 verpleegkundigen, 16 verpleegkundig specialisten, 19 operatieassistenten en 23 paramedici (N=318). Hierbij werd geen onderscheid gemaakt tussen snijdende en beschouwende specialismen.

Het onderzoek leverde enkele interessante uitkomsten op. Allereerst werd gevraagd of men ervoor open zou staan om zich te laten opereren door een zelfstandig functionerende robot, of een voorkeur heeft voor een arts. Het blijkt dat maar liefst de helft van de bezoekers van de DDW zich zou laten opereren door zo’n robot, tegenover 35,7 procent van de zorgprofessionals.

De chirurg hoeft dus niet te opereren, maar de overgrote meerderheid van de leken (83,5%) wil wel dat de chirurg aanwezig is in de operatiekamer. Bij de zorgprofessionals lijkt het vertrouwen in de chirurg nog wat groter en wil maar liefst 94,6 procent van de respondenten dat de chirurg aanwezig is.

Verder werd aan de respondenten gevraagd wie beslissingsbevoegd is, in het geval de robot een andere aanpak heeft dan de chirurg. Deze bevoegdheid blijft, als het aan de overgrote meerderheid van de respondenten ligt, behouden aan de arts. Zorgprofessionals vinden nét iets vaker dat de beslissingsbevoegdheid bij de arts ligt dan de bezoekers van de DDW, namelijk 92,9 versus 81,6 procent. Dit geldt ook voor het geval er onverhoopt complicaties zouden optreden. In beide groepen is de arts degene die het beleid mag bepalen wanneer er iets fout gaat tijdens de operatie. Bij de zorgprofessionals is dit vaker (95,3%) dan in de lekengroep (86,8%). Beide groepen zijn dus nog wat terughoudend om een robot het beleid te laten bepalen.

Uiteindelijk verantwoordelijk

Eveneens werd de visie van de respondenten getoetst met betrekking tot informed consent, wanneer een operatierobot ingezet wordt. Tijdens een operatie kunnen niet alleen complicaties optreden, maar ook nevenbevindingen aan het licht komen. De situatie werd geschetst dat er peroperatief een probleem ontdekt wordt buiten het operatiegebied, met als vraag of de robot mag besluiten dit direct te verhelpen. Bijna de helft van de respondenten zonder medische achtergrond (44,9%) geeft akkoord aan de robot om een nevenbevinding te verhelpen, zonder informed consent te vragen. In de groep van de zorgprofessionals is deze groep aanzienlijk kleiner, maar nog zou ongeveer een kwart zich laten helpen, hoewel hiervoor geen specifieke toestemming is gevraagd.

Als laatste werd onder de respondenten getoetst wie er nu uiteindelijk verantwoordelijk is indien er toch onverhoopt een complicatie optreedt bij een autonoom functionerende robot. Deze vraag riep veel discussie op, voornamelijk onder de bezoekers van de DDW. Van deze groep wist 13,7 procent niet goed een verantwoordelijke aan te wijzen; men vond het ziekenhuis, of de fabrikant van de robot of zowel de arts als de robot aansprakelijk. Slechts een enkeling van deze 13,7 procent stak de hand in eigen boezem en vond dat er ook een aansprakelijkheid lag bij de patiënt zelf, aangezien hij voor een robotgestuurde operatie had gekozen.

In beide groepen wordt de arts beschouwd als eindverantwoordelijke indien er een complicatie optreedt. Als onderbouwing van deze keuze werd het vaakst benoemd dat de robot geen juridische entiteit is en daarom niet aansprakelijk gesteld kan worden. Een robot kan de consequenties van foutief handelen dus niet dragen. Opvallend was ook een veelvoorkomende misvatting dat de arts de robot heeft geprogrammeerd en dus dat hierdoor de arts alsnog verantwoordelijk is.

Klakkeloos vertrouwen op een goede uitkomst lijkt geen optie

Het juiste perspectief

Al met al valt uit bovenstaande enquêteresultaten te concluderen dat als het aan de patiënt ligt, de ontwikkelingen omtrent AI sneller mogen gaan dan de medische zorgprofessionals voor zich zien.

Maar om de resultaten in het juiste perspectief te zien, is het goed om een aantal zaken in ogenschouw te nemen. Om te beginnen moeten we wellicht rekening houden met een zekere bias. Het kan immers zo zijn dat de bezoekers van de DDW gemiddeld meer technofiel en/of innovatief zijn dan de zorgprofessionals en hierdoor meer vertrouwen hebben in een dergelijke nieuwe technologie.

Het verschil in attitude tussen medici en gewone respondenten – bij de zorgprofessionals was er meer terughoudendheid om zich door een robot te laten opereren, wilden de respondenten vaker dat de chirurg in de operatiekamer bleef en was de arts ook vaker aangewezen als beslissingsbevoegd – is mogelijk ook te verklaren doordat medische zorgprofessionals als geen ander weten hoe complex medische beslissingen kunnen zijn, en daardoor zichzelf het meest bekwaam achten in het nemen van de beste beslissing.

Aannemelijk is verder dat er bij de medici wellicht een angst speelt om op termijn overbodig te worden. Een logisch gevolg hiervan is dan ook dat 93,6 procent van hen de arts verantwoordelijk houdt.

Ook moeten we ons realiseren dat als het gaat over aansprakelijkheid en verantwoordelijkheid nemen voor complicaties, er met betrekking tot kunstmatige intelligentie nog erg veel grijs gebied bestaat. Anno 2020 draagt de arts ook verantwoordelijkheid voor bepaalde handelingen van bijvoorbeeld gespecialiseerde verpleegkundigen of arts-assistenten, volgens de verlengde-armconstructie. Om de verantwoordelijkheid te kunnen nemen voor het handelen van een zelfstandig opererende robot, dient de arts op de hoogte te zijn van de mogelijkheden en valkuilen van die operatierobot. Maar kunnen we van artsen verwachten om het naadje van de kous te weten als het gaat om operatierobots en kunstmatige intelligentie? Het zou wel moeten als je verantwoordelijk gehouden wordt voor de handelingen van een dergelijke robot. Klakkeloos vertrouwen op een goede uitkomst lijkt dus geen optie.

Ontwikkelingen

Dat de robot volledig autonoom kan opereren, lijkt voorlopig niet aan de orde, maar het is duidelijk dat het profiel van de arts verandert. De ontwikkelingen gaan snel en als het aan de Europese Commissie ligt, moeten we deze ontwikkeling uiterst serieus nemen. Recentelijk is besloten jaarlijks 20 miljard euro te besteden aan kunstmatige intelligentie, met als doel op te schalen in Europa.2 De commissie stelt dat voornamelijk de medische sector kan profiteren van investeringen in AI, onder andere door het bouwen van een database met geanonimiseerde scans om diagnose en behandeling van kanker te verbeteren. Dergelijke databases zijn zeker niet nieuw en deze technologie wordt in de huidige zorg al gebruikt. Zo heeft de Universiteit van Heidelberg een database voor het herkennen van melanomen, waaruit bleek dat de specificiteit van de dermatologen lager was dan wanneer kunstmatige intelligentie werd ingezet. Binnen de radiologie wordt ook al veelvuldig gebruikgemaakt van AI om afwijkingen op beeldvorming te detecteren, te filteren en te kwantificeren.

Robots en kunstmatige intelligentie gelden vooralsnog als hulpmiddel van de arts en de autonomie van de operatierobot behoort nog niet tot de realiteit. Het is dan ook niet zeker wanneer dit gaat komen, maar één ding is zeker, zoals de Terminator in 1984 al voorspelde: kunstmatige intelligentie will be back.

Auteurs

Evelien van Bakel, masterstudent geneeskunde Universiteit Maastricht

dr. Joleen Blok, klinisch fysicus Máxima MC Veldhoven

prof. dr. Marlies Bongers, gynaecoloog Máxima MC Veldhoven, Grow Research School Maastricht University

dr. Sjors Coppus, gynaecoloog Máxima MC Veldhoven

Contact

sjors.coppus@mmc.nl

cc: redactie@medischcontact.nl

Voetnoten

1. https://www.radboudumc.nl/nieuws/2018/nieuwe-robot-voor-schedelbasischirurgie-is-zeer-nauwkeurig-en-ontlast-chirurgen

2. European Commission. (2018, Dec 8). Member states and commission to work together to boost artificial intelligence “made in Europe”. European Union News.