Kunstmatige intelligentie in de radiologie
Wie moet hangen als de computer de scan verkeerd beoordeelt?
1 reactieHet recentste nummer van MemoRad, kwartaalblad van de Nederlandse Vereniging voor Radiologie, is gewijd aan AI, artificial intelligence, hier hoopvol beschreven als augmented of additional intelligence. Hoopvol, want we willen niet dat alles bij de GI’s, de Gewone Intelligenten, wordt weggehaald, toch?
Wat betreft de gevolgen voor hun eigen baan zijn de radiologen niet erg zenuwachtig. Er is natuurlijk wel enige dreiging: veel routineklussen (skeletfoto’s, screeningen op longkanker of tbc en dergelijke) zullen hun uit handen worden genomen. En als de software indrukwekkend genoeg wordt, zullen andere collega’s wellicht geen radioloog meer willen die tussen hen en de foto of de scan in gaat staan. Je geeft het plaatje gewoon aan de computer.
Inmiddels komt er wel iets op ons af: het vermogen om via deep learning software te ontwikkelen die zichzelf op het punt van patroonherkenning steeds verbetert, betekent een ware revolutie. Er zijn daarbij twee aspecten waardoor AI de mens op astronomische afstand plaatst. Allereerst: de computer vergeet nooit iets. Dat wil zeggen dat alle, maar dan ook werkelijk alle scans die ‘hij’ ooit zag, meewegen bij de beoordeling van wat hij nu ziet.
En tweedens: de computer kent geen maandagmorgen, of zorgen om een ziek kind, of een storende pieper of iets dergelijks. Daniel Kahneman heeft in Thinking fast and slow pijnlijk goed aangetoond hoezeer ons oordelend vermogen wordt ondermijnd door volstrekt irrelevante factoren.
Die emotieloosheid van de computer leidt meteen tot een volgende vraag. Wie moet hangen als mevrouw Jansen jubelend naar huis fietst nadat de scan door de AI ten onrechte als ‘niks aan de hand’ werd beoordeeld? Kan de computer zich vergissen? U zult zeggen: ja, natuurlijk. Maar ik bedoel niet dat ‘hij’ een verkeerd oordeel velt. Ik bedoel ‘vergissen’ in de zin waarin ‘hij’ zich voor zijn hoofd slaat en denkt: ‘Wat heb ik gedaan? Wat betekent dit voor die vrouw? Zou het een tuchtzaak worden?’
Kun je de computer aanklagen? En wat voor sanctie zou je een ‘schuldige’ computer kunnen opleggen? Hoelang je ook door de software heen dwaalt, je zult nooit stuiten op een mens die ‘au’ roept als hij wordt beschuldigd van nalatigheid. Ook aan deze vraag wordt een artikel gewijd, want dit is wel een probleem. Als een computer vijfduizend thoraxfoto’s beoordeelt in tien minuten, wat kan ‘menselijke controle’ of ‘menselijk toezicht’ dan nog betekenen? Vooral als er deep learning bij wordt gehaald, zit je gauw op een onoverbrugbare afstand van het gebeuren als iets wat jij zou moeten aansturen of controleren. We zullen iets moeten bedenken om genoegdoening binnen deze setting mogelijk te maken.
Dat verantwoordelijkheidsprobleem wordt leuk terzijde geschoven in een veelzeggende cartoon waarin de computer tegen de radioloog zegt: ‘I’m being sued for a missed diagnosis. What do I do now?’ Waarop de radioloog, achteroverleunend, benen op bureau, zeer relaxed antwoordt: ‘Sorry, buddy, comes with the job.’
Deze column als pdf
Wouter Veldhuis
Radioloog, Utrecht
Het antwoord op de bovengestelde vraag "Mens of Machine?" werd eerder goed verwoord door schaker Kasparov: "wil je dat je diagnose wordt gesteld a) door een knappe, emotieloze machine; of b) door een dokter die precies weet hoe hij die machine het be...ste kan gebruiken?". [*]
Daaruit volgt mijn stelling: er zullen geen dokters worden vervangen door AI-algoritmes. Wel zullen nieuwe dokters ten tonele verschijnen. De dokters die Kasparov hierboven beschrijft.
[*] Het juiste antwoord is volgens Kasparov antwoord b).