Zélfs ervaren radiologen tuinen in automatiseringsbias AI-algoritme

Als het artificiële-intelligentiealgoritme een score geeft die afwijkt van de score die de radioloog zelf vaststelt, zijn zélfs ervaren radiologen geneigd het algoritme te volgen; óók als dat het fout heeft. Dat blijkt uit een publicatie in Radiology.

De neiging om onjuiste informatie van geautomatiseerde besluitvormingssystemen, zoals artificiële-intelligentiealgoritmes, boven het eigen juiste oordeel te verkiezen, heet automatiseringsbias.

In het onderzoek van Thomas Dratsch e.a kregen 27 radiologen – na een trainingsset – veertig mammografieën te zien mét de BI-RADS-score (tussen de 2 en 5) volgens het AI-algoritme. Hoe hoger die score, hoe groter het risico dat het om borstkanker gaat. De ervarenheid in het beoordelen van mammografieën liep sterk uiteen: van gemiddeld een maand tot gemiddeld tien jaar.

Ervaring

Van die veertig mammografieën was de AI-opgestelde BI-RADS-score voor twaalf te hoog of te laag vergeleken met de gouden standaard, een tumorbiopsie. Uiteraard wisten de radiologen dat niet.

Onervaren radiologen verkozen vaker dan ervaren radiologen onterecht een te hoge BI-RADS-score van het AI-algoritme boven hun eigen lagere score (en juiste score), maar óók ervaren radiologen waren niet immuun voor automatiseringsbias. Als het algoritme onterecht een lagere score gaf, gingen de radiologen even vaak in de fout, ongeacht ervaring.

Blijven trainen

In een begeleidend schrijven stelt radioloog Pascal Baltzer dat er vier manieren zijn om het risico op automatiseringsbias te verminderen: radiologen blijven trainen om deze bias te herkennen, aansprakelijkheid voor AI-besluiten bij de radioloog neerleggen, transparantie en validatie van het algoritme en het oordeel van het AI-algoritme alleen in bepaalde situaties laten meewegen. De onderzoekers zelf stellen dat automatiseringsbias verminderd kan worden als het system behalve een score ook de betrouwbaarheidsmarges rapporteert. Overigens komt automatiseringsbias ook in andere sectoren voor, zoals de luchtvaart.