Taalmodel achter ChatGPT dringt langzaam het epd binnen

Breinloos werk

‘Vorig jaar kwam ChatGPT uit’, zegt Van der Laan, ‘en heeft Epic direct gekeken hoe ze dit in hun epd konden integreren. Toen kozen ze ervoor om niet met het spannende deel te beginnen – dus het taalmodel in te zetten als medisch hulpmiddel waarbij het daadwerkelijk invloed heeft op medische keuzes – maar puur met de administratieve kant. Dat is veilig, qua regulering in ieder geval.’

Ook het Erasmus MC gebruikt het taalmodel om de administratielast te verminderen. ‘Er is zoveel breinloos werk dat we moeten doen. Daarmee beginnen is een voor de hand liggende stap’, zegt Omar Khader. ‘Maar uiteindelijk kom je op het punt dat deze taalmodellen op de stoel van de dokter gaan zitten’, zegt Van der Laan. ‘Binnen een jaar of twee jaar misschien al.’ Die termijn wordt vooral bepaald door de wet- en regel­geving zoals voor medische hulpmiddelen, privacy en het gebruik van kunstmatige intelligentie.

Human-in-the-loop

De eerste functionaliteit die het UMCG medio november in gebruik nam, is het beantwoorden van schriftelijke vragen van patiënten, bijvoorbeeld over medicatiegebruik. ‘Die kunnen via het patiëntenportaal vragen stellen aan iedere zorgverlener met wie ze een behandelrelatie hebben.’ Vervolgens stelt het taalmodel een con­-
cept­­antwoord voor op basis van die vraag en de relevante informatie uit het epd. ‘Dat voorstel kun je níét direct doorsturen naar de pa­­­tiënt. Er zit dus altijd een human-in-the-loop.’

Chipsoft biedt nog niet de optie aan om een taalmodel in het epd te integreren, maar het bedrijf zegt desgevraagd wel de ‘mogelijk­heden van kunstmatige intelligentie in relatie tot het epd’ te verkennen. Daarom werkt het Erasmus MC vooralsnog zelf aan die integratie. Een tijdrovende klus, aldus Omar Khader. Net als in het UMCG gaat het ook hier om concept­­­antwoorden, maar dan op logistieke vragen van patiënten aan het servicecentrum. Artsen hebben vooral profijt van de koppeling van het taalmodel met het platform Digizorg. Dat is zichtbaar als een apart tabblad in HiX en bestaat uit een app waarmee patiënten en zorgverleners met elkaar kunnen communiceren en een ‘cockpit’ waar zorgverleners onder andere orders kunnen klaarzetten. Met behulp van een paar steekwoorden kan de arts bijvoorbeeld een vragenlijst in de app klaarzetten of orders in de cockpit, zoals een thuis­meting. Na controle door een zorgverlener, doet het taalmodel vervolgens de rest. ‘We zijn eerst met de chat live gegaan en daarna pas met de orderverwerking.’

‘GPT is een soort tolk tussen mens en computer’

Een soort tolk

‘De volgende stap is het samenvatten van het dossier’, zegt Van der Laan. ‘Als ik een patiënt op mijn spreekuur krijg die een halfjaar geleden bij mij was, kost het mij veel tijd – zeker bij de multimorbide patiënten – om door alle noties en documenten te bladeren om te kijken: wat is relevant voor mij en de behandeling die ik bij deze patiënt uitvoer?’ Het UMCG gaat monitoren welke tijdwinst en/of kwaliteitsverbetering dat gaat opleveren. ‘Ik verwacht dat de samenvatting van het taalmodel accurater zal zijn dan de polivoorbereiding die ik doe als ik vluchtig een paar notities doorneem.’ Door over de samenvatting te scrollen, kan de arts zien waar het taalmodel de informatie vandaan heeft en die zo nodig verifiëren.

Ook in het Erasmus MC verkennen ze een volgende stap. ‘We willen dat het taalmodel ook orders in HiX klaarzet, zoals voor bloedonderzoek, medicatiewijziging of de volgende afspraak. Het ordersysteem is ooit gemaakt omdat we niet in mensentaal met de computer konden praten. GPT is een soort tolk waardoor dat nu wel kan’, aldus Omar Khader.

Gamechanger

Een daaropvolgende stap is volgens Omar Khader ‘het gesprek opnemen tijdens het polibezoek’. Het taalmodel voert dan enerzijds de hele anamnese in en anderzijds zet het de orders klaar. Volgens Van der Laan wordt de ‘combinatie van spraakherkenning met LLM’s de gamechanger’. Dan kan een consult er in de toekomst als volgt uit gaan zien, zegt hij. ‘Je bespreekt de operatie, de complicaties en informed consent met de patiënt en de spraak-naar-tekstfunctionaliteit zet het gesprek om naar gestructureerde notities, dus een anamnese. Tijdens het lichamelijk onderzoek zeg je dan hardop, zoiets als “ik neem een biopt van het weefsel in de nasofarynx aan de rechterzijde”. Als je dan terugkomt bij de computer, staat de order voor pathologisch onderzoek al klaar. Dan hoef je aan het einde alleen nog alles te controleren samen met de patiënt.’ Zo zit de arts tijdens een consult niet langer meer typend en verscholen achter een computerscherm, stelt hij vast. ‘Dat maakt de zorg menselijker.’

Gevaren

‘Met kunstmatige intelligentie zijn er gevaren’, zegt Omar Khader. ‘De vraag is hoe je het taalmodel gebruikt.’ De eerste ‘beveiliging’ is dat een mens altijd het voorstel van het taalmodel controleert. ‘Dan minimaliseer je het gevaar’, onder andere van hallucinaties door het taalmodel. ‘Maar de angst bestaat dat de arts dat niet gaat doen omdat die lui wordt en eraan gewend raakt’, vult Van der Laan aan. Volgens Omar Khader moet je het als een ‘digitale assistent’ zien. ‘Ook in de echte wereld, als je aan een coassistent of een secretaresse iets vraagt wat enig belang heeft, kijk je dat vaak toch kort na.’ Hoe meer het taalmodel medische informatie gaat interpreteren, hoe ingrijpender de consequenties worden als het een fout maakt. Omar Khader: ‘Dat kun je ondervangen met trucjes, maar dat is wel een gevaar waar je bij stil moet staan.’ Volgens hem zijn er uiteindelijk taalmodellen nodig die ‘specifiek voor de gezondheidszorg zijn gemaakt’.

‘Ook zijn er natuurlijk altijd privacy- en datalekgevaren’, zegt Omar Khader. Het taalmodel van de ziekenhuizen is statisch en leert niet van de informatie die het gevoed krijgt. Bovendien komen het taalmodel, de opdracht en de relevante informatie uit het epd van de patiënt samen in een beveiligde omgeving waartoe derden, zoals OpenAI, Microsoft en Epic, geen toegang hebben. Ook verloopt alles via servers in Europa waardoor de Europese privacywetgeving van toepassing is.

Geen weg terug

‘Op de langere termijn, als je alles goed regelt, krijg je de administratielast echt heel laag. Daar ben ik van overtuigd’, zegt Omar Khader. ‘Dit is disruptief, er is geen weg meer terug’, zegt Van der Laan. Hij betwijfelt of artsen er voldoende van doordrongen zijn dat het vak gaat veranderen. ‘Voor nu gaat het om administratieve taken, maar binnen vijf jaar – als de regelgeving het niet vertraagt of blokkeert – is het bijvoorbeeld echt passé om zelf alle informatie proberen te combineren om tot een differentiaaldiagnose te komen.’ 

dossier

AI in de zorg