Geen shortcuts voor succesvolle AI-oplossingen in gezondheidszorg

Waarom gaat de adoptie van AI in de gezondheidszorg zo traag? Er zijn duizenden algoritmen ontwikkeld en veel daarvan zijn effectief. Toch wordt er maar heel weinig echt gebruik van gemaakt. Wat is er aan de hand?

Bart de Vries probeert deze vraag te beantwoorden als technisch arts en promovendus in de nucleaire geneeskunde bij het Amsterdam UMC. In zijn presentatie ‘eXplainable artificial intelligence (XAI) in radiology and nuclear medicine‘ schetste hij de bevindingen van een recente literatuurstudie met dezelfde naam.

Hij legt het probleem uit. Deep learning is een bewezen diagnostisch hulpmiddel voor vele ziekten en aandoeningen. De algoritmen zijn bijzonder bedreven in het snel detecteren van afwijkingen in beeldvorming via MRI, CT en PET. Zeker, in deze arena hebben de machines de mensen verslagen.

Helaas vinden deze vaardigheden plaats in een ‘zwarte doos’ en blijven ze daarom grotendeels onverklaarbaar. Veel medische professionals – bewijsgedreven als ze zijn – zijn niet bereid om blindelings op de resultaten te vertrouwen.

Daarom ontwikkelen datawetenschappers verklaarbare kunstmatige intelligentie (XAI) om de kloof te dichten en een licht te schijnen op wat er werkelijk aan de hand is. Helaas, zoals de bovenstaande review concludeerde, “zijn de huidige XAI-methoden noch geoptimaliseerd noch optimaal voor medische beeldvorming”. In reactie daarop onderzoekt De Vries nu manieren om XAI naar een hoger niveau te tillen, zodat het wordt omarmd door medische professionals.

Bij het presenteren van verschillende technische benaderingen, benadrukte De Vries hoe de benadering moet uitgaan van enige a priori medische kennis van de context die door de XAI wordt uitgelegd – terwijl ook onnodige complexiteit wordt vermeden en de oplossing wordt toegesneden op het perspectief van artsen die de technologie gebruiken.

Met andere woorden: zorg dat het klopt, compleet met voorzienigheid.

Plaag van bijwerkingen

Joanna Klopotowska is assistent-professor farmaco-informatica bij het Amsterdam UMC. Ze stelt zichzelf voor als een verlopen ziekenhuisapotheker die overgestapt is op datawetenschap nadat ze het virus te pakken had gekregen. Net als De Vries is ook zij een voorstander van het oplossen van specifieke problemen waarbij alle belanghebbenden vanaf het begin worden betrokken.

Ondertussen blijft ze trouw aan haar oorspronkelijke beroep door zich te richten op adverse drug events (ADE’s) – gedefinieerd, legt ze uit, als “schade die een patiënt ervaart als gevolg van blootstelling aan een medicijn”.

ADE’s zijn een enorm probleem in de echte wereld en de belangrijkste oorzaak van letsel in gezondheidszorgsystemen wereldwijd. “En dat terwijl tot 70% van de ADE’s te voorkomen zijn. Alleen al in Nederland sterven er meer dan duizend mensen per jaar – en deze aantallen nemen alleen maar toe,” zegt Klopotowska.

Het probleem neemt toe, doordat we langer leven. Hierdoor zijn we vatbaarder voor meerdere ziekten die meerdere behandelingen met medicijnen vereisen. Ondertussen is onze kennis over het veilig voorschrijven van meerdere medicijnen – polyfarmacie – heel summier.

“We doen gewoon niet genoeg om ADE’s te monitoren en te documenteren. En wat je niet bewaakt, kun je ook niet beperken. Met andere woorden, we moeten nog steeds een betrouwbare methode ontwikkelen om met ADE’s om te gaan,” zegt Klopotowska.

Use case gericht op maximale impact

Maar er is goed nieuws! Volgens Klopotowska maken de digitalisering van de gezondheidszorg en de verantwoorde toegang tot elektronische patiëntendossiers het nu mogelijk om naar relevante informatie te zoeken. In haar presentatie ‘Towards a learning medication safety system by leveraging real-world data and using machine learning and knowledge representation methods (The LEAPfROG project)’ legde ze uit hoe dat project probeert een volledig proces op te bouwen om ADE’s aan te pakken.

“Hoewel de focus ligt op de use case rond door geneesmiddelen veroorzaakte nieraandoeningen bij patiënten met een chronische nierziekte (CKD), hopen we dat het ontwikkelde proces later kan worden veralgemeend voor andere ADE-scenario’s,” voegde ze eraan toe. Maar ondertussen is de use case zelf een waardig doel: 1,7 miljoen Nederlanders lijden aan CKD – een progressieve ziekte zonder genezing die de vijfde doodsoorzaak van het land is.

Het proces komt neer op vier onderling sterk verbonden werkpakketten:

1. Data uit elektronische patiëntendossiers
2. Bestaande medische kennisdata
3. Innovatieve technieken voor machinaal leren om 1) en 2) samen te brengen.
4. Beslissingsondersteunend systeem dat geïndividualiseerd advies geeft voor een bepaald medicijngebruik

Elk werkpakket gaat gepaard met zijn eigen deelverzameling van uitdagingen – van de ethiek die vereist is bij het ontginnen van patiëntendata tot de verspreide en multi-gestructureerde aard van medische kennis. En het is zeker nooit eenvoudig om verschillende datastromen samen te brengen die voldoende op één lijn liggen om bruikbare inzichten te bieden die – jawel – verklaarbaar zijn. Dan is er nog de vraag van het eigenlijke eindproduct: Hoe kan het worden geoptimaliseerd voor de samenwerking tussen mens en machine?

Het project is duidelijk ambitieus en omvat een duizelingwekkende en indrukwekkende lijst van medewerkers – en dit alles voor één enkele use case. Maar zoals Klopotowska het formuleert: “Alleen door intensieve samenwerking over sectoren en disciplines heen kun je AI-innovaties sneller en effectiever naar het bed brengen.”

Noem het acronym niet

Tijdens het vragenuurtje vroeg iemand uit het publiek waarom niemand het had over large language models (LLM’s). Hij leek verbaasd en vroeg: “Is het hier taboe om hierover te praten?”

Hij raakte een gevoelige snaar. Velen in het publiek noemden redenen waarom LLM’s niet bijzonder relevant zijn voor de gepresenteerde projecten van vanavond, die hopen causaliteiten vast te stellen die op korte termijn een reële impact kunnen hebben op de resultaten van patiënten. Bijvoorbeeld, bij LLM’s, hoe boordevol potentieel ze ook zitten, is er nog te veel dat nog moet worden uitgezocht – vooral op het gebied van de toetsstenen voor innovatie in de biowetenschappen zoals: verklarend vermogen, transparantie, bewijsvoering, reproduceerbaarheid en andere essentiële regelgevingsaspecten. Verder is de privacygevoelige aard van niet-gestructureerde medische data die nodig zijn voor LLM’s een punt van zorg. Deze zorgen draaien om het risico van het onbedoeld vrijgeven van gevoelige patiëntendata, mogelijke inbreuken en ethische overwegingen met betrekking tot toestemming, datagebruik en het delen van data.

In de toekomst zullen LLM’s ongetwijfeld deel uitmaken van veel oplossingen. Maar momenteel beschouwen te veel mensen – en vooral bedrijven – LLM’s als een soort wondermiddel, terwijl veel medische professionals het daar niet mee eens zijn om de hierboven genoemde redenen.

Gelukkig arriveerde de pizza – de ultieme diplomaat – voordat de groepsdiscussie oververhit raakte.

Ben jij een onderzoeker op zoek naar inspiratie of exposure? Schrijf je nu in op de nieuwe AMDS website.

Soms begrijpen medische professionals en datawetenschappers elkaar onvoldoende of kennen ze elkaar zelfs helemaal niet. Ons Right Data Right Now consortium wil daarin verandering brengen!

Tijdens de Medical Data + Pizza meetups bespreken we alles wat met medische data science te maken heeft, inclusief interessante projecten, papers en de laatste ontwikkelingen. Hier ontmoeten artsen en datawetenschappers elkaar. Het is een geweldige kans om te leren, gelijkgestemde zorgprofessionals, onderzoekers en datawetenschappers te ontmoeten, feedback te krijgen op je eigen projecten en plezier te hebben.

Lees de verslagen van eerdere Medical Data + Pizza Meet-ups.

De bijeenkomsten van de Amsterdam Medical Data Science Group worden ondersteund door het consortium The Right Data Right Now, waarvan Amsterdam UMC, OLVG, Vrije Universiteit, Pacmed, Amsterdam Economic Board en Smart Health Amsterdam deel uitmaken.