Eerlijkere gezondheidszorg met AI

Het Amsterdam Medical Data Science (AMDS) netwerk hield de Masterclass on Real World Data – Promises, Pitfalls and Racism tijdens deze aflevering van  Medical Data + Pizza. Er staat ons nog veel te doen. Maar, zoals een deelnemer het verwoordde: “Uitdagingen zijn bedoeld om aan te pakken.” Een ander zei: “We moeten de tijd nemen om dit goed te doen.”

En we kunnen net zo goed bij onszelf beginnen. “Ik denk dat de belangrijkste concrete stap die we kunnen nemen is om de mensen die betrokken zijn bij AI-onderzoek te diversifiëren,” zei Leo Celi, van de Harvard-universiteit en het MIT. “Expertise is belangrijk. Maar perspectief ook.”

Duivel zit in de details

In zijn presentatie ‘How to use real-world data to improve patient outcomes’ vertelde clinicus-wetenschapper Chris Sauer, promovendus aan de VU Amsterdam, over zijn paper, dat 45 minuten later zou worden vrijgegeven. “Dit is dus echt vers van de pers”, glimlachte hij. “Het paper gaat over de lessen die we hebben geleerd bij het werken met elektronische patiëntendossiers. Ik geloof deze data veel belovend zijn.”

De toepassing van data uit elektronische patiëntendossiers (EHR) gaat niet alleen om het gebruik van reeds beschikbare data uit de echte wereld om de onderzoekstijd en -kosten drastisch te verlagen. De data kunnen ook op zichzelf worden gebruikt om unieke en gelokaliseerde inzichten te verkrijgen. Tegelijkertijd zijn ze voldoende willekeurig om eventuele vertekening te minimaliseren.

Maar het blijft lastig. Sauers paper ‘Leveraging electronic health records for data science: common pitfalls and how to avoid them‘ benadrukt het belang van diepgaande kennis van klinische workflows. “De duivel zit in de details”, zei Sauer meer dan eens tijdens zijn presentatie. Je zou bijvoorbeeld kunnen denken dat de IC’s in Amsterdam en Berlijn qua uitkomsten vergelijkbaar zijn. In werkelijkheid blijkt er een verschil van bijna 50% te zijn in IC-sterftecijfers. Daarom zou je de onderliggende oorzaken van dit verschil willen vinden, voordat je data voor onderzoek deelt.

Kortom, de kwaliteit van de methodologie – de toepassing van doordachte menselijke intelligentie – is de sleutel tot het afleiden van geldige en nauwkeurige studieresultaten. Of zoals Sauer het uitdrukt: “Wees transparant. Lieg nooit tegen jezelf of de lezers.”

Eerst leren zwemmen, dan diep duiken

Christian Hinske is hoogleraar databeheer en ondersteuning van klinische besluitvorming aan het academisch ziekenhuis van Augsburg. De suggestieve titel van zijn presentatie ‘Federated learning – A failed promise?’ beantwoordt hij snel: “Nee, dat is het niet. Maar we hebben nog veel werk te doen.”

Federatief leren is een aanpak waarbij algoritmen gezamenlijk worden getraind, zonder dat data hoeft te worden uitgewisseld. Zo gaat het direct de confrontatie aan met een grote uitdaging rond de digitale transformatie van de gezondheidszorg: data governance en privacy. De veilige multi-party computation aanpak is oorspronkelijk ontstaan uit het ‘Millionaire’s Problem‘: hoe twee miljonairs kunnen achterhalen wie rijker is – en dus de rekening van het diner kunnen betalen – zonder dat ze hun bankafschriften uitwisselen of een derde partij hebben om dit te verifiëren.

“Het idee van federated learning is dat we niet echt de data bij elkaar brengen, maar we proberen het algoritme naar de data te brengen”, aldus Hinske. Dit is  nog steeds een groeiende sector in termen van investeringen en het aantal tools, en het is nog erg pril. “Ik was aanwezig bij een gesprek met NVIDIA en zij vertelden ons hoe gemakkelijk hun federatieve leertool te gebruiken was in de ICU. Maar toen ik vroeg of ik een eenvoudige t-test kon doen, viel er een stilte.” Daarmee sluit hij aan bij de lezing van Chris Sauer: “We moeten eerst de eenvoudige dingen doen, voordat we beginnen met deep learning.”

Hinske blijft toch zeer hoopvol. Recent onderzoek heeft aangetoond dat collaboratieve modellen beter werken dan modellen met één instelling, en dat er nog steeds betrouwbare prestaties werden gevonden in datasets waar de verdeling onevenwichtig en extreem was. “Mijn boodschap is dat het een jonge en krachtige technologie is met een opwindende belofte. Maar we hebben meer tijd en ervaring nodig om de uitdagingen aan te gaan. Uitdagingen zijn immers bedoeld om aan te pakken.”

Racistische algoritmes

Als iemand die op drie continenten geneeskunde heeft beoefend, heeft Leo Anthony Celi een mondiaal perspectief als het gaat om het verlenen van gezondheidszorg. Als directeur klinisch onderzoek en hoofdonderzoeker van het MIT Laboratory for Computational Physiology is hij een voorstander van het idee dat gegevens en machinaal leren de meest impactvolle van alle geneesmiddelen zullen blijken te zijn. Dat blijkt ook uit projecten die zijn lab heeft geleid, zoals de MIMIC Code Repository, MIT Critical Data en de samenwerking met Philips: eICU Collaborative Research Database. Zoals hij het zegt: “Onze missie is de manier te vernieuwen waarop we medische kennis creëren.”

Celi heeft een geoefend oog als het gaat om vooroordelen in het systeem. Kortom: de gezondheidszorg is intrinsiek oneerlijk. Terwijl Celi’s lezing werd aangekondigd als ‘Waarom medische AI racistisch is’, doopte hij hem om tot ‘Gezondheidszorg is niet klaar voor AI – en ook niet voor mensen’. “Mijn belangrijkste punt is dat we nog veel werk te doen hebben – iets wat ook de vorige sprekers benadrukten. We staan nog maar aan het begin van deze reis. Er is nu zoveel hype. Maar ik denk dat we in de verkeerde richting gaan en dat we de GPS opnieuw moeten richten.”

Op een fundamenteel niveau bood zijn lezing een essentiële leeslijst van wat er diep rot is in de kern van de gezondheidszorg: of het nu is dat de wereld een zeer ongelijke kenniskaart heeft, hoe klinische proeven fundamenteel gebrekkig zijn, dat genomics falen op in diversiteit, dat niet alleen artsen maar ook machines intrinsiek racistisch kunnen zijn, en dat real-world gegevens over het algemeen vol vooroordelen zitten.

Maar er is ook veel goed nieuws en oplossingen. Bijvoorbeeld: “Teams lossen sneller problemen op als ze cognitief diverser zijn“, en het National Institute of Health in de VS is eindelijk bezig de voordelen in te zien van het openbaar maken van alle onderzoeksgegevens – in naam van het besparen van tijd op onderzoek dat al eerder is gedaan.

“Maar het echte goede is dat AI ons deze spiegel heeft voorgehouden. We konden er niet meer omheen, want AI draait om de data. Dus nu ligt alles onder een vergrootglas, we bekijken echt alles wat we doen onder de microscoop. Dat is voor mij de grootste bijdrage van AI.”

Lees ook de verslagen van eerdere Medical Data + Pizza Meet-ups.

De Amsterdam Medical Data Science Group bijeenkomsten worden ondersteund door The Right Data Right Now consortium, dat bestaat uit Amsterdam UMC, OLVG, Vrije Universiteit, Pacmed, Amsterdam Economic Board en Smart Health Amsterdam.