Uitlegbaar AI-model helpt artsen beter inschatten welke IC‑patiënten risico lopen op heropname

Het onderzoek is uitgevoerd door Lincen Yang (postdoc, LIACS) Siri van der Meijden (technisch geneeskundige, LUMC), Sesmu Arbous (anesthesioloog-intensivist en hoogleraar intensive care-geneeskunde, LUMC) en Matthijs van Leeuwen (hoogleraar explainable machine learning, LIACS).

Het gebruik van AI en algoritmes komt steeds meer onder een vergrootglas te liggen. Want er kan veel en er wordt nog meer beloofd. Maar wat zit er nou precies onder de motorkap van zo’n AI-model? Voor sommige toepassingen maakt die kennis niet zoveel uit. Maar artsen op de IC moeten beslissingen nemen die een grote impact hebben op het herstel van de patiënt. Zij willen precies weten op basis van welke factoren de risicovoorspellingen gebaseerd zijn.

Niet vervangen, maar ondersteunen

“Het probleem voor artsen op de IC is dat de meeste beschikbare modellen in twee varianten komen. Ze kunnen patiënten heel goed aanmerken als hoog risico, maar zonder uitleg waarom. Of ze komen wel met een uitleg, maar die klopt volgens de artsen niet altijd”, zegt Yang.

De onderzoekers ontwikkelden daarom een model dat doet wat medici nodig hebben: een nauwkeurige risico-inschatting geven en laten zien op welke, zo klein mogelijke, set van criteria die is gebaseerd. De uitkomst moest klinisch relevant én goed onderbouwd zijn. Daarbij wilden de onderzoekers geen model dat het werk van de artsen overneemt, maar dat hen ondersteunt.

Het AI-model is getraind met tien jaar aan data van IC-patiënten. “Een arts kan onmogelijk al die data onthouden en beoordelen. Maar een algoritme ziet de individuele patiënt niet. Artsen kunnen dankzij hun jarenlange ervaring een oordeel mede baseren op wat zij zien aan het bed”, zegt Yang.

Begrijpelijk voorspellen, geen ‘black box’

De onderzoekers wilden weten of AI niet alleen nauwkeurige, maar ook begrijpelijke voorspellingen kan doen. Veel AI-modellen gebruiken machine learning: ze verwerken grote hoeveelheden patiëntgegevens tegelijk, maar laten vaak niet zien hoe ze tot een bepaalde uitkomst komen. Daardoor werken ze als een soort ‘black box’.

In dit onderzoek kozen de onderzoekers voor een andere aanpak. Het algoritme verdeelde IC-patiënten in vijf groepen met elk een eigen risicoprofiel. Zo werd zichtbaar welke factoren samenhangen met een hoger risico op heropname. Een voorbeeld is een groep patiënten bij wie het aantal witte bloedcellen in de laatste 24 uur voor ontslag duidelijk stijgt. Dat kan wijzen op een beginnende infectie die nog niet onder controle is. Deze patiënten bleken meer dan drie keer zo vaak opnieuw te worden opgenomen als gemiddeld.

“Voor de arts kan dat aanleiding zijn om te overwegen of aanvullend onderzoek of doorbehandelen op de IC verstandiger is dan ontslaan. Zo kan een beginnende infectie eerder worden opgemerkt en behandeld in plaats van dat de patiënt verslechtert na ontslag van de IC”, zegt Van der Meijden

Ze benadrukt dat dit slechts een voorbeeld is van hoe de risico-inschattingen kunnen worden gebruikt. “Het model wordt nu niet ingezet in de praktijk. Maar dit soort scenario’s laten zien hoe uitlegbare AI artsen kan helpen om risico’s beter te herkennen, en om af te wegen of aanvullend onderzoek of langere behandeling op de IC verstandig is.”

Begrijpen wat er gebeurt

De methode om goed uitlegbare risico-inschattingen te maken, blijkt goed te werken. IC-artsen kunnen daardoor in één oogopslag zien op welke patiëntkenmerken het voorspelde risico is gebaseerd. Dat helpt hen bij de beslissing om een patiënt wel of niet van de afdeling te ontslaan.

“Het is belangrijk dat de gebruikers begrijpen wat er gebeurt en dat elke stap terug te voeren is”, zegt Yang. “Vroeger had je in de fabriek machines die alleen de techneuten begrepen. Zij wisten aan welke knoppen je moest draaien om de uitkomst te veranderen. Ik wilde in dit model af van die ‘magische parameters’. Een transparant algoritme is belangrijk voor gebruikers, de overheid en de maatschappij.”

Wederzijds begrip tussen vakgebieden

Bij het ontwikkelen van het model kwamen de onderzoekers voor meer uitdagingen te staan dan alleen de techniek. “In het begin dacht ik: dit is makkelijk. Mijn model, hun data, klaar. Maar interdisciplinair onderzoek vraagt ook om wederzijds begrip en de mogelijkheid om met elkaars systemen te werken. Dat kost tijd”, zegt Yang.

Hij waardeert dat alle betrokkenen die tijd namen. “Ik vind het geweldig om te zien dat onderzoekers in Leiden dezelfde waarden delen. Ze werken zorgvuldig en kritisch, omdat dit een belangrijk vakgebied is.”

Siri van der Meijden en Sesmu Arbous waren namens het LUMC betrokken bij deze studie.

De oorspronkelijke versie van dit artikel verscheen op 29 juli 2026 op de website van de Universiteit Leiden.