Datakwaliteit: sleutel tot betrouwbare AI in de zorg
AI kan veel betekenen voor de zorg, maar vertrouwen komt niet vanzelf. Een vaak vergeten maar cruciale factor? Datakwaliteit. Zonder goede data, geen goede AI. En net daar wringt het schoentje: zorgdata wordt verzameld in drukke, complexe omgevingen, vaak onder druk. Wie AI écht wil laten werken in de zorg, moet dus inzetten op kwaliteit, van bij het begin. Dat vraagt aandacht van iedereen die met data werkt, zegt Jens Declerck van het The European Institute for Innovation through Health Data (i-HD), en ook: een aanpak over de hele levenscyclus en oog voor representativiteit. Alleen zo bouw je AI-systemen die doen wat ze beloven: zorg beter maken.
Datakwaliteit is belangrijk! De risico's van slechte data
AI leert van bestaande data. Maar als die data onvolledig of scheef verdeeld is, krijg je systemen die bestaande ongelijkheden versterken. Heel wat studies tonen aan bias in AI vaak het gevolg is van slechte datakwaliteit:
- de gegevens zijn niet volledig
- er zijn verschillen in de standaarden voor registratie
- bepaalde groepen worden ondervertegenwoordigd
- ...
Studie na studie wijst op een breder patroon: zolang we basiskwaliteit van gezondheidsdata niet aanpakken, riskeren we dat AI-systemen bestaande ongelijkheden bestendigen.
Slechte datakwaliteit bij heropname-inschatting
Een studie uit 2023 evalueerde de "algoritmische eerlijkheid" van enkele veelgebruikte modellen waarmee de kans op heropname binnen de 30 dagen in een ziekenhuis (zoals de LACE-index en HOSPITAL-score) berekend werd. Wat bleek? De modellen presteerden systematisch slechter voor zwarte patiënten en mensen met een lager inkomen. Deze patiënten kregen minder vaak een signaal voor heropnamerisico, ook al hadden ze gelijkaardige klinische profielen als andere risicopatiënten.
Aan de oorzaak lag niet alleen aan het algoritme, het was de data: sociale gezondheidsfactoren – zoals een onzekere woonsituatie of gebrek aan nazorg – stonden vaak niet of onvolledig in het elektronische patiëntendossier. Meer nog, bij gemarginaliseerde groepen waren de gegevens vaak onvolledig en werden ze niet consistent gecodeerd. Hierdoor leerden de modellen vooral bestaande ongelijkheden herkennen, in plaats van het medische risico op heropname.
EU AI Act - Art. 10: Data & Data Governance
Elk AI-systeem dat een hoog risico in zich draagt moet volgens de Europese AI Act (Artikel 10) getraind, gevalideerd én getest worden met kwaliteitsvolle data. De EU legt strikte voorwaarden op om te verzekeren dat de data betrouwbaar, representatief en eerlijk is:
- de data is relevant, volledig, voldoende representatief, zo foutloos mogelijk en afgestemd op het doel van het AI-systeem dat gemaakt wordt
- de data wordt correct beheerd met duidelijke procedures voor het verzamelen en bewaren van de informatie, de bewerking (labelen, opschonen...) en de technieken om vooroordelen of missing data op te sporen en aan te pakken.
- de data houdt rekening met de specifieke geografische, contextuele, functionele en gedragscontext waarin het systeem gebruikt zal worden
- indien het echt nodig is om discriminatie te voorkomen, mag er uitzonderlijk gebruik gemaakt worden van gevoelige persoonsgegevens (etniciteit, religie, gezondheid...), onder strikte voorwaarden en beveiliging.
De hele levencyclus is van belang
Datakwaliteit verbeteren is geen eenmalige klus. Het vraagt een voortdurende inspanning door iedereen die met gezondheidsdata werkt – van zorgverleners tot AI-ontwikkelaars. Er bestaan al kaders zoals METRIC om datasets te evalueren op volledigheid, consistentie en representativiteit, maar in de klinische praktijk worden ze zelden gebruikt.
Een echte levenscyclusaanpak controleert de kwaliteit op meerdere momenten:
- invoeren van data: vaste velden, verplichte invulvelden, waarschuwingen bij tegenstrijdigheden
- verwerking: validatieregels, traceerbaarheid van datastromen, regelmatige audits
- modeleren: testen op demografische representatie en realistische evaluatie van uitkomsten
- monitoren: dashboards die veranderingen in datakwaliteit en ontbrekende velden automatisch opsporen.
Onderzoekers constateerden in 2024 dat, ondanks de bestaande tools, weinig zorginstellingen deze aanpak écht volledig toepassen. Vaak blijft het bij gefragmenteerde, statische kwaliteitscontroles en ontbreekt de infrastructuur om dynamische end-to-end kwaliteitscontrole op de gegevens toe te passen.
Ondanks de dringende nood om de theoretische modellen te vertalen naar strategieën die een levenscyclusbenadering op gegevenskwaliteit toepasbaar maken - en daarmee de manier verbeteren waarop we vooroordelen in AI begrijpen en inperken, blijft dit uit: maar weinig klinische settings passen de concepten al verder toe dan beleid en academische frameworks.
Hoe pak je datakwaliteit in de hele levencyclus aan?
- kwaliteitscontroles vanaf het eerste contactmoment
- ondersteuning van zorgteams via tools en opleiding
- een management dat kwaliteit actief beloont en opvolgt
- aanvullende frameworks zoals METRIC voortdurende monitoring en contextueel bewustzijn waarborgen
Waarom moet data representatief zijn?
Een essentiële, en vaak onderbelichte dimensie van gegevenskwaliteit komt voort uit de representativiteit van de datasets. Een representatieve dataset zorgt ervoor dat AI-systemen de populatie weerspiegelen waarvoor het AI-systeem bedoeld is. Indien de brongegevens de populatie niet correct weerspiegelen, ontstaat het risico dat de AI-modellen niet goed presteren of zelfs zullen discrimineren.
Om representativiteit te bereiken is er opnieuw aandacht nodig voor de totale levencyclus:
- een heldere definitie van de gebruikerspopulatie en klinische setting
- monitoring van de impact van opschonen of samenvoegen van gegevens op het demografische evenwicht
- begrip van de klinische context waarin de gegevens verzameld worden omdat die bepalend zijn voor welke gegevens genoteerd worden, hoe consistent en met welk doel. Dat betekent ook een begrip van:
- werkstromen
- registratiegewoontes
- institutionele prioriteiten in de zorginstelling
Zonder deze context kan een AI-systeem ontwikkeld worden dat informatie verkeerd interpreteert en waarbij de output dus ook niet overeenkomt met de werkelijkheid.
Monitoring van representativiteit
De methodes om representativiteit te bereiken - niet statisch maar wel routineus - worden nog ontwikkeld.
Bv. in PARADISE, een project dat de transparantie van brondata voor AI-systemen wil verbeteren. Een van de resutlaten is een "vingerafdruk voor gegevenskwaliteit": een gestructureerde aanpak om de samenstelling en kwaliteit van AI-trainingsgegevens te documenteren en beoordelen, met een sterke nadruk op representativiteit.
Betrouwbare AI bouw je samen
Om AI-systemen betrouwbaar te maken, moeten we niet alleen naar slimme algoritmes kijken. Betrouwbare AI is het resultaat van doordachte keuzes qua datakwaliteit: van registratie op de werkvloer tot training en permanente monitoring van het model.
Dat is een gedeelde verantwoordelijkheid: zorgverleners, ontwikkelaars, beleidsmakers en databeheerders moeten samenwerken om kwaliteitsvolle AI-systemen uit te bouwen. Met een gemeenschappelijke visie, praktische tools en levenscyclusdenken kunnen we AI-systemen voor de zorg bouwen die écht werken, voor iedereen.
Bronnen
- Wang HE, Weiner JP, Saria S, Kharrazi H. Evaluating Algorithmic Bias in 30-Day Hospital Readmission Models: Retrospective Analysis. J Med Internet Res. 2024 Apr 18
- Hasanzadeh, F., Josephson, C.B., Waters, G. et al. Bias recognition and mitigation strategies in artificial intelligence healthcare applications. npj Digit. Med. 8, 154 (2025).
- Feng Chen, Liqin Wang, Julie Hong, Jiaqi Jiang, Li Zhou, Unmasking bias in artificial intelligence: a systematic review of bias detection and mitigation strategies in electronic health record-based models, Journal of the American Medical Informatics Association, Volume 31, Issue 5, May 2024, Pages 1172–1183
- Schwabe, D., Becker, K., Seyferth, M. et al. The METRIC-framework for assessing data quality for trustworthy AI in medicine: a systematic review. npj Digit. Med. 7, 203 (2024).
- Declerck J, Kalra D, Vander Stichele R, Coorevits P. Frameworks, Dimensions, Definitions of Aspects, and Assessment Methods for the Appraisal of Quality of Health Data for Secondary Use: Comprehensive Overview of Reviews. JMIR Med Inform. 2024 Mar 6
- Declerck J, Vandenberk B, Deschepper M, Colpaert K, Cool L, Goemaere J, Bové M, Staelens F, De Meester K, Verbeke E, Smits E, De Decker C, Van Der Vekens N, Pauwels E, Vander Stichele R, Kalra D, Coorevits P. Building a Foundation for High-Quality Health Data: Multihospital Case Study in Belgium. JMIR Med Inform. 2024 Dec 20
Lees/r meer
Hoe kan AI helpen in de gezondheidszorg?
Het gebruik van AI is de gezondheidszorg grondig aan het veranderen. Van diagnose tot behandeling: AI helpt artsen en andere medische beroepen om beter geïnformeerde beslissingen te nemen en meer gepersonaliseerde zorg te verlenen.
Zo maak je AI betrouwbaar en transparant
Een transparant AI-systeem creëert draagvlak, versterkt vertrouwen en houdt risico’s beheersbaar. Eulaly Vanroelen van Thomas More wijst je de weg naar een fair AI-systeem, in 7 praktische stappen.
AI in de gezondheidszorg
5 sessies - Brugge, Kortrijk en online - PUC KU Leuven Continue, MEDVIA, VAIA
Jens Declerck
Expertise:
- Data quality and biases towards AI
- Explainability using data quality assessments
- Understanding data sources towards extracting and harmonizing data for training AI
- How AI might bring value in hospitals and specific towards creating more data quality maturity
Gerelateerde opleidingen
RCR: Clinical Radiology AI Blended Learning Programme
Course - Online - The Royal College of Radiologists
