Als wetenschappers zijn we sceptisch – we willen weten waarom iets werkt en hoe iets werkt – niet alleen dat het werkt. En daar is een goede reden voor!

Zoals je misschien wel weet, is biologie erg complex en hebben we nog maar nauwelijks inzicht in hoe de biologische wereld werkt. Het is dus logisch dat wanneer we AI gebruiken in de biologie, dat we - om de complexiteit van de biologische informatie waarop AI is toegepast echt te begrijpen - willen weten waarom AI deze voorspellingen maakt – niet alleen dat de voorspellingen lijken te werken.

Gelukkig is dit steeds beter mogelijk, dankzij de technologieën achter verklaarbare AI.

Verklaarbare AI kan bijvoorbeeld worden gebruikt om...

• ervoor te zorgen dat mensen intellectueel toezicht houden. Of om meer interactie tussen de menselijke gebruiker – een wetenschapper of arts bv. – en het AI-systeem te bevorderen.
• ons vertrouwen in algoritmische uitkomsten of voorspellingen te vergroten.
• eventuele tekortkomingen van het algoritme te identificeren, bijvoorbeeld door bepaalde populaties aan te duiden die in de bestaande gegevens ontbreken, waardoor de voorspellingen minder nauwkeurig kunnen zijn.
• wetenschappers te informeren over extra gegevens waarmee het algoritme verbeterd kan worden – bijvoorbeeld door extra gegevens toe te voegen van een specifieke subpopulatie die in een klinisch onderzoek te weinig werd gebruikt.

Afhankelijk van het project is de ene strategie en methodologie beter geschikt dan de andere. Hoewel verklaarbare AI een boeiende ontwikkeling is, is het onwaarschijnlijk dat alle biologen zich in de toekomst altijd zullen wenden tot verklaarbare AI-algoritmen om waarde uit hun gegevens te halen. Soms is het uitvoeren van eenvoudigere data-analyse voldoende.

Bij BioLizard beginnen ze, nadat ze de gegevensuitdaging hebben begrepen, altijd met de eenvoudigste aanpak. Soms kan een analytische uitdaging worden aangepakt met slechts een eenvoudige regressie – zo niet, dan werken ze omhoog in termen van analytische complexiteit om de beste modelbenadering te vinden die past bij de invoergegevens en de overkoepelende biologische vraag.

Verklaarbare AI mag dan veelbelovend zijn, maar we moeten niet vergeten dat menselijke hersenen essentieel zijn om echt alles uit je gegevens te halen. Mensen kunnen immers betere bigger-picture verklaringen geven dan AI modellen op dit moment.

Stel je bijvoorbeeld voor dat je een klinisch onderzoek hebt uitgevoerd dat uitsluitend gegevens van mannen bevat. Je kunt het beste verklaarbare AI-algoritme gebruiken, maar het zal nog steeds niet in staat zijn om uitkomsten te voorspellen die specifiek zijn voor vrouwen, omdat het alleen maar 'geleerd' heeft om uitkomsten te bepalen op basis van gegevens van mannen. Zelfs als verklaarbare AI meer gebruikt wordt, zal het nog steeds belangrijk zijn om het bredere wetenschappelijke perspectief van je biologische vraag te overwegen en na te gaan of je gegevens je echt de antwoorden kunnen geven, voordat je begint met modelleren.

Dat gezegd hebbende, in onze denkbeeldige casestudy met alleen mannelijke gegevens, is het juiste verklaarbare AI-algoritme misschien niet in staat om voorspellingen te doen over wat er gebeurt bij vrouwen... Maar het is misschien wel in staat om wetenschappers te ondersteunen bij het identificeren van volgende stappen die genomen kunnen worden om het algoritme te verbeteren – zoals het vergroten van de gegevensdiversiteit.