Interpretability and explainability in machine learning
Isel Grau will cover the interpretability and explainability terminology, state-of-the-art methods, measures, and open problems in the field.
Praktische info:
Inschrijven?
- Inschrijvingen: tot 03 mrt. 2022
- Voorwaarden: masterdiploma
- Prijs: gratis
Sense & Sensibility of AI-seminarie
Check je spam en/of contacteer ons als je de link twee uur voor de start van het seminarie nog niet ontvangen hebt.
georganiseerd door:
In recent years, AI and particularly machine learning have experienced a clear increase in interest from outside academia. The unprecedented performance of machine learning algorithms in solving complex tasks from a high volume of structured and unstructured data caught the attention of industry, governments, and society. The use of sub-symbolic ensembles or deep learning techniques led to this massive performance capacity in very specific tasks. However, the responsible use of machine learning has added another variable to this equation: the interpretability component. Multiple application domains exist in which predicting with high accuracy is not enough. For high-stakes decisions affecting humans, explaining why or how an intelligent algorithm made a decision or took action is also required.
“ I want to contribute to AI solutions that are accurate and useful, but also transparent and fair. ”
Lesgever/spreker
Isel Grau is an Assistant Professor in the Information Systems group at Eindhoven University of Technology (TU/e). Her research interests lie in the area of Artificial Intelligence, particularly recurrent neural networks, cognitive networks, (semi-)supervised classification, time-series analysis, data-driven decision making, and explainable AI. Her main research activity focuses on making machine learning black boxes more interpretable, formalizing prior knowledge from experts and using their feedback to improve AI models, identifying and correcting bias, and exploring these challenges in healthcare or business settings. She aims to develop more trustable and meaningful decision support systems that put human experts in the loop.
Academic background
Isel Grau received her PhD in Computer Science from the Vrije Universiteit Brussel (VUB), Belgium, and her MSc degree in Computer Science from the Central University of Las Villas, Cuba. Her PhD research focused on machine learning interpretability and semi-supervised classification. During her postdoctoral research at the Artificial Intelligence Laboratory of the VUB, she closely collaborated with institutions such as the Interuniversity Institute of Bioinformatics Brussels, the Universitair Ziekenhuis Brussel, and industry partners (e.g. Collibra NV) on interdisciplinary projects funded by VUB and INNOVIRIS. She has active collaboration with researchers from Queen’s University Belfast, Hasselt University, Universidad de Talca, Warsaw University of Technology, and Tilburg University.
Sense & Sensibility of AI
AI heeft een steeds grotere invloed op ons dagelijks leven, voorbeelden hiervan zijn de automatisering van sommige belangrijke beslissingen, zoals hypotheken en leningen, of de automatische beoordelingen van borgtochtrisico of de vele aanbevelingen op het internet. Al deze AI-systemen dragen risico op ‘filter bubbels’ en polarisering met zich mee. Terwijl AI in de samenleving wordt uitgerold, schuift ook de discussie over onze waarden naar de voorgrond: Hoe sluiten AI-gebaseerde systemen erop aan en welke invloed oefenen ze erop uit? Dit debat vraagt om een multidisciplinaire blik, waarbij zowel technische als niet-technische invalshoeken een prominente plaats innemen. We gaven de computer senses, zintuigen, maar hoe geven we hem ook sensibility, gevoel?
In de seminariereeks ‘Sense & Sensibility of AI’ richten we ons op PhD-studenten om over de verschillende aspecten van Ethiek in AI te leren – niet alleen om zich ervan bewust te zijn, maar ook om over de impact van AI op de maatschappij te leren en om methodologieën aan te leren waarmee zij ethische problemen kunnen identficeren, inschatten en mogelijk ook op te lossen. Deze maandelijkse seminaries pakken onderwerpen aan zoals vooroordelen en eerlijkheid, privacy, betrouwbaarheid en het balanceren van technische, sociale en wetgevende perspectieven.
Deze serie mikt op doctoraatsstudenten actief in het brede veld van AI en datawetenschap. Om de lezingen volledig te kunnen begrijpen, kan een achtergrond in de technische aspecten van AI/Machine Learning nodig zijn.
Ontvang je graag een aankondiging van elk maandelijks seminarie in je inbox? Schrijf je in voor de reminder!
Sense & Sensibility of AI is een seminariereeks ontwikkeld door de Vlaamse AI Academie, in samenwerking en met de steun van al onze partners, alle universiteiten en hogescholen in Vlaanderen en Kenniscentrum Data & Maatschappij.
