Algorithmic recourse: from theory to practice
Isabel Valera will cover the concept of algorithmic recourse, showing some results and practical solutions.
Praktische info:
Inschrijven?
- Voorwaarden: masterdiploma
- Prijs: gratis
Sense & Sensibility of AI-seminarie
Check je spam en/of contacteer ons als je de link twee uur voor de start van het seminarie nog niet ontvangen hebt.
georganiseerd door:
In this talk Valera will introduce the concept of algorithmic recourse, which aims to help individuals affected by an unfavorable algorithmic decision to recover from it. First, she will show that while the concept of algorithmic recourse is strongly related to counterfactual explanations, existing methods for the later do not directly provide practical solutions for algorithmic recourse, as they do not account for the causal mechanisms governing the world. Then, she will show theoretical results that prove the need of complete causal knowledge to guarantee recourse and show how algorithmic recourse can be useful to provide novel fairness definitions that short the focus from the algorithm to the data distribution. Such novel definition of fairness allows us to distinguish between situations where unfairness can be better addressed by societal intervention, as opposed to changes on the classifiers. Finally, she will show practical solutions for (fairness in) algorithmic recourse, in realistic scenarios where the causal knowledge is only limited.
Lesgever/spreker
Isabel Valera
Isabel Valera is a full Professor on Machine Learning at the Department of Computer Science of Saarland University in Saarbrücken (Germany), and Adjunct Faculty at MPI for Software Systems in Saarbrücken (Germany).
She is a fellow of the European Laboratory for Learning and Intelligent Systems (ELLIS),
where she is part of the Robust Machine Learning Program and of the
Saarbrücken Artificial Intelligence & Machine learning (Sam) Unit.
Prior
to this, she was an independent group leader at the MPI for Intelligent
Systems in Tübingen (Germany) until the end of the year. She has held a
German Humboldt Post-Doctoral Fellowship, and a “Minerva fast track”
fellowship from the Max Planck Society. She obtained her PhD in 2014 and
MSc degree in 2012 from the University Carlos III in Madrid (Spain),
and worked as postdoctoral researcher at the MPI for Software Systems
(Germany) and at the University of Cambridge (UK).
Research interests
Valera's research focuses on developing machine learning methods that are flexible, robust, interpretable and fair. Flexible
means they are capable of modeling complex real-world data, which are
often heterogeneous in nature and present temporal dependencies.
Secondly, she aims to improve the robustness of machine learning
algorithms to outliers, missing data and mixed statistical data types.
Finally, she works on making algorithms fairer and interpretable – if
they are part of important decision-making processes, the outcomes
should be fair and explainable.
Her research can be applied in a
broad range of fields, from medicine and psychiatry to social and
communication systems. Recently, she also began putting a special focus
on consequential decision making in several domains, including hiring
processes, pre-trial bail, or loan approval.
Sense & Sensibility of AI
AI heeft een steeds grotere invloed op ons dagelijks leven, voorbeelden hiervan zijn de automatisering van sommige belangrijke beslissingen, zoals hypotheken en leningen, of de automatische beoordelingen van borgtochtrisico of de vele aanbevelingen op het internet. Al deze AI-systemen dragen risico op ‘filter bubbels’ en polarisering met zich mee. Terwijl AI in de samenleving wordt uitgerold, schuift ook de discussie over onze waarden naar de voorgrond: Hoe sluiten AI-gebaseerde systemen erop aan en welke invloed oefenen ze erop uit? Dit debat vraagt om een multidisciplinaire blik, waarbij zowel technische als niet-technische invalshoeken een prominente plaats innemen. We gaven de computer senses, zintuigen, maar hoe geven we hem ook sensibility, gevoel?
In de seminariereeks ‘Sense & Sensibility of AI’ richten we ons op PhD-studenten om over de verschillende aspecten van Ethiek in AI te leren – niet alleen om zich ervan bewust te zijn, maar ook om over de impact van AI op de maatschappij te leren en om methodologieën aan te leren waarmee zij ethische problemen kunnen identficeren, inschatten en mogelijk ook op te lossen. Deze maandelijkse seminaries pakken onderwerpen aan zoals vooroordelen en eerlijkheid, privacy, betrouwbaarheid en het balanceren van technische, sociale en wetgevende perspectieven.
Deze serie mikt op doctoraatsstudenten actief in het brede veld van AI en datawetenschap. Om de lezingen volledig te kunnen begrijpen, kan een achtergrond in de technische aspecten van AI/Machine Learning nodig zijn.
Ontvang je graag een aankondiging van elk maandelijks seminarie in je inbox? Schrijf je in voor de reminder!
Sense & Sensibility of AI is een seminariereeks ontwikkeld door de Vlaamse AI Academie, in samenwerking en met de steun van al onze partners, alle universiteiten en hogescholen in Vlaanderen en Kenniscentrum Data & Maatschappij.
Gerelateerde opleidingen
