Ethics in AI Design

Deze cursus laat zien hoe je het potentieel van AI kunt benutten zónder de ethische risico’s uit het oog te verliezen. Je leert werken met de Delft Design for Values-methodologie om waarden zoals rechtvaardigheid, transparantie, controle en verantwoordelijkheid systematisch te vertalen naar concrete ontwerpkeuzes voor AI-systemen, met een sterke focus op praktische toepassingen (o.a. in de gezondheidszorg).

Je verkent hoe AI kan leiden tot discriminatie, verlies van menselijke controle en gebrek aan uitlegbaarheid, en hoe je daar als ontwikkelaar of manager proactief mee omgaat. Aan de hand van cases uit o.a. zorg, overheid en industrie leer je bias herkennen en aanpakken, betrouwbare en uitlegbare systemen ontwerpen en AI-ethiek écht operationeel maken in je ontwerp- en ontwikkelproces.

Week 1 – Ethische uitdagingen & Design for Values

Introductie in de belangrijkste ethische dilemma’s rond AI en ML. Verkenning van de Design for Values-methodologie, het in kaart brengen van waarden van verschillende stakeholders en het vertalen naar ontwerpvereisten (met een doorlopende case in de zorg).

Week 2 – Vertrouwen, nauwkeurigheid & uitlegbaarheid

Wat maakt een AI-systeem “trustworthy”? Je onderzoekt de relatie tussen nauwkeurigheid, robuustheid en explainability, en welke technische tools beschikbaar zijn om uitleg en transparantie te verbeteren.

Week 3 – Bias & algoritmische rechtvaardigheid

Inzicht in filosofische en praktische opvattingen over fairness en bias. Je leert welke statistische vertekeningen problematisch zijn, hoe je ze detecteert en welke stappen nodig zijn om ze te beperken of te corrigeren.

Week 4 – Verantwoording & menselijk toezicht

Wie is verantwoordelijk bij fouten met AI-systemen? Je ontdekt welke socio-technische en organisatorische structuren nodig zijn, hoe “meaningful human control” werkt en hoe je toezicht technisch (logs, audits…) en organisatorisch vormgeeft.

Week 5 – Waardeconflicten & eindopdracht

Je leert omgaan met situaties waarin ethische waarden botsen of niet tegelijk volledig realiseerbaar zijn. In de eindopdracht vertaal je zelf ethische waarden naar concrete ontwerpvereisten voor een nieuwe AI-case.