GenAI Blind Spots
Hoe kan je rekening houden met maatschappelijke vooroordelen en structurele ongelijkheden voor, tijdens en na de ontwikkeling van je data- of AI-toepassing? Om je hierbij te kunnen helpen, ontwikkelde het Kenniscentrum Data & Maatschappij de AI blindspots kaartenset.
Praktische info:
Inschrijven?
- Prijs: gratis
Deze kaartenset is een aanpassing van de tool 'AI Blindspot' ontwikkeld door Ania Caldeeron, Dan Taber, Hong Qu and Jeff Wen van het Berkman Klein Center, een MIT Media Labs's 2019 Assembly Program.
De AI Blindspots kaartenset is verkrijgbaar onder een CC BY 4.0 licentie.
georganiseerd door:
Bij de ontwikkeling van een nieuwe AI-toepassing ligt de focus op verbetering: je AI-toepassing is pas geslaagd wanneer het een (betere) oplossing biedt voor het probleem dat je wil aanpakken. Daarbij worden (onvoorziene) negatieve gevolgen van je AI-toepassing soms over het hoofd gezien. De AI Blindspots kaartenset helpt je 'AI Blindspots' - ethische valkuilen - te identificeren door te reflecteren over de beslissingen en acties die je neemt in het ontwikkelingsproces van je data- of AI-toepassing. Zo kan je jouw data- of AI-toepassing verbeteren en tegelijkertijd mogelijke negatieve neveneffecten van je toepassing aanpakken.
Waarom zou je de kaartenset gebruiken?
De kaartenset kan jou en je team helpen om...
- een cultuur van ethisch en maatschappelijk bewustzijn te creëren;
- uitdagingen te identificeren voordat ze schade veroorzaken;
- de algemene kwaliteit en acceptatie van je product te verbeteren;
- met je stakeholders te communiceren over de ethische, maatschappelijke en juridische impact van je product én hoe je hier als bedrijf mee omgaat.
De tool
De kaartenset bestaat uit 2 types kaarten:
- De AI Blindspots kaarten zijn verdeeld in drie fasen, namelijk de planningsfase, de ontwikkelingsfase en de implementatiefase. Elke kaart presenteert een blindspot en bevat:
- een reeks vragen die je toelaten te reflecteren over mogelijke 'blindspots';
- een 'use case' om het belang van die 'blindspot' aan te tonen;
- enkele tools en tips die je kunnen helpen de 'blindspot' te detecteren/te reduceren.
- De Ethische Dilemma kaarten zijn voorbeelden van situaties waarin een ethisch probleem opduikt.
EU AI Act: de Europese AI-wetgeving
De AI Act (Artificial Intelligence Act of AI-verordening) is het Europese rechtskader over artificiële intelligentie. Het behandelt de risico's van AI zodat de technologie op een veilige, betrouwbare en transparante manier gebruikt kan worden, mét respect voor de fundamentele rechten en waarden in Europa.
AI, regulering en wetgeving
online opleiding - VAIA & KU Leuven
Gerelateerde opleidingen
AI-superworker: maak van AI je tweede brein en boost je productiviteit met 50%!
Opleiding - Berchem - Syntra AB