Wat is human-centered AI?
Niemand houdt van starre systemen die je dwingen om op één manier te werken. Wanneer zulke systemen rare beslissingen nemen, zullen mensen het ontwijken of de regels omzeilen – gewoon, omdat ze het niet vertrouwen. Hoe kan een AI-systeem dan écht behulpzaam zijn? En op welke AI-systemen willen mensen wel bouwen? David Geerts bespreekt de drie voorwaarden om mensen centraal te zetten in AI-systemen: gebruikerscontrole, transparantie en vertrouwen.
In 2017 bedachten twee bibliothecarissen van East Lake Library in Florida een fictief lid dat minder populaire boeken uitleende. De bibliotheek had een AI-systeem gekregen dat de minst populaire boeken verwijderde. Maar sommige van die boeken konden later terug populair worden, en dan zouden de bibliothecarissen ze opnieuw moeten aankopen. Omdat ze het geautomatiseerde systeem niet konden aanpassen, vonden ze een creatieve manier om controle over hun collectie te behouden. Ze werden er uiteindelijk voor geschorst.
Helaas zien we dit steeds vaker: AI-systemen krijgen de controle ten koste van menselijke expertise. Om de menselijke meerwaarde te behouden en AI goed in te zetten, moeten systemen mensgericht ontworpen worden, op basis van drie pijlers: controle, transparantie en vertrouwen.
Menselijke controle & zeggenschap
Een mensgericht (human-centered) AI-systeem moet altijd een zekere mate van controle en inspraak voor mensen bieden. Zoals de bibliothecarissen hierboven ervaarden, blijven AI- en automatische systemen vatbaar voor fouten – en dat zal in de toekomst ook zo blijven. Hoe comfortabel zou jij je voelen in een volledig geautomatiseerde auto die je niet toelaat om in te grijpen, zelfs als je op een muur afrijdt? Toch kan hoge mate van automatisering in veel gevallen juist heel nuttig en gewenst zijn. Een AI-systeem kan zo ontworpen worden dat het veel taken automatisch uitvoert, terwijl mensen toezicht houden en kunnen ingrijpen als dat nodig is.
Transparantie
Een tweede principe van mensgerichte AI is transparantie. AI-systemen worden vaak gezien als een ‘black box’: niemand weet precies wat er gebeurt tussen de input en de output. Zo lijkt het alsof de ontwikkelaars geen verantwoordelijkheid dragen, want zelfs zij weten niet altijd wat er in de doos gebeurt. Nochtans is transparantie cruciaal om duidelijk te maken dat de beslissingen en resultaten uit het AI-systeem écht in het voordeel van de gebruikers zijn: zowel voor een eenvoudige filmsuggestie als voor een medische diagnose waar veel van afhangt.
Transparantie kan op verschillende manieren bereikt worden: de meest directe manier toont letterlijk hoe het systeem van input naar output gaat, maar dat is bij AI vaak te moeilijk. Daarom zijn er ook andere opties, zoals:
- uitleggen hoe het systeem werd getraind
- inzicht in de data die aan het systeem gevoed werd
- de principes die gevolgd werden
- inzicht in hoe zeker of onzeker de resultaten zijn.
Een AI-systeem dat zijn input, acties of uitkomsten kan toelichten, is uiteindelijk meer op mensen gericht en human-centered.
Vertrouwen
Tot slot moet een mensgericht AI-systeem vertrouwen verdienen. Dit derde principe ontstaat uit een complex samenspel van verschillende elementen. AI-systemen die goed uitgelegd worden en veel controle bieden, zullen al meer betrouwbaar zijn dan systemen met slechts één van deze eigenschappen. Afhankelijk van het type systeem komt er nog meer bij kijken om ons vertrouwen te verdienen. Naast controle en transparantie vertrouwen we AI-systemen:
- die geen schade veroorzaken,
- niet bevooroordeeld zijn,
- verantwoordelijkheid nemen als er iets misgaat,
- op een zorgvuldige manier worden toegepast,
- met respect voor onze privacy en veiligheid.
Een betrouwbaar AI-systeem ontwerpen betekent aandacht schenken aan alle verschillende aspecten: het algoritme zelf, de brondata en de manier waarop het systeem uiteindelijk wordt gebruikt.
Hoewel dit ingewikkeld lijkt, is het niet zo moeilijk om deze principes toe te passen – tenminste als de ontwikkelaars bereid zijn om gebruikers al vroeg bij de ontwikkeling van hun systemen te betrekken. Aan de hand van human-centered ontwerp kunnen ontwerpers de behoeften van gebruikers voor specifieke AI-toepassingen achterhalen en prototypes creëren en testen. Zo kunnen ze ervoor zorgen dat systemen gemakkelijk te controleren zijn, helder uitleggen hoe ze werken en uiteindelijk betrouwbaar zijn, zoals dit ook gevraagd wordt in de EU AI Act. Alleen dan betreden we een toekomst waarin AI niet als een bedreiging voor menselijke activiteiten wordt gezien, maar wel als assistenten die onze intelligentie aanvullen in plaats van vervangen.
Leer er meer over:
Human-centered AI
webinar - online - PUC KU Leuven Continue, VAIA
Waarom leren en kennis noodzakelijk zijn om AI-systemen te mogen vertrouwen
Welke menselijke competenties zijn nodig om robuuste AI-systemen te maken, systemen die ons vertrouwen verdienen?
David Geerts
Dr. David Geerts is a freelance proposal manager, human-centered designer and trainer. He was Senior Research Manager of the KU Leuven Digital Society Institute (DigiSoc) in Belgium for three years, for which he organized and managed various events, facilitated internal and external collaborations, supported the submission of project proposals, and created national and international visibility. Before, he managed the Meaningful Interactions Lab (Mintlab) at KU Leuven for 17 years, while specializing in human-centered design and user experience of new technologies, including social media and interactive TV. David has published in various international conferences and journals and regularly gives presentations, tutorials and guest lectures on topics related to Human-Computer Interaction. In 2007, he co-founded u-sentric, an SME that provides CX and UX consultancy services.
Gerelateerde opleidingen
