EU AI Act: de Europese AI-wetgeving
De EU AI Act (Artificial Intelligence Act of AI-verordening) is het allereerste rechtskader over artificiële intelligentie in de wereld. Het behandelt de risico's van AI zodat het op een veilige, betrouwbare en transparante manier gebruikt kan worden, mét respect voor de fundamentele rechten en waarden in Europa. De EU AI Act wordt uitgerold tussen 1 augustus 2024 en augustus 2027.
Waarom een EU AI Act?
AI maakt heel veel mogelijk, maar brengt ook risico's en onduidelijkheden met zich mee. Zo kan je je afvragen:
- wie er verantwoordelijk is voor fouten die door een AI-systeem gemaakt worden,
- als je een verhaal kan laten schrijven in de stijl van Pfeijffer of Spit, wat doet dat dan met auteursrechten?
- historische data wordt geplaagd door vooroordelen: menselijke vooroordelen van vroeger worden meestal gewoon overgenomen als er geen extra maatregelen genomen worden.
Met de AI-act wil Europa deze problemen voorkomen en tegelijk innovatie stimuleren. De AI Act werd op 1 augustus 2024 goedgekeurd en wordt geleidelijk aan uitgerold in de twee jaar daarna.
Eigenschappen
- De EU AI Act is een set regels die bepaalt hoe bedrijven en mensen in Europa AI mogen gebruiken. Als eerste volledige wettenpakket, wordt verwacht dat deze act de norm zal worden voor AI-regels wereldwijd, zoals dat ook met de GDPR-regelgeving is gebeurd.
- De AI Act is van toepassing op alle producten met AI die in de markt geplaatst worden, met twee uitzonderingen: niet-professionele doeleinden en wetenschappelijk onderzoek & ontwikkeling.
- Deze nieuwe wet werkt naast bestaande wetgeving (bv. GDPR) en vervangt of wijzigt geen andere bestaande regelgeving.
- Elke partij betrokken bij een AI-product heeft andere verplichtingen, die telkens bepaald worden aan de hand van het risico.
- Overtredingen van de regels van de AI Act zullen bestraft worden.
Hoe werkt de AI Act?
Mensenrechten centraal in de AI Act
Afhankelijk van het risico voor de mensenrechten is er meer (of minder) toegelaten binnen de AI Act. Hoe hoger het risico, hoe strenger de regels:
1. Onaanvaardbaar risico = volledig verboden
AI-toepassingen die tegen de fundamentele rechten van burgers ingaan, zijn helemaal verboden. Voorbeelden daarvan zijn:
- manipulatie van menselijk gedrag
- sociale scoring door overheden: burgers belonen of straffen met punten op basis van gedrag en daar voor- of nadelen aan koppelen
- inschatting of iemand een misdaad zal begaan of niet (door politiediensten)
Regels: volledig verboden 🚫
2. Hoog risico = strenge regels
Sommige toepassingen van AI kunnen zeer nuttig zijn, maar dragen ook grote risico's voor de mensenrechten in zich. Enkele voorbeelden:
- AI laten beoordelen of een persoon in aanmerking komt voor een opleiding, beroep, lening, subsidie...
- AI-gestuurde kritieke infrastructuur, bv. treinen of elektriciteit
- AI-gebruik in politie-onderzoek, migratie-, asiel-, of grenscontrolebeheer
- gebruik van biomedische gegevens
Regels: de systemen moeten streng getest en gecontroleerd worden op betrouwbaarheid, transparantie en non-discriminatie. Menselijke supervisie moet altijd aanwezig zijn (art. 14) waarbij de menselijk toezichthouder voldoende AI-geletterd is (Art. 4) om de resultaten te beoordelen. Deze persoon heeft ook de mogelijkheid om het systeem ten allen tijde te overrulen. De interface van het systeem verklaart elk stap in het proces op transparante wijze. Het systeem wordt getraind met volledige, correcte en representatieve data (Art. 10)⚠️
3. Beperkt risico = transparantie
AI-toepassingen met beperkt risico voor de mensenrechten werken transparant en dragen geen groot gevaar voor discriminatie, privacy-overtredingen of schadelijke impact op de maatschappij in zich.
- toegankelijkheidstools: schermlezers, vertaalapps voor slechthorende...
- slimme verkeers- of navigatiesystemen
- AI-gestuurde vertalers en leertools over talen of programmeren
Regels: bedrijven moeten transparant zijn over het gebruik van AI, bijvoorbeeld door te vermelden dat je met een AI-chatbot spreekt). 🟡
4. Laag tot geen risico = geen extra regels
Veel AI-systemen dragen nauwelijks enig risico voor de mensenrechten in zich:
- spamfilters
- AI-generereerde verhalen voor videogames
- AI-systemen die groenten en fruit sorteren
Regels: geen extra AI-specifiek regels, maar de bestaande wetten blijven uiteraard wel van toepassing (GDPR, auteursrecht) ✅
“ De AI Act heeft als doel het vertrouwen en respect voor fundamentele rechten, waarden en veiligheid te verhogen. ”
Enkele belangrijke artikels in de EU AI Act
Verplichting tot "AI literacy" (Art. 4)
AI literacy is essentieel voor iedereen die kritische en effectief met AI-systemen wil werken.
Daarom is de allereerste bepaling van de EU AI Act de verplichting tot "AI Literacy": Artikel 4 verplicht aanbieders en gebruikers van AI-systemen (providers and deployers) om de nodige maatregelen te nemen zodat hun personeel en andere betrokken een voldoende niveau van AI-geletterdheid hebben. Dit betekent dat zij de verantwoordelijkheid dragen om voldoende kennis en vaardigheden mee te geven over AI aan professionals die met AI-systemen werken of ze gebruiken,
Menselijke controle (EU AI Act Art. 14)
Voor AI-systemen met een hoog risico die een impact kunnen hebben op de rechten van mensen, treedt Artikel 14 over menselijke controle in werking. Dit artikel zorgt ervoor dat AI-systemen niet volledig autonoom mogen functioneren zonder menselijke tussenkomst.
Om een AI-systeem doeltreffend te kunnen controleren, moet een menselijke toezichthouder voldoende kennis en inzicht hebben om:
- te begrijpen hoe het systeem werkt
- de output van het systeem op te volgen
- het systeem bij te sturen als het ongewenste of schadelijke resultaten oplevert
Context is belangrijk: hoeveel AI-kennis nodig is, hangt af van hoe betrouwbaar het systeem is en hoe groot de impact is van de beslissingen. Hoe groter het belang van de beslissing, hoe beter de mens het systeem moet begrijpen.
Daarnaast zijn ontwikkelaars van hoogrisico-AI-systemen verplicht om transparante en inzichtelijke interfaces te voorzien, zodat gebruikers begrijpen hoe het systeem werkt.
Data & Data Governance (Art. 10)
In artikel 10 behandelt de AI Act de gegevens waarmee AI-systemen getraind, gevalideerd en getest worden.
Voor hoogrisicosystemen legt de AI Act strikte eisen op:
- een goed beheer van de informatie, die rekening houdt met zowel de verzameling van data, als de bewerkingen die erop gebeuren, de kans op vooroordelen (bias) en de kans op missende data.
- de gebruikte datasets moeten relevant, representatief, foutloos en zo volledig mogelijk zijn
- hierbij moet ook altijd rekening houden met de context waarin het uiteindelijke AI-systeem gebruikt zal worden.
Gerelateerde wetgeving
GDPR
De AI Act is “een nieuwe verordening die naast bestaande wetgeving geldt, maar deze niet wijzigt”, zegt Isabela Maria Rosal van KU Leuven CiTiP, zoals de Algemene Verordening Gegevensbescherming (GDPR). Wat wél mag onder de AI Act, is dus niet automatisch GDPR-compliant, en omgekeerd.
Toch zijn beide kaders op elkaar afgestemd: mensen moeten geïnformeerd worden over hoe hun gegevens verwerkt worden via AI (Artikel 13(2)(f) GDPR).
Dat betekent onder meer dat ze moeten weten:
- welke informatie wordt verzameld,
- waarom die gegevens verzameld worden,
- hoe algoritmes nieuwe data genereren,
- hoe algoritmes beslissingen nemen en wat de impact daarvan is op mensen en de samenleving,
- welke bredere maatschappelijke gevolgen AI-processen kunnen hebben.
Auteursrechten en contentgeneratie
Ook het auteursrecht blijft uiteraard gelden, zegt Jarn Baele, expert intellectuele eigendom bij VLAIO. Auteursrechten gelden voor originele content, niet voor AI-gegenereerde content.
- De EU AI Act verplicht om AI-assistentie te vermelden bij het gebruik van deepfakes of informatie die het publiek informeert over zaken van algemeen belang (vanaf augustus 2026). Dit is niet nodig bij gebruik van spellingscontrole of als je persoonlijk de tekst geëditeerd hebt.
- Wil je auteursrechten laten gelden op je eigen content, die je met AI gegenereerd of geoptimaliseerd hebt? Dat kan, maar je moet wel kunnen bewijzen dat de creativiteit van jezelf komt, en niet door het systeem gegenereerd werd.
- Wil je niet dat AI-systemen leren van, en voortbouwen op, jouw originele content - dan kan je een "opt-out" instellen, waarmee je aangeeft dat je niet wil dat jouw content gebruikt wordt om AI te trainen. Je kan computers ook nog steeds verbieden om je content te laten crawlen door AI-systemen.
Meer leren?
AI, regulering en wetgeving
online opleiding - VAIA & KU Leuven
The impact of the EU AI Act in 6 steps
flowchart om te downloaden - Kenniscentrum Data & Maatschappij
Understanding the EU AI Act
Cursus - Online - DataCamp
Isabelle Borremans
Isabelle is géén expert in AI maar communiceert wel al vijf jaar over AI(-opleidingen) voor VAIA. Ze is dus wel thuis in de beste manieren om professionals enthousiast te maken voor AI-training.
Contacteer haar gerust met vragen over de beste manier om jouw AI-opleiding aan de man te brengen. Ze overvalt je graag met vragen als:
- Wie is je doelgroep? Kan dat specifieker?
- Hoe wil je die doelgroep bereiken? Waar volgt jouw doelgroep graag les?
- Welke AI-skills heeft je doelgroep nodig? Biedt jouw opleiding wel een antwoord op de noden van die doelgroep?
Isabelle ontfermt zich daarnaast over de strategie van VAIA wat betreft levenslang leren over AI: Hoe kunnen we Vlaamse professionals interesseren voor AI? Wat is er nodig om hen meer opleidingen te laten volgen? En hoe zorgen we voor meer opleidingen?
Technologie en digitalisering lopen als een rode draad doorheen Isabelles carrière. Eerder bouwde ze ervaring op bij RVO-Society met focus op digitalisering, chiptechnologie en elektriciteit in het onderwijs. Bij EnergyVille en InnoEnergy stond energie in al zijn vormen centraal.
David Frost Cruz
David is gepassioneerd door onderwijs, technologie en AI. Hij werkt aan het ontwikkelen van tools die de manier waarop mensen leren en lesgeven verbeteren.
Hij heeft ervaring met:
- Het beheren van e-learningprojecten en online cursussen in AI
- Toepassing van machine learning en learning analytics
- Psychologisch onderzoek en counseling in het hoger onderwijs.
David vindt het geweldig om anderen te helpen digitale tools (waaronder AI) in het onderwijs te begrijpen en te gebruiken. David staat altijd open voor gesprekken over e-learninginitiatieven, AI-onderwijsprogramma's en lezingen over AI in het onderwijs.
Isabela Maria Rosal
Isabela is a legal researcher at the Centre for IT & IP Law – CiTiP – imec - KU Leuven, where she works on data governance projects, currently with focus on ENACT and CEDAR. In parallel, she is working on her PhD over the intersection between open data initiatives and the right to data protection, aiming to understand how the interconnection of these systems can guarantee the right to memory. She obtained a Master’s degree in Economic and Regulatory Law from the University of Brasília (UnB, Brazil) in 2022, presenting a thesis on “The processing of personal data for marketing purposes”, which was published as a book by Ed. Fórum. She also holds a LL.B degree in Law from UnB (2019), having written her thesis on “The definition of the legitimate interest according to the GDPR and the Brazilian Data Protection Law (LGPD)”. As a recipient of the SANTANDER grant, she studied at the University of Granada (Spain) in 2016-2017.
Prior to joining CiTiP, Isabela worked as a lawyer and consultant at a
prestigious Brazilian law firm and as a project manager at the CEDIS-IDP (2020-2022), where she contributed to projects such as “Effective LGPD” and “LGPD in the Courts”. She has also worked as head of Data Governance and Digital Economy” at LAPIN and as an assistant in the Brazilian Administrative Council of Economic Defense (CADE).
Gerelateerde opleidingen
Van AI tot Z: AI-training voor bibliotheekmedewerkers
Training - Sint-Niklaas - Hub-C, VAIA