Wat is de AI-verordening en wat betekent dit voor scholen?
Jordy Pellemans Wat is de AI-verorderning (AI-act)?
Al sinds augustus 2024 is de Europese AI-act van kracht. Deze wordt gefaseerd ingevoerd (zie
Voor wie geldt de verordening?
Volgens de website Digitale Overheid gaat de wet gelden voor ontwikkelaars van AI-modellen en -systemen en voor organisaties en bedrijven die de AI-systemen gebruiken.
Als jouw school dus AI-systemen gebruikt, dan vallen die dus onder deze wet.
Het doel van de huidige wet is (…) ”dat AI-systemen die organisaties (binnen de EU) gebruiken, veilig zijn en fundamentele rechten respecteren. Het maakt niet uit of die AI-systemen binnen of buiten de EU zijn ontwikkeld.”
Het aannemen van deze wet is ervoor bedoeld om de individuele rechten van mensen te beschermen, waaronder in het bijzonder leerlingen en studenten in het onderwijs.
Welke risicocategorieën zijn er?
Er wordt onderscheid gemaakt tussen grofweg drie thema’s:
- verboden praktijken
- risico op misleiding
- hoog-risico-toepassingen
Wat betekent dit dus heel concreet voor het gebruik van AI in het onderwijs?
Het volledige document bevat tal van verwijzingen naar het onderwijs. Op zich is dit logisch omdat we als docenten werken met kwetsbare en beïnvloedbare leeftijdsgroepen.
Zo wordt het gebruik van AI die hoe een leerling of student zich voelt óf die de intenties van iemand af kan leiden verboden.
Daarom kunnen AI-systemen die emoties of intenties van natuurlijke personen identificeren of afleiden op basis van hun biometrische gegevens, tot discriminerende resultaten leiden en inbreuk maken op de rechten en vrijheden van de betrokken personen. Gezien de ongelijke machtsverhoudingen in de context van werk of onderwijs, in combinatie met het ingrijpende karakter van deze systemen, kunnen dergelijke systemen leiden tot een nadelige of ongunstige behandeling van bepaalde natuurlijke personen of hele groepen personen. (Bron: AI Act)
Er wordt in de verordening wel erkend dat de toepassing van AI in het onderwijs belangrijk is.
| (56) | Het inzetten van AI-systemen in het onderwijs is belangrijk om digitaal onderwijs en digitale opleidingen van hoge kwaliteit te bevorderen en om alle lerenden en leerkrachten in staat te stellen de nodige digitale vaardigheden en competenties te verwerven en te delen, met inbegrip van mediageletterdheid, en kritisch denken, om actief deel te nemen aan de economie, de samenleving en democratische processen. |
Wat wordt er verder nog verwacht van scholen en docenten?
Van scholen en instellingen wordt verwacht, zo valt te lezen bij Artikel 4, dat ze hun personeel zo veel mogelijk trainen en opleiden in AI-geletterdheid.
Dit betekent dus concreet dat de vrijblijvendheid om wel of niet op de hoogte bent van hoe je AI veilig gebruikt. Bovendien valt de onderstaande zin op:
AI systems used in education and vocational training, e.g. to evaluate learning outcomes and steer the learning process and monitoring of cheating;
Artikel 4
AI-geletterdheid
Aanbieders en gebruiksverantwoordelijken van AI-systemen nemen maatregelen om, zoveel als mogelijk, te zorgen voor een toereikend niveau van AI-geletterdheid bij hun personeel en andere personen die namens hen AI-systemen exploiteren en gebruiken, en houden daarbij rekening met hun technische kennis, ervaring, onderwijs en opleiding en de context waarin de AI-systemen zullen worden gebruikt, evenals met de personen of groepen personen ten aanzien van wie de AI-systemen zullen worden gebruikt.
Bronnen:
https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
