Foto door Ron Lach
De belofte van Artificiële Intelligentie (AI) om het hoger onderwijs te transformeren via gepersonaliseerd leren (PL) is groot: denk aan curricula op maat en efficiëntere leertrajecten. Echter, een recent ethisch risicorapport van onderzoekers Nati Sack en Ben Little, afkomstig vanuit het SURF ‘Future Campus’ project, vraagt ons kritisch te kijken naar de uitdagingen van deze ontwikkeling. Hoe zorgen we ervoor dat innovatie niet ten koste gaat van de kernwaarden van ons onderwijs?
Het rapport, “The Risks of Personalising Higher Education with Artificial Intelligence“, schetst een toekomstbeeld voor 2040 waarin AI alomtegenwoordig is. Belangijke uitdagingen worden hierin belicht.
Wat zijn mogelijk directe gevolgen voor onze leerlingen en studenten?
Het gepersonaliseerd leren dat AI mogelijk maakt, kan onbedoeld leiden tot:
- Gehomogeniseerd leren en echokamers: Ondanks maatwerk, kunnen AI-systemen, vaak getraind op specifieke, vaak Westerse databronnen, leiden tot vergelijkbare leerresultaten en een gebrek aan diversiteit. Studenten lopen het risico opgesloten te raken in “echokamers” die hun bestaande overtuigingen versterken in plaats van uitdagen.
- Afname van kritisch denkvermogen: Wanneer AI te veel ‘denkwerk’ uit handen neemt, kan dit de ontwikkeling van cruciale kritische denkvaardigheden belemmeren. Hoe leren studenten dan zelfstandig informatie te analyseren en te evalueren?
- Verlies van gedeelde kennis en samenwerking (epistemische fragmentatie): Door volledig gepersonaliseerde leertrajecten kan de interactie tussen studenten afnemen. Dit ondermijnt gezamenlijk leren, de uitwisseling van ideeën en het opbouwen van gedeelde kennis die essentieel is voor een brede (academische) vorming.
Impact op de onderwijssector
Voor instellingen en beleidsmakers liggen de volgende risico’s op de loer:
- Ongewenste commerciële invloed: De enorme kosten voor ontwikkeling en onderhoud van geavanceerde AI-systemen maken het onderwijs potentieel afhankelijk van private bedrijven (iets wat nu natuurlijk ook al veel speelt, maar dan simpelweg door gebruikmaking van Amerikaanse Tech). Onderzoekers van het gerenommeerde Rathenau Instituut hebben ons hiervoor al gewaarschuwd. Dit kan leiden tot een focus op winst in plaats van op onderwijskwaliteit, een trend die we al zien in bijvoorbeeld de academische uitgeverij.
- Privacyvraagstukken rondom studentendata: Gepersonaliseerd leren vereist grote hoeveelheden persoonlijke studentendata. Hoe garanderen we de privacy van studenten wanneer private partijen toegang krijgen tot deze gevoelige informatie, en hoe voorkomen we dat deze data onbedoeld voor andere doeleinden wordt gebruikt?
- Toenemende ongelijkheid: De hoge investeringskosten kunnen een kloof creëren tussen onderwijsinstellingen die wel en niet kunnen investeren in de beste AI-systemen. Dit dreigt bestaande ongelijkheden te versterken. Onderwijskwaliteit gaat dan namelijk sterk afhankelijk zijn van financiële draagkracht. Bovendien kan algoritmische ongelijkheid, geworteld in bevooroordeelde trainingsdata, leiden tot minder uitdagende curricula voor studenten uit minderheidsgroepen.
- Drastische verandering van de rol van de docent: Als AI de kerntaken van lesgeven en curatie overneemt, verandert de rol van de docent fundamenteel. De vraag is: wie is dan nog de mentor, de begeleider, en de inspirator die verder reikt dan puur kennisoverdracht? Interessant hierbij is ook de opvatting van onderwijskundige Gert Biesta. Hij gaf onlangs een presentatie over opgroeien in tijden van AI.
Wat zijn bredere gevolgen van AI in het onderwijs?
De effecten van AI in het onderwijs reiken verder dan het schoolgebouw zelf:
- Bedreiging van democratische competentie: Een generatie studenten met een beperkt kritisch denkvermogen en een gebrek aan blootstelling aan diverse perspectieven kan de fundamenten van een gezonde democratie ondermijnen.
- Ecologische impact: De enorme energiebehoefte van AI-systemen en de benodigde infrastructuur dragen bij aan de klimaatproblematiek. Hoe verzoenen we de voordelen van AI met onze duurzaamheidsdoelstellingen?
Wat zijn de aanbevelingen in het onderzoeksrapport?
Het rapport benadrukt dat veel van deze risico’s afhangen van de mate van personalisatie. Om de waardevolle doelen van het hoger onderwijs te behouden, stellen de auteurs een aantal stappen voor:
- Beperk extreme personalisatie: Handhaaf verplichte kernonderdelen en gedeelde cursussen. Dit zorgt voor een brede onderwijsbasis, stimuleert kritisch denken en bevordert samenwerking tussen studenten.
- Bescherm privacy en zorg voor gelijke toegang: Strikte regelgeving voor dataverzameling en -gebruik is echt heel belangrijk. De overheid kan daarom subsidie voor instellingen overwegen om te voorkomen dat leerlingen en studenten van instellingen die krap bij kas zitten worden benadeeld.
- Versterk de rol van de menselijke docent: Docenten moeten de primaire opvoeders blijven. Hun rol kan evolueren naar die van coach, mentor en gids. Iemand die studenten leert kritisch om te gaan met AI en hen helpt bij hun persoonlijke ontwikkeling.
AI biedt tal van kansen om het hoger onderwijs te vernieuwen. Toch blijft het belangrijk om zorgvuldig te werk te blijven gaan en niet blindelings het tech-optimisme van grote Amerikaanse BigTech te volgen. Een nuchter ethische kompas, zoals we in Nederland gewend zijn, blijft essentieel. Alleen zo zorgen we ervoor dat AI een aanvulling is op, en geen afbraak doet aan, de diepgang en maatschappelijke waarde van ons onderwijs. Gelukkig worden er steeds meer AI-raamwerken gepubliceerd, die scholen en docenten praktisch kunnen inzetten om AI bewuster (of niet) in te zetten.
(De eerste versie van dit artikel is geschreven met behulp van AI. Het eindproduct is volledig en tot in detail geredigeerd en goedgekeurd door een mens).
Over de auteur
