AI in het onderwijs
Sinds 2022 is generatieve AI in de vorm van ChatGPT en verwante applicaties niet meer weg te denken uit de werk- en leeromgeving. Gebruik van AI in het onderwijs door studenten, docenten en medewerkers stelt ons voor nieuwe uitdagingen. Het creatieve proces van bijvoorbeeld een ‘klassiek’ geschreven product kan met AI immers heel anders ingevuld worden. Dit stelt ons voor de uitdaging hoe we als academische gemeenschap de inzet van AI in ons onderwijs vormgeven. Waar heeft de inzet van AI een meerwaarde voor de ontwikkeling van studenten en het werk van docenten en medewerkers? En waar juist niet.
BELANGRIJK: Voor wat betreft summatief werk – werk waarvoor een formele beoordeling gegeven wordt – is het betreffende onderwijsexamenreglement altijd leidend en is wat wel/ niet mag in relatie tot inzet van AI altijd aan de docent en examencommissie.
AI in Education werkgroep
De universiteit-brede werkgroep ‘AI in het onderwijs’ heeft een strategie opgesteld voor implementatie van AI in ons onderwijs. Deze strategie wordt stapsgewijs verder uitgewerkt en geïmplementeerd. De uitwerking en uitkomsten worden samengebracht op deze pagina en in nieuwsberichten. We beseffen dat we nog stappen moeten zetten op weg naar verantwoorde inzet van AI in het onderwijs.
De eerste resultaten vanuit die werkgroep delen wij hier en omvat informatie over 1) inzet van AI-systemen in het onderwijs en 2) handreikingen voor inzet van AI in het onderwijs. Deze informatie is dynamisch en zal doorlopend aangevuld en bijgewerkt worden. Daarbij ligt de focus op de didactische context voor inzet van AI.
Potentiële risico’s van commerciële en vrij-toegankelijke AI-systemen
De mogelijkheden voor veilig en betrouwbaar gebruik van vrij toegankelijke, commerciële AI-platforms in ons onderwijs zijn momenteel zeer beperkt. We hebben geen verwerkingsovereenkomsten met leveranciers en (daarom) te weinig of geen inzicht in de wijze waarop zij onze gegevens verwerken.
Gebruik van commerciële en vrij-toegankelijke AI-systemen raden we momenteel af.
Onderwijs is een ‘high risk’ categorie
AI-gebruik brengt risico’s mee op gebied van privacy en kennisveiligheid en het is belangrijk om hier bewust van te zijn. We werken immers veel met persoonsgegevens, onderzoeksresultaten en gegevens van waaruit context herleidbaar kan zijn. De EU AI-verordening classificeert inzet van AI-systemen binnen het onderwijs als ‘high risk’.
We zijn dan ook verplicht om het gebruik van software-applicaties met AI-componenten te toetsen aan de wet en waar nodig afspraken te maken met bijvoorbeeld leveranciers. Deze afspraken zijn er momenteel (nog) niet.
Een voorbeeld hiervan is Microsoft Copilot. Dit kunnen we nog niet veilig inzetten omdat Microsoft nog onvoldoende duidelijk maakt hoe onze gegevens verwerkt worden.
Daarnaast zijn er veel, veelal online, breed toegankelijke AI-systemen. Hiervan is niet duidelijk hoe gevoerde gesprekken en gegevens en gegenereerde output verwerkt wordt bij bijvoorbeeld doorontwikkeling van het AI-model. Inzet van deze applicaties brengt dan ook risico’s mee op gebied van privacy en kennisveiligheid.
Een voorbeeld hiervan zijn alle online toegankelijke versies van ChatGPT, Daarvan weten we niet zeker hoe gegevens verwerkt worden en of deze als output terug kunnen komen in chats van andere gebruikers.
Binnen de verdere uitwerking van de AI-strategie hebben we dan ook veel aandacht voor betrouwbare inzet van AI die voldoet aan onze kernwaarden.
Richtlijnen
Binnen de universiteit werken we verder aan beleid en richtlijnen uitgaande van de 5 niveaus van integratie van AI zoals gedefinieerd door Perkins et al.[1].
Daarbij geldt dat:
- er momenteel geen white list is van betrouwbare AI-systemen. Elke vorm van inzet van AI brengt potentiële risico’s mee.
- je bij gebruik van of experimenteren met AI in je onderwijs ten allen tijden de invoer van persoonsgegevens, onderzoeksgegevens en/ of gegevens van waaruit een specifieke (herleidbare) context afgeleid kan worden moet vermijden.
De volgende (Engelstalige) handreikingen voorzien je verder van tips en informatie. Deze worden regelmatig en in het licht van relevante ontwikkelingen in het AI-veld geüpdatet.
In deze handreiking geven we richtlijnen voor (bepalen van) de randvoorwaarden voor inzet van AI in het onderwijs.
Implementing AI in your curriculum:
In deze handreiking geven we aan hoe je AI in onderwijswerkvormen kan inzetten met focus op o.a. schrijfopdrachten
Scale of AI use at University Leiden:
In dit overzicht vatten we de 5 niveaus van AI integratie samen volgens Perkins.
[1] Perkins, M., Furze, L., Roe, J., MacVaugh, J. (2024) The Artificial Intelligence Assessment Scale (AIAS):
A Framework for Ethical Integration of Generative AI in Educational Assessment. British University
Vietnam, (Vietnam). Deakin University (Australia). James Cook University (Australia
Welke informatie en richtlijnen krijgen studenten?
Ook voor studenten brengen we zoveel mogelijk informatie over en richtlijnen voor gebruik van AI bij elkaar. De link naar de informatie die zij krijgen delen we na publicatie ook hier.