Artificiële intelligentie hoort niet thuis aan een universiteit

De reacties op de onthulling van Apache over de AI-hallucinaties in de rectorale rede van UGent-rector Petra De Sutter lieten niet lang op zich wachten. Volgens studentenvertegenwoordiger Lara Peters toont het voorval aan dat studenten aangeleerd moet worden om “verantwoord” om te gaan met AI. Ook hoogleraar medische filosofie en ethiek Ignaas Devisch laat eenzelfde geluid horen. Zijn collega, professor arbeidseconomie Stijn Baert, volgt deze lijn, maar met een merkwaardige twist. Baert prijst de “verhoging van productiviteit” die AI met zich meebrengt. De les die we volgens hem moeten trekken is dan ook dat er meer AI nodig is: “Op dit moment heeft maar 13% van de Vlaamse werknemers er al een opleiding over gevolgd, dat is heel erg weinig. Laat dit een case zijn om dit snel beter te gaan doen.”

Logica van de luiheid

Een universiteit is geen plaats voor tijdswinst en efficiëntie, maar voor een uitdagend en moeizaam proces van intellectuele zelfontwikkeling

De algemene teneur van de reacties is voorspelbaar. De rector had de tekst moeten controleren. Ze had beter moeten weten. Op zich is dat juist. Maar daarmee gaat men voorbij aan de onderliggende logica van de GenAI-software, waar zich volgens ons het ware probleem situeert. In corporate speak is het een logica van tijdswinst, efficiëntie, en productiviteit. Wij zien vooral een logica van gemakzucht, luiheid, en afhankelijkheid. In alle gevallen is het een logica die niet verenigbaar is met de doelstelling die de UGent zichzelf als onderwijsinstelling oplegt: het opleiden van studenten tot autonome, kritische denkers. Een universiteit is geen plaats voor tijdswinst en efficiëntie, maar voor een uitdagend en moeizaam proces van intellectuele zelfontwikkeling. Het idee dat dit proces zich laat uitbesteden aan GenAI, is een kwalijke misvatting die helaas ook bepalend is voor het AI-beleid van de UGent.

De casus van de rector toont volgens ons ook meteen waar het efficiëntie-denken de mist in gaat. Uit onderzoek van (onder andere) VRT NWS bleek dat vier van de meest gebruikte chatbots in bijna de helft van de gevallen problematische antwoorden gaven wanneer ze vragen kregen over artikels die hen gevoed waren. Het feit dat ‘hallucineren’ uitgeroepen werd tot woord van het jaar, toont aan dat men zich collectief bewust is van de neiging van GenAI-programma’s om onzin te produceren. De vraag is nu: wat is efficiënter? Zelf een tekst schrijven en meteen weten op welke betrouwbare bronnen je je baseert? Of een tekst laten genereren waarvan je achteraf elk detail moet controleren om te zien of het niet gehallucineerd is?

Magisch denken

Volgens ons valt er hier maar één les te trekken: GenAI hoort niet thuis aan een instelling voor hoger onderwijs. Wij willen weigeren. Als lesgevers aan de opleiding Wijsbegeerte ergeren wij ons al geruime tijd aan de manier waarop de UGent het gebruik van GenAI in opleidingen pusht, een beleid dat ingevoerd werd door De Sutters voorganger Rik Van de Walle. Tijdens interne discussies zijn personen het vaak eens met onze kritiek, maar er blijft een weerstand bestaan om de conclusie te trekken dat AI geweerd moet worden uit de universiteit. In de plaats daarvan valt men terug op de stoplap van het ‘verantwoord gebruik’. Er lijkt ons een wijdverbreide vorm van magisch denken te zijn, waarbij men meent dat de problemen vanzelf verdwijnen als men maar het woordje ‘verantwoord’ (of ‘kritisch’) toevoegt aan ‘GenAI gebruik’.

Studenten worden geacht om GenAI ‘verantwoord’ te gebruiken, maar de criteria daarvoor blijven vaag

Die notie van ‘verantwoord gebruik’ is de hoeksteen van het AI-beleid van de UGent. Hoewel VRT NWS spreekt over een “heel duidelijk AI-beleid”, stellen wij (net als vele van onze studenten) toch vast dat de exacte invulling van ‘verantwoord gebruik’ moeilijk vast te pinnen is. Dat creëert voor studenten een onzekere situatie: ze worden geacht om GenAI ‘verantwoord’ te gebruiken, maar de criteria voor ‘verantwoord’ gebruik blijven vaag. Zo mag een student volgens het UGent-beleid hun ‘denkproces’ niet overlaten aan GenAI, maar tegelijk mag GenAI wel gebruikt worden als ‘ideeënverstrekker’. In de UGent-brede leermodule die studenten ‘verantwoord gebruik’ moet bijbrengen, wordt er op een bepaald moment zelfs letterlijk gesteld: “Op dit moment bestaan er geen verantwoorde generatieve-AI-tools.” UGent trekt hieruit vreemd genoeg niet de conclusie dat ‘verantwoord gebruik’ in deze context enkel ‘geen gebruik’ kan betekenen.

Totaalverbod of carte blanche

Onder andere op basis van dergelijke overwegingen, besloot onze opleiding Wijsbegeerte en Moraalwetenschap aan het begin van dit academiejaar om een verbod in te voeren op het gebruik van GenAI voor de masterproef en de bachelorproef. Wij werden hierop teruggefloten, omdat het verbod zou ingaan tegen het UGent-beleid, dat GenAI-gebruik net expliciet wil omarmen. 

Het argument dat steevast aangebracht wordt, is dat een verbod op GenAI-gebruik enkel houdbaar is wanneer een opdracht in gecontroleerde omstandigheden uitgevoerd wordt. Want: alleen dan kan je zeker zijn dat het verbod gerespecteerd wordt. Het probleem is echter dat diezelfde redenering ook het ‘verantwoord gebruik’-beleid onderuit haalt.

Het idee van ‘verantwoord gebruik’ is een sofistisch gedrocht, dat een vals gevoel van morele en pedagogische veiligheid moet creëren

De UGent laat enkel ‘verantwoord’ verbruik toe. ‘Onverantwoord’ gebruik is dus verboden, en kan aanleiding geven tot tuchtprocedures. Zo is het bijvoorbeeld verboden om stukken tekst die geproduceerd zijn door GenAI letterlijk te kopiëren en te plakken. Maar ook dat valt op geen enkele betrouwbare manier te controleren. Als een verbod op GenAI gebruik tout court zinloos is omdat het niet te controleren valt, dan geldt hetzelfde voor een verbod op ‘onverantwoord’ gebruik.

Wij vinden het ongehoord dat opleidingen aan de UGent niet de vrijheid krijgen om zelf te bepalen of het gebruik van GenAI compatibel is met de eindcompetenties die zij nastreven. Zij worden verplicht zich te houden aan het van bovenaf opgelegde kader van ‘verantwoord gebruik’, een kader dat met haken en ogen aaneen hangt. In de praktijk zijn er eigenlijk maar twee coherente opties: een totaalverbod, of carte blanche. Het tussenliggende idee van ‘verantwoord gebruik’ is een sofistisch gedrocht, dat een vals gevoel van morele en pedagogische veiligheid moet creëren.

Autonome vaardigheden

Maar is het dan niet belangrijk om bij studenten een kritische houding tegenover GenAI te cultiveren? Zeker en vast, maar dit kan perfect zonder GenAI te gebruiken. Er toont zich hier een vaak voorkomende denkfout. Ter vergelijking: studenten aanleren om kritisch te staan tegenover TikTok, betekent niet dat ze dagelijks een uur moeten doomscrollen. Zo is het ook niet nodig om GenAI te gebruiken om er een kritische houding tegenover te ontwikkelen.

Om kritisch te zijn in je gebruik van GenAI, moet je net afstand kunnen nemen van GenAI

De casus van de rectorale rede illustreert dit wonderwel. Wat verwijt men Petra De Sutter namelijk? Dat zij niet gecontroleerd heeft of de citaten in haar rectorale rede correct zijn. Heeft men hiervoor specifieke GenAI-gerelateerde vaardigheden nodig? Neen, wel integendeel! We doen graag een gewaagd voorstel, dat niet zonder precedent is: als je een relevant citaat wil gebruiken, zoek het dan zelf op. De gewenste vaardigheden die men hiervoor nodig heeft, zijn precies die vaardigheden die universiteiten hun studenten al lang voor de komst van GenAI bijbrachten: begrijpend lezen, correct citeren en parafraseren, de betrouwbaarheid van bronnen beoordelen, enzovoort.

Meer algemeen: om kritisch te zijn in je gebruik van GenAI − van welke aard ook − moet je net afstand kunnen nemen van GenAI, en terug kunnen vallen op je eigen autonome vaardigheden. Het is de ontwikkeling van die vaardigheden die centraal zou moeten staan in het universitair onderwijs, en daarin heeft GenAI geen plaats.

Laat ons weigeren.