Terwijl collega’s hun enthousiasme voor ChatGPT uiten, voel ik bij mezelf de weerzin groeien. Wat is dat toch met mij?
Samen met een collega had ik me voorgenomen om mij eens wat grondiger in het programma te verdiepen, zodat het enthousiasme misschien alsnog op me zou overslaan. Maar helaas, het tegenovergestelde gebeurde. Zag ik Chat GPT eerst nog als een hulpmiddel voor studenten die worstelen met taal, gaandeweg voelde ik ook mijn enthousiasme voor die optie verdampen. Waar lag dat toch aan? Het voelde dan ook als een aangename verrassing toen ik in NRC van 26 augustus op een interview stuitte met Emily Bender, een linguïste die zich heeft gespecialiseerd in computerlinguïstiek en die net zomin als ik een fan is van Chat GPT. Zo knap als de linguïste dat deed had ik de bezwaren nog niet eerder verwoord gezien. En ze voegde bovendien nog een paar belangwekkende bezwaren aan het bekende rijtje toe.
- Het begrip ‘kunstmatige intelligentie’ veronderstelt bewustzijn en begrip, terwijl er bij Chat GPT alleen sprake is van automatisering van het voortbrengen van tekst, aldus Bender. Chat GPT ‘begrijpt’ niets en ‘antwoordt’ evenmin. Het enige wat ‘hij’ kan, is zinnen samenstellen die gebaseerd zijn op statistische patronen en welke woorden in welke context waarschijnlijk zijn. Maar ook al begrijpt Chat GPT niets, ‘hij’ wordt wel verkocht als een machine waaraan je alles kunt vragen, aldus de linguïste. Nu is nog bekend dat de antwoorden soms foutief zijn maar als je die foutmarge weet te minimaliseren, blijven we dan nog wel kritisch genoeg op de output?
- De bronnen van de teksten zijn niet meer te achterhalen. Of, zoals Bender het terecht verwoordt: ‘Je zou kunnen zeggen dat het diefstal is van oorspronkelijke data’.
- Wie, zo vraagt zij zich af, is er aansprakelijk voor informatie? Bijvoorbeeld als het programma informatie geeft die neerkomt op een medische fout, of op smaad? ‘Wat zou het goed zijn als Open AI, dat Chat GPT heeft ontwikkeld en op de markt gebracht, aansprakelijk gesteld kan worden voor de output van Chat GPT,’ aldus Bender.
- ) Haar vierde bezwaar: ‘Dit soort robots kunnen artikelen voortbrengen die eruitzien als een artikel van Wikipedia, maar niets met de realiteit te maken hebben. Zo’n tekst kan dan weer opgepikt worden door een zoekmachine en verder worden verspreid. Daarom spreek ik van vervuiling van ons informatie-ecosysteem.’ […] ‘Dat is niet alleen gevaarlijk omdat mensen een onwaarheid kunnen aanzien voor feitelijke informatie. Het ondergraaft ook in het algemeen ons vermogen om betrouwbare informatie te vinden.’
Ondanks deze bezwaren lukte het mijn collega’s om toch vooral naar de mogelijkheden te kijken. In WIN Magazine (21 maart) zegt Lvo-docent Jaap Van der Molen bijvoorbeeld: “Het komt erop neer dat we zullen moeten wennen aan deze technologie. Het heeft geen zin dit uit het onderwijs te verbannen, als we het maar kritisch en doelgericht gebruiken.” Ook Lector Onderwijsinnovatie en ICT Anneke Smits redeneert zo: ‘Het is nu belangrijker dan ooit dat het hoger onderwijs professionals opleidt die verantwoord en verantwoordelijk om kunnen gaan met artificial intelligence.’
Dat klinkt plausibel, maar ik vraag me af of we daar als professionals wel toe in staat zijn. Op dit moment kunnen we zin en onzin nog van elkaar scheiden, maar lukt dat ook als de foutmarge verder afneemt? En waarom zouden we deze technologie eigenlijk niet uit het onderwijs verbannen? Ik realiseer me dat mijn weerstand van het afgelopen jaar vooral gevoed is door een gebrek aan discussie over de vraag of het eigenlijk wel wenselijk is om Chat GPT in te zetten in het onderwijs. Of, om de vraag nog wat concreter te maken: Is het ethisch verantwoord om gebruik te maken van een programma dat gebouwd is op gejatte data; dat inhoud levert waar fouten in staan; waar je APA niet op los kunt laten omdat je onmogelijk de bron van de inhoud kunt achterhalen; en dat de vraag naar ‘echte’ informatie nog verder compliceert?
Ik moet aan een quote van Loesje denken, die luidt: Communicatieadviseur? Mijn tante met twee glazen wijn op. Zou je als docent een student Communicatie aanraden om voor zijn verslag tante To te raadplegen? […] Tante To!? Maar die weet toch niets van communicatie? Nee, dat is zo, maar ze hoort wel eens wat en daar weet ze toch altijd een heel aardig verhaal van te maken. […] Of het klópt wat ze zegt? Mwa, ze is een beetje een naprater, maar er zit meestal wel een lijn in haar verhaal. […]Vraag nou maar, dan heb je alvast een beginnetje.’
