Het monster wil zo graag een mens worden

Afbeelding uit een uitgave van de Frankenstein-roman uit 1831

Dokter Frankenstein, de hoofdpersoon uit de roman van Mary Shelley uit 1818, maakte van aan elkaar genaaide en geëlektrificeerde lichaamsdelen van echte mensen een namaakmens, vanuit zijn verlangen om te begrijpen wat een mens eigenlijk is, en daarmee de wetenschap en de mensheid verder te helpen. Het resultaat was een monster, dat wel leefde, maar niet echt op een mens leek. Een ramp gebeurde: het monster ontsnapte. Overal waar het echte mensen ontmoette, richtte het – ongewild – schade aan. Het probeerde tevergeefs mensen te imiteren, om zo zelf ook een mens te worden. Frankenstein probeerde een vrouw voor hem te bouwen, om hem menselijker te maken, maar zag daar weer van af uit angst dat die vrouw ook niet echt zou lukken. Kortom, het liep totaal fout met de menselijkheid van het monster, dat alleen achterbleef en zelfmoord pleegde.

Ook de makers van het onlangs gelanceerde taalprogramma ChatGPT3, het Kunstmatige Intelligentiebedrijf OpenAI, willen niets liever dan de mensheid verder brengen:

OpenAI’s mission is to ensure that artificial general intelligence (AGI)—by which we mean highly autonomous systems that outperform humans at most economically valuable work—benefits all of humanity. 

Bron: https://openai.com/charter/

Ze stuurden afgelopen november hun monster vol vertrouwen de wereld in, met de opdracht zich nuttig te maken. Het programma is in staat om met een schrijfopdracht en een paar muisklikken razendsnel alle soorten teksten te produceren, en nog best goede ook. Het leidde overal tot opschudding. In de debatten wisselen verbijstering, enthousiasme en paniek elkaar af. Vooral in de onderwijswereld is onrust ontstaan. Is schrijfonderwijs overbodig geworden? Is schrijven zelf misschien overbodig en krijgen we na de ontlezing nu een grote ontschrijving (Volkskrant 27 januari)? Gaan leerlingen in alle onderwijssectoren hun leraren uitlachen en om de tuin leiden met briljant geschreven teksten? Terwijl ze daarvan niks leren? Inmiddels is de discussie beland in een soort tweedeling tussen onderwijsmensen die vinden dat we deze technologie al dan niet juichend moeten omarmen (zie bv hier) en degenen die twijfelen en wijzen op de gevaren (zoals hier en hier).

Is dit ChatGPT3-monster net een mens, een schrijvende mens? Hoe aardig is ie voor ons, en kunnen we onze kinderen en studenten zomaar aan hem toevertrouwen, of gaat hij ze dan verslinden? Het monster is al ontsnapt, moeten we ze ertegen beschermen? Als schrijfonderwijsdeskundige voel ik mij een beetje verantwoordelijk voor de veiligheid van al die leerlingen en hun leraren. Ik lees artikelen over het programma, geef rare opdrachten aan de schrijfbot om te kijken wat er uitkomt, en praat met mijn dochter die AI-deskundige is. Inmiddels begint het me meer te dagen.

De basis van ChatGPT3 is een zogeheten Large Language Model (LLM), een model getraind met grote hoeveelheden teksten, zoals boeken, socialemediaposts en wetenschappelijke artikelen, om patronen te herkennen en op grond daarvan inhoudelijk kloppende teksten te kunnen maken. Maar kan het eigenlijk wel teksten schrijven? Het is eigenlijk meer een Groot Woord Volgorde Model, dat uitblinkt in het (re)produceren van zinnen die correct overkomen. Is dat schrijven? Dacht ik niet.

Schrijven is volgens mij: met behulp van schriftelijke taal betekenissen en bedoelingen uitwisselen tussen mensen. Ik citeer de bekende taalonderzoeker Michael Halliday:

The important thing about the nature of a text is that, although when we write it down it looks as though it is made of words and sentences, it is really made of meanings. (Michael Halliday, 1985)

(Vertaling: ‘Om te begrijpen wat een tekst is, moet je bedenken dat hoewel een tekst eruitziet alsof hij gemaakt is van woorden en zinnen, hij eigenlijk gemaakt is van betekenissen.’)

Het is de vraag of ChatGPT3 zich druk maakt over betekenissen en bedoelingen. Helemaal niet, lees ik in een discussiebijdrage, hij bedoelt helemaal niks, die betekenissen geven wij er zelf aan:

Calling Chatbot a LLM implies it conveys meaning. Any meaning and correctness behind these generated word sequences is purely incidental and any potential meaning is inferred solely by the reader. Saying that, Chatbot is ground-breaking technology, it will help the non-English speaking with syntax and grammar. But it will help no-one with conveying meaning.

Bron: https://garymarcus.substack.com/p/ais-jurassic-park-moment

Dat klopt ook met mijn ervaring tot nu toe. De bot schrijft eigenlijk technisch erg goed, ongeveer zoals kinderen die snel ‘technisch’ kunnen lezen zonder ook maar iets te begrijpen van de inhoud. De teksten komen leeg, bloedeloos of erg algemeen over, ook al zijn ze perfect van opbouw, zinsbouw, alineaverdeling en interpunctie. Dat komt omdat het algoritme zoekt naar de meest voorkomende woordvolgordes met betrekking tot de gegeven opdracht, en dus naar de meest algemene consensus, vaak clichés, over een onderwerp.

Wat je dan niet krijgt: persoonlijke voorbeelden, ervaringen, gevoelens, zintuiglijke waarnemingen, twijfels, behoeften en gedachten, bewust ingebrachte tegenstrijdigheden, mooie en creatieve taalvondsten zoals eigen beeldspraak of vergelijkingen, ongewone associaties of onverwachte verbanden met andere teksten of onderwerpen, eigenlijk alles dat alleen in het brein van die ene schrijver op dat ene moment kan opkomen. Dat stoort niet zo erg als je teksten nodig hebt over puur feitelijke kennis op een beginnersniveau, maar zodra iets diepgaandere vakkennis vereist is, authentieke voorbeelden gewenst zijn of buiten de box gedacht moet worden, laat ChatGPT3 het afweten. Dan lees je iets en denk je: ja ja dat weet ik allemaal al, maar wat denk je nou zelf? Als je die vraag intypt antwoordt de bot nederig: ‘ik ben getraind op teksten, ik weet niet wat u bedoelt…’

Met mijn goede vriend en collega Henk van Faassen, een van de oprichters van de Taaldrukwerkplaats, had ik vaak discussies over de kwaliteit van kinderteksten. Hij vond het belangrijkste criterium voor een goede tekst, dat je het schrijvende kind nog als individuele persoon in de tekst kon herkennen. Dat verwoordt wat ik zo vaak voel als ik teksten van kinderen lees: geraakt worden door het persoonlijke, onverwachte, grappige, op elke leeftijd weer andere taalgebruik. Authenticiteit, noemden we het vroeger wel in kringen van kunstzinnige vorming. Het tegenovergestelde daarvan was clichématigheid. Dat trad op als kinderen zich vastklampten aan vaste vormen (huizen met puntdaken en een zonnetje rechtsboven) of voorbeelden uit taalmethodes (maak dit verhaaltje af) en die zonder na te denken probeerden na te doen.

We ontdekten in de praktijk van taalrondes over eigen ervaringen, dat kinderen veel betrokkener waren bij wat ze geschreven hadden dan in de reguliere taallessen. Henk verklaart het zo:

Waarom zijn de kinderen trots op hun Schrijfwerk?
Het is een stukje van jezelf. Het zou wel eens zo kunnen zijn dat het verwoorden van een persoonlijke ervaring productiever is dan het bedenken van woorden bij een invuloefening. Een individuele variatie is per definitie iets om trots op te zijn en bevrediging in te ervaren.

Bron: http://www.taalvormingentaaldrukken.nl/ATG/ATG1994.htm#b

En:

Het belangrijkste doel waar het in het moedertaalonderwijs om zou moeten draaien is, dat kinderen op hun eigen woord komen, hun eigen zin maken, hun eigen verhaal vertellen, hun eigen oplossing bedenken. De woorden behoren jou toe. Woorden bestaan om aan jouw behoefte, jouw groei, jouw wensen, jouw leven vorm te geven.

Bron: http://www.taalvormingentaaldrukken.nl/ATG/ATG1976.htm#f

Hier gaat ChatTPG3 niet bij helpen. Het monster doet enorm zijn best om op een schrijvende mens te lijken, maar het reikt vooral zinnetjes aan die je net niet nodig hebt of inhoud die je net niet bedoelt.

Behalve natuurlijk … als het je doel is om de schijn te wekken dat je genoeg van een onderwerp weet om een voldoende te halen. Terwijl je er in feite te weinig van weet. Dan helpt de schrijfbot enorm. Hij kan eigenlijk alles in overtuigende tekst omzetten, zeker waar een onpersoonlijk, academisch register vereist is en niet al te diepgaande kennis, zoals in allerlei toetsopdrachten in het middelbaar en hoger onderwijs. Hij geeft net genoeg relevante informatie en weet die overzichtelijk te structureren met passende signaalwoorden. Bij elke nieuwe opdracht maakt hij daarin variaties, zodat teksten nooit helemaal hetzelfde zijn.

De vorm klopt, de inhoud klopt soms, maar soms ook niet of niet helemaal, de bronnen waarop de tekst gebaseerd is worden niet vermeld. In veel artikelen van de laatste tijd melden docenten dat ze de door ChatGPT gegenereerde teksten vaak heel goed vinden, maar soms ook een vaag gevoel krijgen dat er ‘iets niet klopt’. Als gebruikers van het programma, en als taal- en vakdocenten, moeten wij ons de komende tijd verdiepen in dat ‘iets’.

Het monster probeert zich in te lezen. Lees hier hoe het daarmee gevoelens, moreel besef en filosofisch denken probeert te ontwikkelen

Dit monster loopt vrij rond en zal niet meer worden opgesloten, hooguit achter een laag betaalmuurtje (zie hier), en ook geen zelfmoord plegen zoals het monster van dokter Frankenstein. Het doet iets dat lijkt op schrijven. Maar schrijven is het niet. Schrijven is denken zoals mensen doen – het algoritme doet dit alleen na, ik citeer uit de commentaren: ‘It powerfully mimics thought while possessing none’, en: ‘Large Language Models know what language sounds like but have no direct grasp on reality’.

In het onderwijs zullen we ons opnieuw moeten bezinnen op het huidige lees- en schrijfonderwijs. Wat is lezen, wat is schrijven? Het ChatGPT-3 programma dwingt ons om na te denken over wat een goede tekst is, waarom we eigenlijk lezen en schrijven, wat een schrijver in haar hoofd doet als ze aan het schrijven is, en daarop aansluitend wat we kinderen en leerlingen in de verschillende onderwijssectoren moeten leren om autonomie ten aanzien van teksten te ontwikkelen. Daarbij zal duidelijk worden wat we allang wisten, maar wat nog steeds niet de leidende principes zijn van het huidige taalonderwijs:

  • dat vorm, inhoud en bedoeling van teksten nauw met elkaar samenhangen, en dat het belangrijk is om te leren op welke manier,
  • dat je moet beginnen bij een interessante en relevante inhoud en een persoonlijke motivatie en niet bij de geïsoleerde vorm van een tekst,
  • dat je een tekst alleen goed kunt schrijven, lezen en beoordelen als je voldoende afweet van het onderwerp,
  • dat teksten terugkerende patronen hebben en dat het zin heeft om die te ontdekken, maar dat schrijvers daar altijd op variëren, aan de hand van hun individuele bedoelingen, culturen en situaties,
  • dat docenten instrumenten in handen moeten hebben om samen met hun leerlingen teksten naar waarde te schatten, op grond van hun betrouwbaarheid, hun doeltreffendheid en hun taalkenmerken, en om leerlingen te leren zelf zulke teksten te produceren.

Het is niet zwart-wit. We moeten de mogelijke bijdrage van AI aan het taalonderwijs onderzoeken. Als we de AI-gegenereerde teksten als voorbeeldteksten willen gebruiken, en niet als definitieve producten, moeten we heel goed worden in het analyseren en bespreken van die teksten. We moeten ons daarbij realiseren dat kennis over een onderwerp onmisbaar is om de waarde van een tekst te kunnen beoordelen, en dat het inrichten van een kenniscurriculum dus enorm belangrijk is.  Het taalonderwijs moet voorts standaard gelinkt worden aan elementen van digitale geletterdheid, speciaal de onderdelen mediawijsheid en informatievaardigheden, om elke tekst te kunnen onderwerpen aan betrouwbaarheidsonderzoek. Over dit alles zal ik later weer iets publiceren.

Wees intussen lief voor het monster, nodig hem uit om mee te doen met de wereld van de echte mensen, maar wees ook op je hoede, want hij kan je onverwacht aanvallen.

 

‘I was benevolent and good; misery made me a fiend. Make me happy, and I shall again be virtuous.’

(Mary Shelley, Frankenstein. 1818)

4 antwoorden op “Het monster wil zo graag een mens worden”

    1. Alvast 1 docent Nederlands heeft de blog gelezen 😉 En inderdaad, ook mijn sectie is zoekende: omarmen we het monster of verdringen we het op alle mogelijke manieren? Op zoek naar de gulden middenweg…

  1. Wat een mooi onderbouwd antwoord en een hulp om de paniek en ontreddering de baas te kunnen. Dit is erg interessant voor een HSN-bijdrage binnen de stroom lerarenopleiders lager onderwijs, vind je niet? Zal je ingaan op de call for papers die binnenkort verschijnt of wil je graag een persoonlijke uitnodiging? Die wil ik je bezorgen. 😉

  2. Wat ChatGPT3 In de verschillende onderwijssectoren zal gaan betekenen vind ik nog onduidelijk, daarvoor is meer onderzoek en ervaring nodig, nog los van de zekerheid dat het programma zich de komende maanden verder zal ontwikkelen. Ik wil dat samen met een collega verder onderzoeken. Het lijkt me zeker een discussieonderwerp voor de komende HSN-conferentie!

Laat een antwoord achter aan Truike Maertens Reactie annuleren

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *

Deze site gebruikt Akismet om spam te verminderen. Bekijk hoe je reactie-gegevens worden verwerkt.