Door: Victor Angelier
Onlangs verscheen op deze plek een beschouwing over Descartes en de onopgeloste spanning tussen rede en geloof. Descartes leerde ons de methodische twijfel: neem niets voor waar aan zolang het niet gecontroleerd is. Die les is vier eeuwen later actueler dan ooit, want er is een nieuwe spreker in ons midden gekomen die de twijfel systematisch ontwapent.
Generatieve AI schrijft inmiddels mee aan beleidsnotities, juridische analyses, journalistieke stukken en bestuurlijke adviezen. Ministeries experimenteren ermee, gemeenten gebruiken het, advocatenkantoren en redacties evenzeer. En het klinkt allemaal voortreffelijk.
Dat is precies het probleem.
Iedereen weet inmiddels dat taalmodellen fouten maken. Het Amerikaanse standaardeninstituut NIST noemt het verschijnsel confabulatie: het systeem genereert onjuiste of misleidende inhoud en presenteert die met overtuigende stelligheid. Maar de werkelijke dreiging is subtieler dan “de computer zegt weleens iets doms”.
Het werkelijke probleem is dat een onjuist antwoord dezelfde vorm heeft als een juist antwoord. Grammaticaal vlekkeloos, retorisch overtuigend, compleet, zonder een spoor van aarzeling. Eeuwenlang was vloeiendheid een redelijke indicator van competentie: wie helder formuleerde, had er doorgaans over nagedacht. Die koppeling is nu doorgeknipt.
De machine spreekt met de zekerheid van een expert en de verantwoordelijkheid van niemand.
Wie daar niet tegen gewapend is, verliest ongemerkt iets wezenlijks: het vermogen om onderscheid te maken tussen onderbouwde kennis, plausibele interpretatie en ongecontroleerde generatie. En een samenleving die dat onderscheid niet meer maakt, heeft geen debat meer, maar alleen nog concurrerende monologen van gelijke welsprekendheid.
In bestuurlijk Nederland zie ik een patroon dat ik uit mijn eigen ICT-praktijk bij de overheid maar al te goed ken: de verantwoordelijkheid verdampt naarmate de keten langer wordt. De ambtenaar leunde op het rapport, het rapport leunde op de consultant, de consultant leunde op het model, en het model leunt op niets dat iemand nog kan navertellen.
De Europese AI-verordening probeert hier iets aan te doen. Voor hoog-risicosystemen eist zij onder meer automatische registratie van gebeurtenissen, transparantie en doeltreffend menselijk toezicht. Dat klinkt geruststellend, maar toezicht is méér dan een knop met “akkoord”.
Een gebruiker die alleen een eindantwoord ziet, kan formeel verantwoordelijk zijn, maar mist alles wat nodig is om die verantwoordelijkheid werkelijk uit te oefenen. Hij ziet niet welke bronnen zijn gebruikt, welke aannames zijn gemaakt, welke tegenwerpingen zijn weggemasseerd en waar het systeem zelf onzeker had moeten zijn.
Hij tekent bij het kruisje van de machine.
Dat is geen menselijk toezicht. Dat is menselijke dekking.
Wat is dan wél het antwoord?
Niet het naïeve vertrouwen dat “meerdere modellen” elkaar wel zullen corrigeren. Meerdere modellen kunnen dezelfde fout herhalen, dezelfde bron verkeerd lezen, dezelfde context missen of dezelfde maatschappelijke vooringenomenheid reproduceren. Consensus tussen machines is geen waarheid. Het kan evengoed gedeelde blindheid zijn.
Wie de afgelopen jaren heeft gevolgd hoe eensgezind instituties zich collectief kunnen vergissen, herkent het mechanisme.
Het antwoord is wat ik een controleketen noem. Die bestaat uit ouderwetse deugden in een nieuw jasje.
Broncontrole: steunt deze bewering op een herleidbare, primaire bron, of op de echo van een echo?
Tegenspraak: is er actief gezocht naar wat er níét klopt, naar de ontbrekende nuance, de alternatieve lezing, de zwakke plek in de redenering?
Vastlegging: kan achteraf gereconstrueerd worden hoe dit antwoord tot stand kwam?
En ten slotte het menselijk oordeel: een bevoegd persoon die de output begrijpt, weegt en zo nodig verwerpt.
Dat is, als u er even over nadenkt, niets anders dan de cartesiaanse methode toegepast op de machine. Niet de vraag: “heeft de AI gelijk?” Die vraag is te absoluut en verhult het echte probleem. De betere vraag is: kan ik reconstrueren waaróp dit antwoord berust, en durf ik daar mijn naam onder te zetten?
Precies vanuit die gedachte bouw ik aan IamVERA: niet als nieuw orakel, maar als controleomgeving waarin AI-output zichtbaar wordt bevraagd, aangevallen, herleid en vastgelegd voordat iemand er juridisch, bestuurlijk of journalistiek gewicht aan geeft.
Er kleeft aan dit alles nog een tweede, onderbelicht probleem. Veel van de meest gebruikte krachtige taalmodellen draaien op niet-Nederlandse, vaak Amerikaanse infrastructuur. Elke keer dat een Nederlandse organisatie een dossier “even laat controleren” door zo’n model, kan er informatie de grens over stromen: over patiënten, verdachten, erfgenamen, werknemers of bronnen van journalisten.
Het Hof van Justitie verduidelijkte in september 2025 in EDPS/SRB dat gepseudonimiseerde gegevens niet automatisch voor iedere ontvanger persoonsgegevens zijn. Beslissend blijft of de betrokkene, gezien de omstandigheden, redelijkerwijs identificeerbaar is.
Voor de verzendende organisatie verdwijnt de verantwoordelijkheid daarmee niet. Zij moet vooraf kunnen uitleggen waarom de gekozen gegevensstroom noodzakelijk, proportioneel en juridisch verdedigbaar is. Vertaald naar de praktijk: u mag de machine laten meedenken, maar ú blijft aanspreekbaar voor wat u haar toevertrouwt.
Gegevensminimalisatie hoort daarom in het ontwerp van de werkwijze te zitten, niet in de privacyverklaring achteraf. De gevoelige waarden — namen, nummers, adressen, dossierkenmerken — kunnen lokaal blijven, terwijl de context die nodig is voor analyse behouden blijft.
Dat vergt vakmanschap, geen vinkje.
Ik pleit hier niet tegen AI. Ik gebruik deze technologie dagelijks en zij is te krachtig om te negeren. Wie haar afwijst, wordt voorbijgestreefd door wie haar verstandig omarmt.
Ik pleit tegen de gemakzucht waarmee instituties het gegenereerde woord accepteren omdat het zo goed klinkt. En ik pleit tegen de bestuurscultuur die verantwoordelijkheid graag laat verdampen in technische ketens die niemand meer werkelijk overziet.
Een vrij debat veronderstelt burgers en bestuurders die kunnen zeggen: laat mij de bron zien. Laat mij de tegenwerping zien. Laat mij zien wat u níét zeker weet.
Dat gold voor de krant. Dat gold voor het rapport van de planbureaus. Dat gold voor de juridische analyse, het medisch advies en het bestuurlijk memo. En dat geldt onverminderd voor de sprekende machine.
Descartes wist het al: de twijfel is geen doel, maar een methode. Een weg naar een oordeel waar je vervolgens voor kunt staan.
In het tijdperk van de vloeiende machine is die methodische twijfel geen academische luxe meer.
Zij is een burgerplicht.
Hier kan je reageren op onze artikelen en een inhoudelijke bijdrage leveren. Lees ook even onze huisregels.
Om te reageren dien je eerst aan te melden.
Reageer je voor de eerste keer? Registreer je dan hier.
