De komst van werkelijk capabele AI heeft ons gedwongen enkele woorden opnieuw te bekijken waarvan we dachten dat ze vaststonden. "Verantwoordelijkheid" is het woord dat almaar terugkeert — want een machine kan nu heel veel doen, en toch nergens voor instaan.
Hier is een definitie die het waard is om te onthouden: verantwoordelijk zijn voor iets betekent uiteindelijk instemmen met het betalen van de prijs als het misgaat. Niet de eer opstrijken als het goed gaat — dat doet iedereen — maar blootgesteld blijven aan de gevolgen als het dat niet doet. Een chirurg, een accountant, een ingenieur die een constructietekening ondertekent: ieder van hen draagt iets dat verloren kan gaan — een vergunning, een reputatie, een broodwinning — als zijn oordeel faalt.
Waarom een machine nooit verantwoordelijk kan zijn
Volgens die definitie kan een machine nergens verantwoordelijk voor zijn, en dat zal ze ook nooit. Niet omdat ze onbekwaam is — ze kan bekwamer zijn dan de persoon die haar controleert — maar omdat ze niets op het spel heeft te verliezen. U kunt haar geen boete opleggen, haar niet aanklagen, haar vergunning niet intrekken, haar niet te schande maken voor een klant. Ze heeft niets te verliezen, en dat is nu juist wat "verantwoordelijk zijn" vereist dat u hebt.
Dit is geen tijdelijke leemte die betere modellen zullen dichten. Ze is structureel. Verantwoording vraagt om een drager die de kosten van het ongelijk kan dragen. Een model heeft dat vermogen niet. De vraag is dus nooit "is de AI verantwoordelijk voor deze uitvoer?" — dat kan ze niet zijn — maar "wie dan wel?"
En het antwoord is, elke keer weer, een mens.
"Rapport door Oliver Vogt" wordt "Rapport opgesteld en gecontroleerd door Oliver Vogt"
De verandering is niet cosmetisch. Wanneer Oliver Vogt een analyse maakt met hulp van AI, heeft hij die niet met de hand geschreven. Dit toeschrijven met een kaal "rapport door" zou verdraaien wat er werkelijk is gebeurd. Maar het toeschrijven aan "de AI" zou erger zijn — het richt de eer, en daarmee de verantwoording, op iets dat geen van beide kan dragen.
Beide werkwoorden behoren aan Oliver Vogt toe. De AI genereerde de ruwe uitvoer; de mens heeft die opgesteld — het model naar het juiste antwoord gestuurd, de opmaak nagekeken, er iets van gemaakt dat waardig is om te versturen — en vervolgens gecontroleerd. De machine heeft niets opgesteld; een mens deed dat en stond daarna achter het resultaat. Dat is het ene wat de machine niet kan — er een naam onder zetten. De regel is dus geen marketingfranje; het is een nauwkeurige beschrijving van waar de verantwoordelijkheid ligt.
U kunt niet blind voor iets instaan
Hier verandert de filosofie in een ontwerpeis.
Voor iets instaan betekent er uw geloofwaardigheid aan lenen — zeggen "ik sta hierachter". Maar u kunt alleen geloofwaardigheid lenen die u het recht hebt verdiend te lenen. Staat u in voor een uitvoer die u nooit hebt bekeken, dan bent u niet verantwoordelijk; dan gokt u met uw naam in de hoop dat de machine gelijk had. Op het moment dat dat niet zo is, ontdekt u dat u om te beginnen nooit de positie had om ervoor in te staan.
Instaan legt daarom een minimum op: u moet op zijn minst steekproefsgewijs controleren. Niet per se elke regel opnieuw afleiden — dat zou het hele nut van AI gebruiken tenietdoen — maar genoeg verifiëren om werkelijk achter het resultaat te staan. Een controleur die ongezien tekent, heeft "gecontroleerd door" weer tot een leugen gemaakt.
Die ene eis — dat instaan op zijn minst een blik vereist — is wat een mens de lus in dwingt. Geen vinkje, geen vrijwaringsclausule in de EULA, maar een echte persoon die genoeg van de uitvoer leest om het te menen wanneer hij er zijn naam onder zet.
Waarom dit vooral bij anonimisering telt
Anonimisering is precies het soort taak waarbij een zelfverzekerde, onbewaakte machine het gevaarlijkst is — omdat haar fouten geruisloos zijn. Wanneer de detectie een naam mist, breekt er niets, verschijnt er geen fout, klinkt er geen alarm. Het document verlaat gewoon het gebouw met een echte identiteit er nog in, en u komt er pas achter wanneer het al ergens is waar u het niet meer kunt terughalen.
Een volautomatische anonimiseerder vraagt u om er, op schaal en zonder te kijken, op te vertrouwen dat hij alles heeft gevangen. Maar "hij heeft waarschijnlijk alles gevangen" is geen standpunt waarvoor u verantwoord kunt instaan — en één gemiste naam is de hele mislukking. De asymmetrie is meedogenloos: negenennegentig correcte zwartlakkingen wegen niet op tegen de ene naam die erdoorheen glipte.
Daarom geloven wij bij promptShield dat verantwoorde anonimisering een halfautomatisch proces moet zijn — niet omdat de automatisering zwak is, maar omdat de verantwoordelijkheid zich niet laat wegautomatiseren.
Hoe promptShield de mens in de lus houdt
De automatisering doet het zware werk. Een pijplijn met drie lagen — reguliere expressies, herkenning van entiteiten en een optioneel lokaal model — draait volledig op uw machine, stelt elke detectie voor die ze vindt, koppelt terugkerende entiteiten over pagina's heen en filtert overduidelijke ruis weg. Op een lang document is dat het verschil tussen minuten en uren.
Maar ze stelt voor; ze beslist niet. Elke detectie wordt u getoond als een controleerbaar gebied dat u kunt bevestigen, aanpassen, toevoegen of verwijderen. U ziet wat er zwartgelakt gaat worden voordat er iets wordt vastgelegd. Het getokeniseerde resultaat ([P0ABCD], [A1WXYZ], [B2KLMN]) ontstaat pas nadat een mens heeft gekeken. De machine stelde de zwartlakking voor; u hebt die opgesteld en gecontroleerd; en nu, wanneer het document vertrekt, vertrekt het onder een naam die er werkelijk achter kan staan.
Dat is de hele ontwerpfilosofie in één regel: laat de machine alles doen waar ze goed in is, en reserveer voor de mens het ene dat alleen een mens kan doen — verantwoordelijk zijn voor het resultaat.
Veelgestelde vragen
Waarom kan een machine niet verantwoordelijk zijn?
Omdat verantwoordelijk zijn betekent dat je iets te verliezen hebt als het misgaat, en een model heeft niets op het spel. Het kan niet worden beboet, geschrapt of aangeklaagd. Er moet iemand zijn die zijn bevoegdheid en reputatie inzet.
Haalt een mens in de lus de tijdwinst niet weg?
Nee, want beoordelen is niet hetzelfde werk als produceren. Het concept dat een dag kostte kost minuten; wat overblijft is het oordeel, en daar zat de professionele waarde altijd al.
Wat controleert die mens precies?
De detecties, voordat het document weggaat: wat is gevonden, wat is gemist en wat is verkeerd getypeerd. Na verificatie draagt elke entiteit vaste codes waarmee je het bestand later decodeert.