Er tekent altijd een mens, omdat alleen een mens de gevolgen kan dragen. Een model heeft geen inschrijving, praktijk of naam die op het spel staat. De vraag is dus niet of de AI verantwoordelijk is, maar wie dat wel is. Daaruit volgt een eis aan het ontwerp: u moet de uitkomst hebben gezien voordat u ervoor tekent.
Waarom een model niets op het spel heeft staan
Een accountant die een controleverklaring tekent, kan zich bij de Accountantskamer moeten verantwoorden. De advocaat kent de raad van discipline en de arts het tuchtcollege. Elke professionele handtekening rust op een persoon die de gevolgen draagt.
Een taalmodel kan geen inschrijving verliezen en geen cliënten zien weglopen. Een beter model maakt minder fouten, maar heeft nog steeds niets te verliezen. Verantwoordelijk is dus altijd een mens: de advocaat die het stuk verstuurt, de kantoorhouder die het hulpmiddel koos of de functionaris gegevensbescherming die het beleid schreef.
Het AI Risk Management Framework van het Amerikaanse NIST komt op hetzelfde uit. Onder de functie Govern vraagt het organisaties om de verantwoordelijkheid voor AI-risico's aan mensen toe te wijzen.
U kunt alleen instaan voor wat u hebt gezien
Wie elke pagina van een overeenkomst parafeert, verklaart dat hij die pagina heeft gezien. U kunt dus alleen instaan voor wat u zelf hebt bekeken. Wie tekent voor een resultaat dat hij nooit heeft ingezien, zet zijn eigen naam op het spel.
Neem een verzonnen getal, dat voor geen enkel bestaand hulpmiddel geldt, ook niet voor het onze. Stel dat een systeem 99,5% van de identificerende gegevens herkent. In een dossier met 4.000 namen, BSN's, IBAN's en geboortedata blijven er dan twintig staan, en u weet niet welke. Wie zonder te kijken tekent, staat in voor juist die twintig.
Waar de AVG de plicht legt
Artikel 5 lid 2 AVG verplicht de verwerkingsverantwoordelijke aan te tonen dat hij zich aan de beginselen houdt. Een verwerkersovereenkomst onder artikel 28 bindt de verwerker aan uw instructies, maar de verantwoordingsplicht blijft bij u, ook onder de UAVG.
Het beroepsgeheim en het verschoningsrecht rusten op de advocaat, notaris of arts zelf.
De Artikel 29-werkgroep toetst anonimisering sinds 2014 aan drie vragen: is iemand eruit te lichten, zijn gegevens te koppelen en valt er iets over iemand af te leiden? De Britse ICO toetst of een gemotiveerde buitenstaander iemand kan herkennen. Beide toetsen vereisen dat iemand het resultaat heeft bekeken. Of uw eigen verwerking in orde is, kan dit stuk niet vaststellen.
Hoe promptShield die eis inbouwt
De software stelt voor, de gebruiker beslist. Bij Detecteren vinden patronen (reguliere expressies) waarden met een vaste vorm, zoals een BSN of IBAN. Een entiteitenmodel, met spaCy, BERT of GLiNER, vindt namen en adressen. Diepteanalyse staat standaard uit. De uitkomsten worden samengevoegd, ontdubbeld, over pagina's doorgetrokken en op ruis gefilterd.
Geen techniek herkent elk gegeven, dus het resultaat is een reeks voorstellen. U bevestigt, past aan of verwijdert elk gemarkeerd gebied en voegt toe wat de software miste. Pas daarna ontstaat een gezwartlakt of gecodeerd bestand. Drukt u eerder op downloaden, dan brengt een venster u standaard naar Beoordelen.
Zwartlakken verwijdert de tekst zelf, ook uit metadata en formuliervelden. Coderen vervangt een waarde door een code van ongeveer dezelfde lengte, met minimaal zes tekens. Een voorbeeld van de vorm: [P0ABCD]. Codes gelden per map, en een gecodeerd stuk is gepseudonimiseerd. Meer leest u in ons stuk over omkeerbaar zwartlakken en coderen.
Het document verlaat de computer niet, tenzij u Diepteanalyse bewust door een externe dienst laat uitvoeren. ‘100% offline’ zeggen we alleen van de desktop, want de browserversie stuurt een anoniem signaal. Volledig afgesloten werken kan alleen met Pro.
Wat menselijke controle kost
Veertig pagina's doorzoeken op elk BSN en elke naam is zoekwerk, en daarbij worden mensen moe. Gemarkeerde kandidaten nalopen is beoordelingswerk: u keurt goed, corrigeert en let op wat ontbreekt. De tijdwinst blijft dus grotendeels. Vraagt een cliënt of de Autoriteit Persoonsgegevens later wie het stuk zag, dan kunt u een naam noemen.
Veelgestelde vragen
Waarom kan een machine niet verantwoordelijk zijn?
Omdat een machine geen inschrijving, praktijk of reputatie heeft die op het spel staat. Betere modellen maken minder fouten, maar kunnen er niet voor instaan.
Haalt menselijke controle de tijdwinst weg?
Grotendeels niet. De software doet het zoeken en u beoordeelt wat al gemarkeerd staat.
Wat controleert de mens precies?
Of elke markering terecht is en of de actie klopt: Zwartlakken voor wat definitief weg moet, Coderen voor wat u later met Decoderen terugzet. En of er iets ontbreekt, zoals ‘de enige vennoot met een praktijk in Zwolle’.
Is een gecodeerd document geanonimiseerd?
Nee, want codes zijn via het Coderegister terug te zetten. Het document is gepseudonimiseerd en de gegevens blijven persoonsgegevens onder de AVG.