L'arrivée d'une IA réellement capable nous oblige à réexaminer des mots que nous prenions pour acquis. « Responsabilité » est celui qui revient sans cesse — parce qu'une machine peut désormais faire énormément de choses, sans jamais pouvoir en répondre.
Voici une définition qui mérite d'être retenue : être responsable de quelque chose, c'est, en dernier ressort, accepter d'en payer le prix si cela tourne mal. Non pas s'en attribuer le mérite quand cela réussit — tout le monde sait le faire — mais demeurer exposé aux conséquences quand cela échoue. Un chirurgien, un auditeur, un ingénieur qui signe un plan de structure : chacun porte quelque chose qui peut être perdu — un agrément, une réputation, un gagne-pain — si son jugement vient à faillir.
Pourquoi une machine ne peut jamais être responsable
Selon cette définition, une machine ne peut être responsable de rien, et ne le sera jamais. Non parce qu'elle en serait incapable — elle peut s'avérer plus capable que la personne qui la relit — mais parce qu'elle n'a rien à perdre. Vous ne pouvez ni la sanctionner d'une amende, ni la poursuivre, ni suspendre son agrément, ni la couvrir de honte devant un client. Elle n'a rien à perdre, ce qui est précisément ce que « être responsable » exige d'avoir.
Ce n'est pas une lacune passagère que de meilleurs modèles combleront. C'est structurel. La responsabilité a besoin d'un porteur capable d'absorber le coût de l'erreur. Un modèle n'a pas cette faculté. La question n'est donc jamais « l'IA est-elle responsable de cette sortie ? » — elle ne peut pas l'être — mais « qui l'est ? »
Et la réponse, à chaque fois, est une personne.
« Rapport par XYZ » devient « Rapport préparé et relu par XYZ »
Cela a une conséquence très concrète — jusque dans la formulation portée sur le rapport. Là où le document indiquait « Rapport par XYZ », il indique désormais « Rapport préparé et relu par XYZ ».
Le changement n'est pas cosmétique. Lorsque promptShield produit une analyse avec l'aide de l'IA, XYZ ne l'a pas écrite à la main. Lui attribuer un simple « rapport par » fausserait ce qui s'est réellement passé. Mais l'attribuer à « l'IA » serait pire encore : cela dirige le mérite, et avec lui la responsabilité, vers quelque chose qui ne peut porter ni l'un ni l'autre.
Les deux verbes appartiennent à XYZ. L'IA a généré la matière brute ; l'humain l'a préparée — orientant le modèle vers la bonne réponse, vérifiant la mise en forme, lui donnant une tenue digne d'être envoyée — puis l'a relue. La machine n'a rien préparé ; une personne l'a fait, puis a assumé le résultat. C'est la seule chose que la machine ne peut pas faire — y apposer un nom. Cette mention n'est donc pas une fioriture marketing ; c'est une description exacte de l'endroit où réside la responsabilité.
On ne peut se porter garant de rien les yeux fermés
C'est ici que la philosophie devient une exigence de conception.
Se porter garant de quelque chose, c'est lui prêter sa crédibilité — dire « je suis derrière ceci ». Mais on ne peut prêter qu'une crédibilité qu'on a mérité le droit de prêter. Si vous vous portez garant d'une sortie que vous n'avez jamais regardée, vous n'êtes pas responsable ; vous jouez votre nom en pariant que la machine a vu juste. Dès l'instant où ce n'est pas le cas, vous découvrez que vous n'aviez, au départ, aucune légitimité pour vous en porter garant.
Se porter garant impose donc un minimum : il faut au moins faire un sondage de vérification. Pas nécessairement refaire chaque ligne — cela viderait de son sens le recours à l'IA — mais vérifier suffisamment pour être réellement derrière le résultat. Un relecteur qui signe sans regarder a ramené « relu par » au rang de mensonge.
Cette seule exigence — se porter garant impose au moins de regarder — est ce qui force un humain dans la boucle. Pas une case à cocher, pas une clause de décharge dans le CLUF, mais une personne réelle qui lit assez de la sortie pour le penser vraiment lorsqu'elle y appose son nom.
Deux façons de construire la même fonctionnalité
Critère Entièrement automatique Humain dans la bouclePourquoi cela importe le plus dans l'anonymisation
L'anonymisation est exactement le genre de tâche où une machine sûre d'elle et sans supervision est la plus dangereuse — parce que ses erreurs sont silencieuses. Quand la détection manque un nom, rien ne casse, aucune erreur n'apparaît, aucune alarme ne sonne. Le document quitte simplement les lieux avec une identité réelle encore dedans, et vous ne l'apprenez qu'une fois qu'il se trouve déjà là où vous ne pouvez plus le rappeler.
Un anonymiseur entièrement automatique vous demande de croire, à grande échelle et sans regarder, qu'il a tout attrapé. Mais « il a probablement tout attrapé » n'est pas une position dont on peut responsablement se porter garant — et un seul oubli, c'est tout l'échec. L'asymétrie est brutale : quatre-vingt-dix-neuf caviardages corrects ne compensent pas le seul nom qui a filé.
Voilà pourquoi, chez promptShield, nous estimons que l'anonymisation responsable doit être un processus semi-automatisé — non parce que l'automatisation serait faible, mais parce que la responsabilité, elle, ne peut être automatisée.
Comment promptShield maintient l'humain dans la boucle
L'automatisation fait le gros du travail. Un pipeline à trois couches — expressions régulières, reconnaissance des entités et un modèle local optionnel — s'exécute entièrement sur votre machine, propose chaque détection trouvée, relie les entités récurrentes d'une page à l'autre et filtre le bruit évident. Sur un long document, c'est la différence entre des minutes et des heures.
Mais il propose ; il ne décide pas. Chaque détection vous est présentée comme une région relisible que vous pouvez confirmer, ajuster, ajouter ou retirer. Vous voyez ce qui est sur le point d'être caviardé avant tout enregistrement. Le résultat tokenisé ([PERSON_1], [ADDRESS_2], [IBAN_1]) n'est produit qu'une fois qu'une personne a regardé. La machine a proposé le caviardage ; vous l'avez préparé et relu ; et désormais, quand le document s'en va, il s'en va sous un nom capable de réellement l'assumer.
C'est toute la philosophie de conception en une phrase : laissez la machine faire tout ce qu'elle fait bien, et réservez à l'humain la seule chose que seul un humain peut faire — être responsable du résultat.
