A chegada de uma IA verdadeiramente capaz obrigou-nos a reexaminar algumas palavras que julgávamos assentes. «Responsabilidade» é a que não para de vir ao de cima — porque uma máquina já consegue fazer imenso e, ainda assim, nunca consegue responder por nada disso.
Eis uma definição que vale a pena guardar: ser responsável por algo é, em última análise, aceitar pagar o preço se correr mal. Não é ficar com os louros quando corre bem — isso qualquer um faz — mas permanecer exposto às consequências quando não corre. Um cirurgião, um auditor, um engenheiro que assina um projeto de estruturas: cada um deles carrega algo que pode perder — uma licença, uma reputação, um sustento — se o seu discernimento falhar.
Porque é que uma máquina nunca pode ser responsável
Segundo essa definição, uma máquina não pode ser responsável por nada, e nunca o será. Não por ser incapaz — pode ser mais capaz do que a pessoa que a revê — mas porque não tem nada em jogo a perder. Não a pode multar, processar, suspender-lhe a licença nem envergonhá-la diante de um cliente. Não tem nada a perder, que é precisamente o que «ser responsável» exige que se tenha.
Isto não é uma lacuna passageira que modelos melhores venham a colmatar. É estrutural. A prestação de contas precisa de alguém que a suporte e que consiga absorver o custo de estar errado. Um modelo não tem essa capacidade. Por isso a pergunta nunca é «a IA é responsável por este resultado?» — não pode ser — mas «quem é?»
E a resposta, sempre, é uma pessoa.
«Relatório por Oliver Vogt» passa a «Relatório preparado e revisto por Oliver Vogt»
A mudança não é cosmética. Quando Oliver Vogt produz uma análise com a ajuda da IA, não a escreveu à mão. Atribuí-la com um mero «relatório por» distorceria o que realmente aconteceu. Mas atribuí-la «à IA» seria pior — dirigiria o mérito, e com ele a prestação de contas, para algo que não pode suportar nenhum dos dois.
Ambos os verbos pertencem a Oliver Vogt. A IA gerou o material em bruto; o humano preparou-o — orientando o modelo para a resposta certa, verificando a formatação, dando-lhe uma forma digna de ser enviada — e depois reviu-o. A máquina não preparou nada; foi uma pessoa que o fez e que depois respondeu pelo resultado. É a única coisa que a máquina não consegue fazer — pôr-lhe um nome. Por isso a linha não é um floreado de marketing; é uma descrição exata de onde reside a responsabilidade.
Não se pode garantir algo às cegas
É aqui que a filosofia se transforma num requisito de conceção.
Garantir algo é emprestar-lhe a sua credibilidade — dizer «estou por trás disto». Mas só se pode emprestar uma credibilidade que se conquistou o direito de emprestar. Se garante um resultado que nunca olhou, não está a ser responsável; está a apostar o seu nome na esperança de que a máquina tenha acertado. No momento em que não acerta, descobre que, para começar, nunca teve legitimidade para o garantir.
Garantir impõe, portanto, um mínimo: tem de pelo menos fazer uma verificação por amostragem. Não necessariamente refazer cada linha — isso deitaria por terra o próprio sentido de usar a IA — mas verificar o suficiente para estar genuinamente por trás do resultado. Um revisor que assina sem olhar reduziu «revisto por» a uma mentira.
É esta única exigência — garantir obriga pelo menos a olhar — que força um humano para dentro do circuito. Não uma caixa para assinalar, nem uma cláusula de exoneração no CLUF, mas uma pessoa real que lê o suficiente do resultado para o afirmar a sério quando lhe põe o seu nome.
Porque é que isto importa mais na anonimização
A anonimização é exatamente o tipo de tarefa em que uma máquina confiante e sem supervisão é mais perigosa — porque os seus erros são silenciosos. Quando a deteção falha um nome, nada se parte, não surge qualquer erro, não soa nenhum alarme. O documento sai simplesmente do edifício com uma identidade real ainda lá dentro, e você só dá por isso quando ele já está algures de onde não o pode chamar de volta.
Um anonimizador totalmente automático pede-lhe que confie, em massa e sem olhar, que apanhou tudo. Mas «provavelmente apanhou tudo» não é uma posição pela qual se possa responder com responsabilidade — e um único descuido é a falha inteira. A assimetria é brutal: noventa e nove ocultações corretas não compensam o único nome que escapou.
É por isso que, no promptShield, acreditamos que a anonimização responsável tem de ser um processo semiautomático — não porque a automação seja fraca, mas porque a responsabilidade não se consegue automatizar.
Como o promptShield mantém o humano no circuito
A automação faz o trabalho pesado. Um pipeline de três camadas — expressões regulares, reconhecimento de entidades e um modelo local opcional — corre inteiramente na sua máquina, propõe cada deteção que encontra, liga entidades recorrentes de página para página e filtra o ruído óbvio. Num documento longo, é a diferença entre minutos e horas.
Mas propõe; não decide. Cada deteção lhe é mostrada como uma região revisível que pode confirmar, ajustar, adicionar ou remover. Vê o que está prestes a ser ocultado antes de que seja o que for fixado. O resultado tokenizado ([PERSON_1], [ADDRESS_2], [IBAN_1]) só é produzido depois de uma pessoa ter olhado. A máquina propôs a ocultação; você preparou-a e reviu-a; e agora, quando o documento sai, sai sob um nome que consegue realmente responder por ele.
É toda a filosofia de conceção numa só frase: deixe a máquina fazer tudo aquilo em que é boa, e reserve para o humano a única coisa que só um humano pode fazer — ser responsável pelo resultado.
