Za anonimizację dokumentu odpowiada człowiek, który go podpisuje lub wysyła. Model może wskazać dane do ukrycia, ale nie poniesie kosztu błędu. Dlatego o tym, co zostanie zakodowane lub zaczernione, decyduje osoba, która wcześniej obejrzała wynik.
Co znaczy odpowiadać
Odpowiadać za wynik znaczy ponieść koszt, jeśli okaże się błędny. Adwokat naraża się na postępowanie dyscyplinarne, radca prawny odpowiada przed samorządem, a księgowy przed klientem i urzędem skarbowym. Każdy z nich może stracić uprawnienia, dochód albo dobre imię.
Model językowy nie ma niczego takiego. Nie straci uprawnień ani klientów i nie stanie przed sądem dyscyplinarnym. Tej różnicy nie usunie lepszy model, bo wynika ona z tego, czym model jest.
Właściwe pytanie nie dotyczy więc tego, czy AI odpowiada za wynik, lecz tego, który człowiek za niego odpowiada. Odpowiedź zawsze wskazuje osobę, a z tego wynika wymóg wobec narzędzia: musi ono pozwolić tej osobie sprawdzić wynik.
Podpis pod niesprawdzonym wynikiem
Ręczyć można tylko za to, co się sprawdziło. Kto podpisuje dokument przygotowany przez model, a nie przejrzał go, w praktyce nie bierze za niego odpowiedzialności. Ryzykuje własnym nazwiskiem, nie wiedząc, co podpisuje.
Przy anonimizacji widać to w liczbach. Załóżmy, że narzędzie znajduje 99,5% nazwisk. To liczba przyjęta wyłącznie na potrzeby przykładu, niezwiązana ze skutecznością naszego wykrywania. W dokumencie z czterystoma nazwiskami zostają wtedy dwa, a jedno wystarczy, by rozpoznać klienta.
Odpowiedzialność za takie pominięcie nie przechodzi na dostawcę oprogramowania. W RODO obowiązki ciążą na administratorze danych. Opinia 05/2014 Grupy Roboczej Art. 29 i wytyczne brytyjskiego ICO opisują anonimizację jako ocenę, którą ktoś przeprowadza i za którą odpowiada.
Ramy zarządzania ryzykiem AI amerykańskiego instytutu NIST (AI RMF) zalecają, aby za ryzyko systemów AI odpowiadały wskazane osoby i zespoły. To dokument amerykański i dobrowolny, ale wskazuje ten sam kierunek.
Maszyna proponuje, człowiek decyduje
Z tej zasady wynika konstrukcja promptShield. Każdy wykryty fragment pojawia się na stronie jako obszar. Użytkownik może go zatwierdzić, poprawić jego granice, dodać brakujący obszar albo usunąć zbędny.
Wykrywanie łączy kilka metod. Wzorce znajdują wartości o stałym formacie, takie jak PESEL, NIP czy IBAN, i sprawdzają ich sumy kontrolne. Modele wykrywania znajdują nazwiska, nazwy firm i adresy. Opcjonalna analiza modelem językowym jest domyślnie wyłączona.
Wyniki są łączone i oczyszczane z powtórzeń. Nazwisko znalezione na pierwszej stronie zostaje oznaczone także na czwartej. Mimo to żadna z tych metod nie znajduje wszystkiego.
Dlatego nic nie trafia do pliku, zanim człowiek obejrzy wynik. Domyślnie pliku z chronionymi obszarami nie można pobrać, dopóki obszary nie zostaną zatwierdzone. Próba pobrania otwiera okno, które wyjaśnia przyczynę i prowadzi do przeglądu. Samo zatwierdzenie zapisuje kody w Rejestrze kodów.
Tę blokadę można jednak wyłączyć w Ustawieniach, dlatego zasadę przeglądu warto zapisać także w wewnętrznych procedurach firmy.
Co zatwierdza człowiek
Zatwierdzenie decyduje o tym, co trafi do pliku. Zaczernianie usuwa tekst z pliku, zamiast zakrywać go prostokątem. Kodowanie zastępuje wartość kodem odwracalnym, którego długość odpowiada długości oryginału.
Zmieniane są także ukryte części pliku PDF, takie jak metadane i pola formularzy. Wartość zakodowana dostaje tam swój kod, a wartość zaczerniona neutralny znacznik. Miniatury stron utworzone przed zaczernieniem są usuwane.
Kody są przypisane do folderu: ta sama wartość ma ten sam kod w obrębie jednego folderu. Szczegóły opisujemy w artykule o tym, jak działają kody odwracalne. Dokument nie opuszcza komputera, także w bezpłatnej aplikacji w przeglądarce.
Najczęstsze pytania
Czy AI może odpowiadać za anonimizację dokumentu?
Nie, bo odpowiedzialność oznacza gotowość poniesienia kosztu błędu, a model nie ma niczego, co mógłby stracić. Za wynik odpowiada osoba lub organizacja, która z niego korzysta.
Czy można pobrać plik bez przeglądu?
Domyślnie nie: plik z chronionymi obszarami czeka na zatwierdzenie. Blokadę można wyłączyć w Ustawieniach, ale wtedy przegląd zależy wyłącznie od dyscypliny użytkownika.
Czy bardzo dokładne wykrywanie wystarczy bez sprawdzania?
Nie, bo żadne narzędzie nie znajduje wszystkich danych. Nawet wysoka skuteczność zostawia w długim dokumencie pojedyncze pominięcia, a każde z nich może ujawnić osobę.
Kto odpowiada, gdy narzędzie pominie nazwisko?
Zwykle ten, kto dokument podpisał lub wysłał. Narzędzie nie przejmuje tej odpowiedzialności, dlatego przegląd jest nieodłączną częścią pracy.