Für eine maschinell geschwärzte Akte haftet immer ein Mensch, nie die Maschine. Ein Modell hat weder Vermögen noch Zulassung noch Ruf, die es verlieren könnte. Wer unterschreibt, steht für das Ergebnis ein und sollte es deshalb geprüft haben.
Warum ein Modell nicht haften kann
Verantwortlich ist im Recht, wer die Folgen trägt: wer die Geldbuße zahlt, die Zulassung riskiert oder dem Mandanten für den Schaden einsteht. Ein Modell hat nichts davon. Ein Fehler kostet es nichts, und auch ein besseres Modell ändert daran nichts.
Das NIST AI Risk Management Framework, ein freiwilliger Rahmen aus den USA, zieht daraus eine praktische Folgerung. In seiner Funktion „Govern“ verlangt es, Rollen und Zuständigkeiten für KI-Systeme festzulegen, zu dokumentieren und namentlich Menschen zuzuweisen. Zu klären ist also nur, wer verantwortlich ist, und die Antwort ist immer ein bestimmter Mensch.
Wofür Ihre Unterschrift einsteht
Für eine Bürgschaft verlangt § 766 BGB die Schriftform. Der Bürge soll merken, dass er mit dem eigenen Vermögen haftet. Für Ihre Unterschrift unter einer geschwärzten Akte gilt der Gedanke ebenso, nur ohne Formvorschrift. Einstehen können Sie nur für das, was Sie selbst angesehen haben.
Ein erfundenes Beispiel, das kein Produkt beschreibt, auch nicht unseres: Ein Werkzeug fände 99,5 % aller personenbezogenen Angaben. Bei 2.000 Angaben in einer Akte blieben zehn stehen. Ob das Ortsnamen aus dem Briefkopf sind oder der Vorname eines Kindes im Sorgerechtsverfahren, verrät die Quote nicht. Über das eine Dokument, das Sie unterschreiben, sagt sie nichts.
Was beim Verantwortlichen bleibt
Nach Art. 24 DSGVO trifft der Verantwortliche die technischen und organisatorischen Maßnahmen. Ein Auftragsverarbeitungsvertrag bindet den Dienstleister an Weisungen, lässt die Verantwortlichkeit des Auftraggebers aber unberührt. Fragt eine Aufsichtsbehörde nach, meist eine Landesdatenschutzbehörde oder bei Bundesstellen der BfDI, wendet sie sich an denjenigen, der über Zweck und Mittel entschieden hat.
Für Kanzleien, Arztpraxen und Steuerberater gilt zudem § 203 StGB. Wer ein anvertrautes Geheimnis unbefugt offenbart, macht sich persönlich strafbar, und das nimmt ihm kein Werkzeug ab.
Auch ob eine Anonymisierung gelingt, hängt vom Kontext ab. Die Artikel-29-Datenschutzgruppe fragt in ihrer Stellungnahme 05/2014, ob sich eine Person herausgreifen, durch verknüpfte Daten oder durch Schlussfolgerung identifizieren lässt. Die britische Behörde ICO beschreibt Identifizierbarkeit als Spektrum, das vom Empfänger und seinem Zusatzwissen abhängt. Nur wer den Kontext kennt, weiß, dass „die Inhaberin der Bäckerei am Marktplatz“ in einer Kleinstadt so eindeutig ist wie ein Name.
Software zum Anonymisieren nimmt Ihnen diese Last nicht ab. Sie kann die Prüfung aber so beschleunigen, dass niemand sie überspringen will.
Die Maschine schlägt vor, Sie entscheiden
Zuerst greifen präzise Muster, also reguläre Ausdrücke für Werte mit fester Form wie IBAN oder Steuer-Identifikationsnummer. Danach sucht ein lokales Modell nach Namen, Firmen und Anschriften. Eine Tiefenanalyse durch ein Sprachmodell lässt sich zuschalten und ist ab Werk aus. Die Ergebnisse werden zusammengeführt, auf alle Seiten übertragen und von Fehltreffern bereinigt.
Das Ergebnis ist ein Vorschlag. Jeder Fund erscheint als Bereich, den Sie bestätigen, anpassen oder löschen, und was fehlt, zeichnen Sie selbst ein. Für Projektnamen oder interne Aktenzeichen gibt es die Funktion „Ausdrücke“. Die Ausgabedatei entsteht erst, wenn ein Mensch hingesehen hat.
Eine Datei mit geschützten Bereichen lässt sich standardmäßig erst herunterladen, wenn diese im Überprüfen-Dialog bestätigt sind. Wer vorher klickt, erfährt, was fehlt, und wechselt direkt in den Dialog. Mit der Bestätigung gehen die Codes ins Code-Register, Prüfen und Festschreiben sind ein Schritt.
Worauf sich Ihre Bestätigung erstreckt
Entfernen löscht den Inhalt aus der Datei, statt einen Balken über kopierbaren Text zu legen. Kodieren ersetzt den Wert durch einen Code wie [P0ABCD], den das Code-Register auf Ihrem Rechner später auflöst. Seine Länge richtet sich nach dem ersetzten Text, und jedes Füllzeichen hat etwa die Breite des Originalzeichens.
Innerhalb eines Ordners erhält derselbe Wert denselben Code, zwei Ordner vergeben verschiedene. Ordnerübergreifend gilt nur ein Code, den Sie von Hand festlegen. Beim Export werden auch Metadaten, Ersatztexte und Formularfelder bereinigt. Mehr dazu in unserem Beitrag zum Kodieren und Dekodieren.
„100 % offline“ gilt nur für die Desktop-Anwendung. Die kostenlose Browserversion sendet beim Start ein anonymes Signal, das Dokument bleibt aber auch dort auf dem Gerät.
Häufige Fragen
Warum kann eine Maschine nicht für ihre Ergebnisse haften?
Haftung setzt voraus, dass jemand einen Verlust tragen kann. Ob ein Hersteller für sein Produkt einsteht, regelt sein Vertrag. Ihre Pflichten aus der DSGVO und aus § 203 StGB gehen dadurch nicht auf ihn über.
Hebt die menschliche Kontrolle den Zeitgewinn auf?
Kaum, wenn die Software dafür gebaut ist. Wer selbst sucht, liest den ganzen Text; wer Vorschläge prüft, kontrolliert markierte Bereiche und ergänzt, was fehlt. Die Prüfung kostet Minuten, ohne sie riskieren Sie für den Zeitgewinn Ihren Ruf.
Was prüft der Mensch konkret?
Ob jeder Bereich einen schützenswerten Wert vollständig abdeckt und ob indirekte Merkmale wie Beruf, Ort oder Datum fehlen. Ob für jeden Wert Entfernen oder Kodieren passt. Und ob der vorgesehene Empfänger mit seinem Wissen noch auf eine Person schließen kann.
Dieser Text erläutert, woher die rechtliche Verantwortung kommt, und ersetzt keine Beratung im Einzelfall.