Das Aufkommen wirklich leistungsfähiger KI zwingt uns, einige Wörter neu zu prüfen, die wir für geklärt hielten. „Verantwortung“ ist jenes, das immer wieder auftaucht — denn eine Maschine kann nun sehr viel tun, und doch für nichts davon je einstehen.
Hier eine Definition, die es wert ist, behalten zu werden: Für etwas verantwortlich zu sein heißt letztlich, einzuwilligen, den Preis zu zahlen, wenn es schiefgeht. Nicht, den Ruhm einzustreichen, wenn es gelingt — das tut jeder — sondern den Folgen ausgesetzt zu bleiben, wenn es das nicht tut. Eine Chirurgin, ein Wirtschaftsprüfer, eine Ingenieurin, die eine Statikzeichnung unterschreibt: Jede und jeder trägt etwas, das verloren gehen kann — eine Zulassung, einen Ruf, eine Existenzgrundlage —, wenn das Urteil versagt.
Warum eine Maschine niemals verantwortlich sein kann
Nach dieser Definition kann eine Maschine für nichts verantwortlich sein und wird es nie. Nicht, weil sie unfähig wäre — sie mag fähiger sein als die Person, die sie prüft — sondern weil sie keinen Einsatz zu verlieren hat. Sie können sie nicht mit einem Bußgeld belegen, nicht verklagen, ihr nicht die Zulassung entziehen, sie nicht vor einem Mandanten beschämen. Sie hat nichts zu verlieren, und genau das ist es, was „verantwortlich zu sein“ voraussetzt.
Das ist keine vorübergehende Lücke, die bessere Modelle schließen werden. Es ist strukturell. Rechenschaft braucht einen Träger, der die Kosten des Irrtums tragen kann. Ein Modell hat diese Fähigkeit nicht. Die Frage lautet daher nie „Ist die KI für diese Ausgabe verantwortlich?“ — sie kann es nicht sein — sondern „Wer ist es?“
Und die Antwort ist jedes Mal: ein Mensch.
Aus „Bericht von XYZ“ wird „Bericht erstellt und geprüft von XYZ“
Das hat eine sehr konkrete Folge — bis hinunter zur Formulierung auf dem Bericht. Wo das Dokument früher die Zeile „Bericht von XYZ“ trug, steht nun „Bericht erstellt und geprüft von XYZ“.
Die Änderung ist nicht kosmetisch. Wenn promptShield eine Analyse mit KI-Unterstützung erstellt, hat XYZ sie nicht von Hand geschrieben. Ein bloßes „Bericht von“ würde verfälschen, was tatsächlich geschah. Es aber „der KI“ zuzuschreiben wäre schlimmer — es richtete das Verdienst, und damit die Rechenschaft, auf etwas, das weder das eine noch das andere tragen kann.
Beide Verben gehören XYZ. Die KI erzeugte die Rohausgabe; der Mensch hat sie erstellt — das Modell zur richtigen Antwort gelenkt, das Layout geprüft, das Ganze zu etwas Versandfertigem geformt — und sie dann geprüft. Die Maschine hat nichts erstellt; ein Mensch tat es und stand dann hinter dem Ergebnis. Das ist das Eine, was die Maschine nicht kann — einen Namen daruntersetzen. Die Zeile ist daher keine Marketingfloskel; sie ist eine genaue Beschreibung dessen, wo die Verantwortung liegt.
Man kann für nichts blind einstehen
Hier wird aus der Philosophie eine Konstruktionsanforderung.
Für etwas einzustehen heißt, ihm die eigene Glaubwürdigkeit zu leihen — zu sagen „Ich stehe dahinter“. Doch leihen kann man nur eine Glaubwürdigkeit, die man sich das Recht erworben hat zu verleihen. Stehen Sie für eine Ausgabe ein, die Sie nie angesehen haben, sind Sie nicht verantwortlich; Sie verspielen Ihren Namen in der Hoffnung, die Maschine habe recht gehabt. In dem Moment, in dem das nicht der Fall ist, stellen Sie fest, dass Sie von Anfang an gar nicht die Stellung hatten, dafür einzustehen.
Einstehen verlangt daher ein Mindestmaß: Sie müssen zumindest stichprobenartig prüfen. Nicht zwingend jede Zeile neu herleiten — das machte den Sinn zunichte, überhaupt KI zu nutzen — aber so viel verifizieren, dass Sie wirklich hinter dem Ergebnis stehen. Eine Prüferin, die ungesehen unterschreibt, hat „geprüft von“ wieder zu einer Lüge gemacht.
Genau diese eine Anforderung — Einstehen verlangt mindestens einen Blick — ist es, die einen Menschen in die Schleife zwingt. Kein Häkchen, keine Haftungsklausel im EULA, sondern eine echte Person, die genug von der Ausgabe liest, um es ernst zu meinen, wenn sie ihren Namen daruntersetzt.
Zwei Wege, dieselbe Funktion zu bauen
Kriterium Vollautomatisch Mensch in der SchleifeWarum das in der Anonymisierung am meisten zählt
Anonymisierung ist genau die Art von Aufgabe, bei der eine selbstsichere, unbeaufsichtigte Maschine am gefährlichsten ist — weil ihre Fehler lautlos sind. Wenn die Erkennung einen Namen übersieht, bricht nichts, erscheint kein Fehler, ertönt kein Alarm. Das Dokument verlässt einfach das Haus mit einer realen Identität darin, und Sie erfahren es erst, wenn es bereits dort ist, von wo Sie es nicht zurückrufen können.
Ein vollautomatischer Anonymisierer verlangt von Ihnen, in der Masse und ungesehen darauf zu vertrauen, dass er alles erwischt hat. Aber „er hat wahrscheinlich alles erwischt“ ist keine Position, für die man verantwortlich einstehen kann — und ein einziges Versehen ist das ganze Versagen. Die Asymmetrie ist brutal: Neunundneunzig korrekte Schwärzungen wiegen den einen Namen nicht auf, der durchrutschte.
Genau deshalb sind wir bei promptShield überzeugt, dass verantwortungsvolle Anonymisierung ein halbautomatischer Vorgang sein muss — nicht, weil die Automatisierung schwach wäre, sondern weil die Verantwortung sich nicht wegautomatisieren lässt.
Wie promptShield den Menschen in der Schleife hält
Die Automatisierung erledigt die Schwerarbeit. Eine dreischichtige Pipeline — reguläre Ausdrücke, Erkennung benannter Entitäten und ein optionales lokales Modell — läuft vollständig auf Ihrem Rechner, schlägt jede gefundene Erkennung vor, verknüpft wiederkehrende Entitäten über Seiten hinweg und filtert offensichtliches Rauschen. Bei einem langen Dokument ist das der Unterschied zwischen Minuten und Stunden.
Doch sie schlägt vor; sie entscheidet nicht. Jede Erkennung wird Ihnen als prüfbarer Bereich gezeigt, den Sie bestätigen, anpassen, hinzufügen oder entfernen können. Sie sehen, was geschwärzt werden soll, bevor irgendetwas festgeschrieben wird. Das tokenisierte Ergebnis ([PERSON_1], [ADDRESS_2], [IBAN_1]) entsteht erst, nachdem ein Mensch hingesehen hat. Die Maschine hat die Schwärzung vorgeschlagen; Sie haben sie erstellt und geprüft; und nun, wenn das Dokument das Haus verlässt, verlässt es es unter einem Namen, der wirklich dafür einstehen kann.
Das ist die gesamte Gestaltungsphilosophie in einem Satz: Lassen Sie die Maschine alles tun, worin sie gut ist, und behalten Sie dem Menschen das Eine vor, das nur ein Mensch tun kann — für das Ergebnis verantwortlich zu sein.
