Ist es sicher, Dokumente in ChatGPT einzufügen?

Kurze Antwort: manchmal. Und in welchem Fall Sie sich befinden, liegt fast vollständig in Ihrer Hand.

Es ist eine der meistgesuchten Fragen rund um KI-Werkzeuge, und sie verdient eine echte Antwort statt eines Achselzuckens oder einer Schreckmeldung. Die ehrliche Fassung lautet, dass „sicher“ keine Eigenschaft von ChatGPT ist – es ist eine Eigenschaft dessen, was Sie einfügen, in welches Konto Sie es einfügen und welchen Pflichten Sie dabei unterliegen. Stimmen diese drei, ist das Risiko vernachlässigbar. Stimmen sie nicht, können Sie mit einem einzigen Tastendruck einen Vertrag, eine Verordnung und eine berufliche Pflicht zugleich verletzen.

So erkennen Sie, in welcher Situation Sie sich tatsächlich befinden.

Was „sicher“ hier überhaupt bedeutet

Mit der Frage meinen die Leute meist eines von zwei verschiedenen Dingen, und sie zu vermischen ist der Anfang der Verwirrung:

• „Werden die Inhalte durchsickern oder missbraucht?“ — eine Frage zur Sicherheit und Datenhandhabung des Anbieters.
• „Darf ich das überhaupt?“ — eine Frage zu Ihren Verträgen, Ihrer Aufsichtsbehörde und Ihren beruflichen Pflichten.

Das Erste liegt größtenteils außerhalb Ihrer Hand. Das Zweite liegt ganz in ihr – und es ist das, was die Leute in Schwierigkeiten bringt. Ein vollkommen sicherer KI-Anbieter macht es nicht rechtmäßig, die personenbezogenen Daten eines Mandanten ohne eine Grundlage dafür dorthin zu senden.

Die drei Dinge, die es entscheiden

1. Was tatsächlich im Dokument steht

Das ist die wichtigste Variable und die, die man unter Termindruck am leichtesten übergeht. Ein Blogentwurf, eine öffentliche Einreichung, Ihre eigenen Besprechungsnotizen ohne Namen darin – fügen Sie ruhig ein. Ein unterzeichneter Vertrag, eine Krankenakte, ein Lebenslauf, ein Kontoauszug, eine Kundenliste – das sind personenbezogene Daten über echte Menschen, die nicht zugestimmt haben, dass sie an eine dritte Partei gesendet werden.

Die Falle ist, dass Dokumente selten ankündigen, welcher Art sie sind. Eine „langweilige“ Tabelle hat Namen und Gehälter in Spalte C. Eine Vorlage, die Sie wiederverwenden, trägt in der Fußzeile noch die Adresse des letzten Kunden. Die sichere Gewohnheit besteht darin, von einem echten Dokument anzunehmen, dass es Identifikatoren enthält, bis Sie bestätigt haben, dass es das nicht tut.

2. In welches Konto Sie einfügen

Die Datenhandhabung unterscheidet sich deutlich nach Stufe, und die meisten Leute wissen nicht, auf welcher sie sind:

• Kostenlose und persönliche Konten erlauben dem Anbieter in der Regel, Ihre Konversationen zur Verbesserung seiner Modelle zu nutzen. Ihr eingefügtes Dokument wird zu trainingsfähigem Material.
• Team-/Enterprise-/API-Konten kommen typischerweise mit der Zusage, nicht mit Ihren Daten zu trainieren, und mit strengeren Handhabungsbedingungen – aber das „typischerweise“ leistet echte Arbeit in diesem Satz. Sie müssen tatsächlich auf dieser Stufe sein, mit diesen Einstellungen, damit es gilt.
• So oder so verlassen die Daten dennoch Ihr Gerät und werden auf den Servern eines anderen verarbeitet, oft über Grenzen hinweg. „Nicht zum Training verwendet“ ist nicht dasselbe wie „hat Ihre Kontrolle nie verlassen“.

Und Richtlinien ändern sich. Die Stufe, deren Sie sich heute sicher sind, ist die Stufe, wie sie beschrieben war, als Sie die Bedingungen zuletzt gelesen haben.

3. Wozu Sie verpflichtet sind

Wenn das Dokument personenbezogene Daten anderer Menschen enthält, schränken das Gesetz und Ihre Verträge Sie möglicherweise bereits ein, ganz gleich, wie sicher das Werkzeug ist. Nach der DSGVO sind Sie der Verantwortliche; personenbezogene Daten an einen KI-Anbieter zu senden, macht ihn zum Auftragsverarbeiter, was eine Rechtsgrundlage und meist einen Auftragsverarbeitungsvertrag erfordert. Die meisten Geheimhaltungsvereinbarungen verbieten die Weitergabe von Mandantendaten an „Dritte“ – und ein KI-Anbieter ist ein Dritter. Anwälte, Ärzte, Steuerberater und HR-Mitarbeiter tragen Verschwiegenheitspflichten, die völlig außerhalb der Datenschutzrichtlinie eines Anbieters bestehen.

Wir sind tief darauf eingegangen, was genau auf dem Spiel steht, in dem, was Wissensarbeiter tatsächlich riskieren, wenn sie Mandantendokumente in einen Chatbot einfügen.

Was mit dem eingefügten Text tatsächlich geschieht

Es hilft, konkret zu werden. Wenn Sie ein Dokument in einen Web-Chatbot einfügen, reist der Text über das Internet zur Cloud des Anbieters, wird zumindest vorübergehend gespeichert, vom Modell verarbeitet und – je nach Ihrer Stufe – möglicherweise aufbewahrt, zur Qualitätsprüfung durch Menschen stichprobenartig herangezogen oder zum Training künftiger Modelle verwendet. Selbst dort, wo das Training aus ist, hat der Inhalt Ihr Gerät dennoch verlassen und ist in Systeme eingetreten, die Sie nicht kontrollieren und nicht prüfen können.

Um genau diese Lücke geht es bei der Frage wirklich. Es geht nicht darum, ob OpenAI vertrauenswürdig ist – es geht darum, ob „hat Ihr Gerät überhaupt verlassen“ für diesen bestimmten Inhalt unter Ihren bestimmten Pflichten akzeptabel ist.

Wann es wahrscheinlich in Ordnung ist

• Der Inhalt ist bereits öffentlich oder gehört allein Ihnen, ohne identifizierbare Dritte darin.
• Sie haben Namen, Adressen, Kontonummern, Kennungen und andere Identifikatoren entfernt oder nie aufgenommen.
• Sie sind auf einer Stufe ohne Training und der Inhalt trägt keine vertragliche oder regulatorische Verschwiegenheitspflicht.

Wann es das nicht ist

• Das Dokument identifiziert echte Menschen, die nicht zugestimmt haben – Mandanten, Patienten, Mitarbeiter, Bewerber.
• Es ist durch eine Geheimhaltungsvereinbarung, eine Vertraulichkeitsklausel oder eine berufliche Pflicht abgedeckt.
• Sie sind sich nicht sicher, auf welcher Kontostufe Sie sind oder was deren aktuelle Bedingungen sagen.
• Es wäre Ihnen unangenehm, das Hochladen der Person zu erklären, um deren Daten es geht. Dieser Instinkt hat meist recht.

Eine 10-Sekunden-Prüfung, bevor Sie einfügen

1. Wessen Daten sind das? Wenn die Antwort jemanden einschließt, der nicht Sie sind, machen Sie langsamer.
2. Sind Identifikatoren darin? Namen, Adressen, Nummern, Geburtsdaten, Kennungen.
3. Darf ich das teilen? Prüfen Sie die Geheimhaltungsvereinbarung / Ihre Aufsichtsbehörde, nicht die Richtlinie des Anbieters.
4. Braucht die KI die Identitäten überhaupt, um mir zu helfen? Fast immer: nein.

Dieser letzte Punkt ist der Schlüssel, der alles Übrige aufschließt.

Der Schritt, der die Frage gegenstandslos macht

Das Modell muss nicht wissen, dass die Gegenpartei „Acme GmbH, Friedrichstraße 123, Berlin“ ist, um die Struktur eines Vertrags zu analysieren, einen Bericht zusammenzufassen oder eine Antwort zu entwerfen. Es braucht die Logik, die Sprache, die Form der Sache – nicht die Identitäten. Also entfernen Sie sie, bevor der Text überhaupt Ihr Gerät verlässt.

Anonymisieren Sie das Dokument, indem Sie Namen durch [PERSON_1], Adressen durch [ADDRESS_1], Kontonummern durch [IBAN_1] ersetzen, und fügen Sie dann die anonymisierte Version ein. Die Analyse kommt genauso scharf zurück, und Sie ordnen die Token danach wieder den Originalen zu. Jetzt stellen sich die unangenehmen Fragen – auf welcher Stufe bin ich, deckt meine Geheimhaltungsvereinbarung das ab, wie sieht die Aufbewahrungsrichtlinie des Anbieters aus – schlicht nicht mehr, weil von vornherein keine personenbezogenen Daten Ihr Gerät verlassen haben.

Das ist der Wandel, über den wir in warum der Schutz personenbezogener Daten völlig anders aussieht, sobald KI im Spiel ist geschrieben haben: Sie hören auf, die Datenbank kontrollieren zu wollen, und fangen an, das zu kontrollieren, was die Grenze zur Cloud überschreitet.

Also: Ist es sicher, Dokumente in ChatGPT einzufügen? Wenn Sie sie zuvor anonymisiert haben, ja – wirklich. Wenn nicht, fragen Sie nicht wirklich, ob es sicher ist. Sie fragen, ob Sie erwischt werden.