Was sagt die DSGVO zu Eingaben in ChatGPT?
Die DSGVO kennt kein eigenes Kapitel für KI. Sie gilt aber für jede Verarbeitung personenbezogener Daten, also auch für jeden Prompt, in dem ein Kunde, eine Bewerberin oder ein Mitarbeiter erkennbar ist. Die Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder (Datenschutzkonferenz) hat dazu am 6. Mai 2024 die Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ veröffentlicht. Sie richtet sich an Unternehmen, die KI-Anwendungen auswählen und einsetzen, und legt den Schwerpunkt auf große Sprachmodelle wie ChatGPT.
Die Kernlinie: Wo und wie irgend möglich soll auf die Verarbeitung personenbezogener Daten verzichtet werden. Wenn doch personenbezogene Daten verarbeitet werden, braucht jede Verarbeitung eine Rechtsgrundlage und einen festgelegten Zweck. Bei Cloud-Diensten ist typischerweise ein Vertrag zur Auftragsverarbeitung nach Art. 28 DSGVO nötig. Vor dem Einsatz ist zu prüfen, ob eine Datenschutz-Folgenabschätzung erforderlich ist. Und eine Entscheidung mit rechtlicher Wirkung für Menschen muss am Ende ein Mensch treffen, der wirklich entscheiden kann und nicht nur abnickt. Wie diese Punkte in eine KI-Richtlinie für das Unternehmen übersetzt werden, steht auf unserer Leitseite.
Was zählt als personenbezogen, auch ohne Namen?
Hier liegt ein verbreiteter Denkfehler. Den Namen zu löschen reicht oft nicht. Der Hamburgische Beauftragte für Datenschutz und Informationsfreiheit warnt in seiner Checkliste für LLM-Chatbots ausdrücklich: Auch ohne Namen kann der Kontext eines Prompts eine Person erkennbar machen. „Unser Vertriebsleiter in Bielefeld, der im März ausgefallen ist“ ist in einem Unternehmen mit 80 Beschäftigten eindeutig.
Dasselbe gilt für die Ausgabe. Die Hamburger Checkliste rät, Prompts nicht auf einzelne Personen auszurichten, weil das Modell personenbezogene Informationen aus früheren Eingaben oder dem Internet wiedergeben kann. Die Datenschutzkonferenz stellt klar: Enthalten Ergebnisse personenbezogene Daten, gelten für sie dieselben Anforderungen wie für die Eingaben.
Macht es einen Unterschied, welches ChatGPT-Konto ich nutze?
Ja, einen erheblichen. OpenAI gibt an, Daten aus ChatGPT Business, ChatGPT Enterprise, ChatGPT Edu und der API standardmäßig nicht für das Training seiner Modelle zu nutzen, und bietet für diese Produkte einen Vertrag zur Auftragsverarbeitung (Data Processing Addendum) an. Eine Speicherung der Inhalte in Europa nennt OpenAI für berechtigte Kunden von Enterprise, Edu, Healthcare und der API, nicht für ChatGPT Business.
Bei einem privaten Konto steuert die einzelne Person in den Datenkontrollen, ob ihre Unterhaltungen für das Training genutzt werden. Die Hamburger Checkliste empfiehlt deshalb Konten des Unternehmens statt privater Anmeldungen, das Abschalten der Trainingsnutzung und das Abschalten des Verlaufs, besonders bei gemeinsam genutzten Konten. Sie weist auch darauf hin, dass manche Anbieter den Trainings-Widerspruch nur mit einem kostenpflichtigen Vertrag ermöglichen. Wie du mit privaten Konten umgehst, die schon im Einsatz sind, beschreibt der Artikel Schatten-KI: Was tun, wenn Mitarbeitende private KI-Konten nutzen? Welches Werkzeug grundsätzlich zu euch passt, zeigt der Vergleich von ChatGPT, Copilot und Claude.
Zur Übermittlung in die USA: Das Gericht der Europäischen Union hat am 3. September 2025 (T-553/23) die Klage gegen den Angemessenheitsbeschluss zum EU-US Data Privacy Framework abgewiesen. Bis zu einer etwaigen Aufhebung bleibt der Beschluss wirksam. Er erfasst nur zertifizierte Empfänger. Lass das für deinen Anbieter von deinem Datenschutzbeauftragten prüfen.
Was ist mit Geschäftsgeheimnissen?
Datenschutz ist nicht alles. Ein Geschäftsgeheimnis ist nach § 2 Nr. 1 des Geschäftsgeheimnisgesetzes nur geschützt, wenn der Inhaber angemessene Geheimhaltungsmaßnahmen getroffen hat. Wer Kalkulationen, Rezepturen oder Vertragsentwürfe ohne jede Regel in beliebige KI-Konten tippen lässt, schwächt im Streitfall seine eigene Position. Auch die Hamburger Checkliste nennt neben dem Datenschutz ausdrücklich Geschäftsgeheimnisse und Urheberrechte. Zu Letzteren lies Wem gehören KI-generierte Texte und Bilder?
Die Daten-Ampel: Was darf wohin?
Für den Alltag brauchen deine Leute keine Rechtsabhandlung, sondern eine Regel, die in einer Minute anwendbar ist. Dafür haben wir diese Daten-Ampel entwickelt:
- Grün, in jedes freigegebene Werkzeug: öffentlich zugängliche Informationen, allgemeine Fachfragen, eigene Textentwürfe ohne Personenbezug, Gliederungen, Formulierungshilfen, anonyme Beispiele, die du selbst erfunden hast.
- Gelb, nur ins geprüfte Unternehmenskonto und nur, wenn nötig: interne Informationen ohne Personenbezug, etwa Prozessbeschreibungen oder Produkttexte vor der Veröffentlichung; personenbezogene Daten nur, wenn Rechtsgrundlage, Auftragsverarbeitungsvertrag und Zweck geklärt sind und der Datenschutzbeauftragte zugestimmt hat.
- Rot, in kein allgemeines KI-Werkzeug ohne gesonderte Prüfung: Gesundheitsdaten, Personalakten, Bewerbungsunterlagen, Bankdaten, Passwörter und Zugangsdaten, Inhalte unter Berufsgeheimnis, Geschäftsgeheimnisse wie Kalkulationen oder Rezepturen, Inhalte, für die ihr eine Vertraulichkeitsvereinbarung unterschrieben habt.
Für Bewerberdaten gelten zusätzlich die Regeln aus dem Artikel KI im Recruiting: Was ist erlaubt?
Der Vier-Fragen-Test vor dem Absenden
Häng diese vier Fragen an jeden Bildschirm, an dem mit KI gearbeitet wird:
- Kann jemand aus dem Text auf eine bestimmte Person schließen, auch über Funktion, Ort, Datum oder Ereignis?
- Würde ich diesen Text auch einem externen Dienstleister ohne Vertraulichkeitsvereinbarung schicken?
- Ist dieses Werkzeug für diese Datenart freigegeben, und arbeite ich im Unternehmenskonto?
- Prüft ein Mensch das Ergebnis, bevor es eine Entscheidung über einen Menschen beeinflusst oder das Haus verlässt?
Bei Frage 1 Ja oder bei Frage 2 bis 4 Nein: nicht absenden, sondern umformulieren oder nachfragen. Wie du die Ergebnisse prüfst, beschreibt der Artikel Wie prüfe ich KI-Ergebnisse auf Fehler und Halluzinationen?
Wie formuliere ich Prompts ohne Personenbezug?
Die meisten Aufgaben lassen sich lösen, ohne dass die KI weiß, um wen es geht. Ersetze Personen durch Rollen und erfundene Platzhalter. Diese Vorlage kannst du wörtlich verwenden:
Ich brauche Hilfe bei einer Aufgabe. Alle Personen und Firmen im folgenden Text sind durch Platzhalter ersetzt: [Kunde A] ist ein mittelständischer Kunde aus der Industrie, [Ansprechperson] ist dort Einkaufsleiter. Bitte verwende ausschließlich diese Platzhalter und ergänze keine echten Namen. Aufgabe: Formuliere eine sachliche Antwort auf folgende Reklamation: [Inhalt der Reklamation ohne Namen, Adressen, Vertragsnummern und Daten, die auf eine Person schließen lassen].
Die echten Namen setzt du erst danach in deinem eigenen System ein. So bleibt die Zuordnung bei dir und nicht beim KI-Anbieter.
Wann passt dieser Rat nicht?
Die Ampel ist eine Grundregel für die Nutzung von Chat-Assistenten. Sie ersetzt keine Prüfung, wenn du KI in Prozesse einbaust, in denen regelmäßig personenbezogene Daten verarbeitet werden, etwa in der Kundenbetreuung, der Personalarbeit oder bei Gesundheitsdaten. Dann brauchst du eine eigene datenschutzrechtliche Bewertung, gegebenenfalls eine Datenschutz-Folgenabschätzung und eine technische Lösung, die genau für diesen Zweck freigegeben ist. Auch wer unter Berufsgeheimnis arbeitet, etwa in Kanzleien oder im Gesundheitswesen, sollte strengere Regeln setzen, als diese Ampel sie vorsieht.
Wie geht es weiter?
Regeln wirken erst, wenn Führungskräfte sie verstehen und vorleben. Im offenen Seminar „KI für Führungskräfte“ arbeitest du einen Tag lang an echten Aufgaben, auch an der Frage, welche Daten in welches Werkzeug gehören. Den Rahmen dafür setzt die KI-Richtlinie im Unternehmen. Wenn du deine Datenregeln einmal mit einem Gegenüber durchgehen willst, buch dir ein kostenloses Erstgespräch (15 Minuten).
Dieser Artikel ist keine Rechtsberatung. Lass Fragen zur Auslegung im Einzelfall von deiner Rechtsberatung prüfen.