DSGVO und KI-Prompts: Was darf rein, was nicht?

Wer in Deutschland mit ChatGPT, Claude oder Gemini arbeitet, sendet Daten an Drittstaaten — meist die USA. Was bedeutet das für die DSGVO? Welche Inhalte sind heikel, welche sind unproblematisch? Ein praktischer Leitfaden für deutsche Wissensarbeiter.

Warum ist das überhaupt ein Thema?

Wenn Du in ChatGPT „Schreibe eine Antwort auf folgende Mail von Herrn Müller: …" tippst, sendest Du den Namen einer realen Person an OpenAI. OpenAI verarbeitet diese Daten in den USA — einem Drittland im Sinne der DSGVO. Damit fallen mehrere Pflichten an:

• Rechtsgrundlage (Art. 6 DSGVO): meistens berechtigtes Interesse oder Vertrag, manchmal Einwilligung
• Drittland-Transfer absichern (Art. 44 ff.): Standardvertragsklauseln, Transfer-Impact-Assessment
• Informationspflicht (Art. 13 DSGVO): die betroffene Person muss wissen, dass ihre Daten an die USA gehen
• Auftragsverarbeitungsvertrag (Art. 28 DSGVO): wenn der KI-Anbieter im Auftrag verarbeitet

Was zählt als personenbezogenes Datum?

Personenbezogene Daten sind nach Art. 4 DSGVO „alle Informationen, die sich auf eine identifizierte oder identifizierbare natürliche Person beziehen". Das ist weiter als die meisten denken:

Direkt identifizierend

• Vor- und Nachnamen (auch in Briefanreden)
• E-Mail-Adressen
• Telefonnummern
• Anschriften
• Steuer-ID, Sozialversicherungsnummer

Indirekt identifizierend

• Job-Titel + Firma + Stadt (oft eindeutig)
• Geburtsdatum + Wohnort
• IP-Adressen, Cookie-IDs, Geräte-IDs
• IBAN, Kontonummern

Besondere Kategorien (Art. 9, sehr heikel)

• Gesundheitsdaten (Diagnosen, Medikamente, Behandlungspläne)
• Religion, politische Meinung
• Sexuelle Orientierung
• Biometrie, Genetik

Konkrete Risikobeispiele

1. Kunden-E-Mail zur Antwort-Erstellung

„Schreibe eine professionelle Antwort an Herrn Schmidt von der Firma X zur Beschwerde über…"

Hier sendest Du Namen, Firma und Beschwerdeinhalt. Wenn die Beschwerde sensitive Inhalte hat (Gesundheit, Finanzen), wird's kritisch. Lösung: Namen durch Platzhalter ersetzen, Inhalt zusammenfassen.

2. Bewerbungsschreiben optimieren lassen

„Optimiere meinen Lebenslauf: …" mit Geburtsdatum, Telefon, Adresse

Selbst-Daten sind weniger heikel (Du bist freiwillig dort), aber wenn der CV andere Personen erwähnt (frühere Kollegen, Vorgesetzte), wird's wieder kritisch.

3. Code-Review mit echten API-Keys

„Review this Python script: api_key = 'sk-proj-…'"

Klassiker. API-Keys, JWT-Tokens, Connection-Strings — die landen in den OpenAI-Logs. Falls die irgendwo leaken, hast Du ein Problem.

4. Patientendaten / Gesundheitsdaten

Klinik- und Praxis-Mitarbeiter: Patientennamen, Diagnosen, Krankenakten gehören NIEMALS ungeschwärzt in einen KI-Prompt. Hier reden wir über Art. 9 — besondere Kategorien, fast immer einwilligungspflichtig.

Praktische Lösungen

Stufe 1: Manuelle Schwärzung

„Herr Schmidt" → „[KUNDE]". Funktioniert, ist aber fehleranfällig — Du übersiehst leicht die zweite Erwähnung im Text.

Stufe 2: Lokales PII-Detection-Tool (z. B. PromptPolish)

Tools wie PromptPolish prüfen den Prompt direkt im Browser, bevor er rausgeht. Erkennen Namen, E-Mails, IBANs, API-Keys. Warnen Dich oder anonymisieren automatisch. Vorteil: keine Cloud-Roundtrips, keine zusätzlichen Datenflüsse.

Stufe 3: Reversible Anonymisierung (Privacy Shield)

Erweiterte Tools ersetzen Namen durch Platzhalter (`Herr Schmidt` → `Person_1`), schicken den anonymisierten Prompt an die KI, und re-personalisieren die Antwort lokal zurück. So bekommst Du ein perfekt geschriebenes Antwortschreiben mit den echten Namen, ohne dass die KI sie je gesehen hat.

Stufe 4: Self-hosted Modelle

Wer DSGVO-Compliance maximal will: Open-Source-LLMs (Llama, Mistral, DeepSeek-Distill) auf eigener Infrastruktur. Aufwand hoch, aber kein Drittlandtransfer.

Was tun bei Versehen?

Wenn Du gemerkt hast, dass Daten rausgegangen sind:

1. OpenAI/Anthropic/Google: Datenlöschung über Privacy-Request-Formular anfordern (greift typisch innerhalb 30 Tagen)
2. Falls Du im Unternehmen arbeitest: Datenschutzbeauftragten informieren — bei größeren Vorfällen Meldepflicht nach Art. 33 DSGVO innerhalb 72 Stunden
3. Bei besonders sensiblen Daten: betroffene Personen informieren (Art. 34)
4. Internes Verfahren dokumentieren — für die nächste Audit-Prüfung

FAQ — schnelle Antworten

Darf ich generell ChatGPT im Job nutzen?

Ja, wenn Dein Arbeitgeber das in einer KI-Richtlinie geregelt hat und keine personenbezogenen oder vertraulichen Geschäftsdaten reingehen. Im Zweifel: Datenschutzbeauftragte fragen.

Sind anonymisierte Daten DSGVO-frei?

Wirklich anonymisierte Daten (nicht re-identifizierbar) ja. Pseudonymisierte (mit Schlüssel zurückführbar) nein — gelten weiter als personenbezogen.

Hilft die Schweizer Cloud / EU-Server?

Bei OpenAI: Enterprise-Tier hat EU-Datenresidenz. Bei Claude und Gemini: ähnliche Optionen für Business-Tarife. Free- und Plus-Versionen bieten meist keine Garantien — daher das Drittland-Problem.

Was ist mit Trainings-Daten?

Wichtig: bei den Verbraucher-Tieren (ChatGPT Free/Plus, Claude Free) werden Eingaben standardmäßig zum Modell-Training verwendet. Bei API-Tier und Enterprise-Tier ist das deaktiviert. Privacy-Settings prüfen!

Hinweis: Diese Seite ist keine Rechtsberatung. Für konkrete Fälle Datenschutzbeauftragte oder Anwält:innen konsultieren. Stand: 2026-05-10.