ChatGPT im Unternehmen datenschutzkonform nutzen

Beim Thema ChatGPT Datenschutz geht es um drei Fragen: Was passiert mit den Eingaben beim Anbieter, welcher Vertrag regelt das, und welche Daten dürfen überhaupt hinein? Mit privaten Gratis-Konten lassen sich diese Fragen im Betrieb kaum sauber beantworten. Mit einem Geschäftskonto, einem Vertrag zur Auftragsverarbeitung, klaren Regeln und geschulten Mitarbeitern ist ein datenschutzkonformer Einsatz möglich. Ob er es in Ihrem Fall ist, hängt vom konkreten Einsatz ab, nicht vom Werkzeug allein.

ChatGPT und Datenschutz: Welche Version passt?

OpenAI unterscheidet zwischen Angeboten für Privatpersonen und für Unternehmen. Der Unterschied ist für den Datenschutz größer als der Preis vermuten lässt:

Bei persönlichen Konten schalten Sie das Training unter „Einstellungen“, „Datenkontrollen“, „Das Modell für alle verbessern“ ab, oder Sie nutzen den temporären Chat. Das ändert aber nichts daran, dass es kein Vertrag mit Ihrer Firma ist und dass das Konto einer Person gehört. Die Datenschutzkonferenz (DSK), das Gremium der deutschen Aufsichtsbehörden, rät deshalb ausdrücklich: Arbeitgeber stellen Geräte und Konten bereit, Beschäftigte sollen nicht mit privaten Konten arbeiten müssen.

Auch bei Geschäftskonten gilt: „Kein Training“ heißt nicht „keine Speicherung“. Gelöschte Chats entfernt OpenAI nach eigenen Angaben innerhalb von 30 Tagen, sofern keine Rechtspflicht entgegensteht. Bei der API bewahrt OpenAI Protokolle zur Missbrauchskontrolle standardmäßig bis zu 30 Tage auf; eine Aufbewahrung von null Tagen gibt es nur für freigegebene Kunden. Was ChatGPT Business kostet, steht im Ratgeber Was kostet KI im Unternehmen?

Was gehört nicht in ChatGPT?

Die wichtigste Regel ist einfach: Was nicht nötig ist, wird nicht eingegeben. Ohne Geschäftskonto und Vertrag zur Auftragsverarbeitung gehören keine personenbezogenen Daten hinein. Und auch mit Vertrag sind diese Daten tabu oder nur nach eigener Prüfung erlaubt:

• Besondere Kategorien nach Art. 9 DSGVO: Gesundheit, Religion, Gewerkschaft, politische Meinung, biometrische Daten. Die Verarbeitung ist grundsätzlich verboten und nur ausnahmsweise erlaubt.
• Personalsachen: Bewerbungen, Arbeitszeugnisse, Abmahnungen, Leistungsbewertungen, Krankmeldungen.
• Kundendaten mit Namen, Adressen, Vertrags- oder Zahlungsdetails, solange Rechtsgrundlage und Information der Kunden nicht geklärt sind.
• Zugangsdaten wie Passwörter, API-Schlüssel oder Bankdaten.
• Geschäftsgeheimnisse und Unterlagen, für die Sie Vertraulichkeit vereinbart haben.
• Berufsgeheimnisse: Ärzte, Anwälte, Steuerberater und andere Berufsgeheimnisträger brauchen eine eigene Prüfung nach § 203 StGB.

Namen zu löschen reicht oft nicht. Die DSK nennt als Beispiel die Eingabe „Entwirf ein Arbeitszeugnis im befriedigenden Bereich für einen Kundenberater im Autohaus X“: Sie kann einer Person zuzuordnen sein, wenn erkennbar ist, aus welchem Unternehmen sie wann kam. Umgekehrt kann eine Antwort personenbezogene Daten enthalten, obwohl die Frage keine enthielt.

Was die DSGVO beim Einsatz von ChatGPT verlangt

Die DSK hat im Mai 2024 eine Orientierungshilfe zu KI und Datenschutz veröffentlicht, im Juni 2025 eine zu technischen und organisatorischen Maßnahmen und im Oktober 2025 eine zu KI-Systemen, die auf eigene Dokumente zugreifen (sogenannte RAG-Systeme). Neuere KI-Papiere der DSK lagen bei Redaktionsschluss nicht vor. Die Kernpunkte für Unternehmen:

1. Zweck festlegen. Wofür genau wird ChatGPT genutzt? Ohne klaren Zweck lässt sich nichts weiter prüfen.
2. Rechtsgrundlage klären. Für jede Verarbeitung personenbezogener Daten braucht es eine Grundlage nach Art. 6 DSGVO.
3. Vertrag schließen. Nutzen Sie ChatGPT als Cloud-Dienst für eigene Zwecke, ist OpenAI in der Regel Auftragsverarbeiter. Dann ist ein Vertrag nach Art. 28 Abs. 3 DSGVO nötig.
4. Risiko bewerten. Ergibt die Vorprüfung ein hohes Risiko, ist eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO Pflicht. Laut DSK wird das beim Einsatz von KI „vielfach der Fall sein“.
5. Transparent informieren. Kunden und Beschäftigte erfahren, wenn ihre Daten in KI-Werkzeugen verarbeitet werden. Die Datenschutzerklärung und das Verzeichnis der Verarbeitungstätigkeiten werden ergänzt.
6. Keine automatische Letztentscheidung. Entscheidungen mit rechtlicher Wirkung über Menschen trifft ein Mensch (Art. 22 DSGVO).
7. Beteiligte einbinden. Datenschutzbeauftragten früh fragen; gibt es einen Betriebsrat, kann die Einführung mitbestimmungspflichtig sein.
8. Ergebnisse prüfen. KI-Antworten können falsch oder diskriminierend sein. Wer sie über Menschen weiterverwendet, muss sie vorher kontrollieren.

Dazu kommt die Übermittlung in die USA, denn OpenAI ist ein US-Unternehmen. Grundlage ist der Angemessenheitsbeschluss der EU für die USA (EU-US Data Privacy Framework) oder es sind Standardvertragsklauseln; welche Grundlage gilt, steht im Vertrag zur Auftragsverarbeitung. Das Gericht der EU hat den Beschluss am 3. September 2025 bestätigt; ein Rechtsmittel beim Europäischen Gerichtshof war bei Redaktionsschluss noch offen. Wer Daten nur in Europa verarbeiten will, wählt eine Variante mit Speicherung in Europa oder ein europäisches Angebot.

Microsoft Copilot, Gemini und andere Alternativen

Microsoft 365 Copilot, das Microsoft inzwischen „Microsoft Copilot“ nennt, und die Chat-Variante Copilot Chat arbeiten mit dem Arbeitskonto Ihres Microsoft-365-Mandanten. Microsoft sagt zu: Eingaben, Antworten und Daten aus Ihrem Mandanten werden nicht zum Training der Basismodelle genutzt, und für Nutzer in der EU bleibt der Datenverkehr innerhalb der EU-Datengrenze (EU Data Boundary). Zwei Ausnahmen nennt Microsoft selbst: Modelle von Anthropic, die als Unterauftragnehmer eingebunden sind, sind derzeit von der EU-Datengrenze ausgenommen, und für Websuchen schickt Copilot Suchanfragen an Bing. Beides kann der Administrator steuern. Für die Verbraucher-Version mit privatem Microsoft-Konto gelten andere Bedingungen.

Gemini in Google Workspace nutzt laut Google keine Kundendaten aus Workspace zum Training ohne Erlaubnis des Kunden; Eingaben gelten als Kundendaten im Sinne des Auftragsverarbeitungsvertrags. Auch hier unterscheiden sich die Bedingungen der privaten Gemini-App deutlich. Für Claude, Le Chat von Mistral und andere Assistenten gilt dieselbe Logik: Geschäftstarife mit Vertrag statt privater Konten, und vor dem Einsatz die aktuellen Bedingungen lesen.

Lokale und europäische KI-Modelle als Option

Wer Daten gar nicht an US-Anbieter geben will, hat zwei Wege. Erstens lokale KI: Offene Modelle laufen auf einem eigenen Server oder Rechner im Betrieb. Die Daten verlassen das Haus nicht, dafür sind Sie selbst für Betrieb, Updates, Zugriffsrechte und Sicherheit verantwortlich, und die Qualität kleinerer Modelle reicht nicht für jede Aufgabe. Zweitens europäische Anbieter, die offene Modelle in Rechenzentren in Deutschland betreiben, etwa IONOS mit dem AI Model Hub oder STACKIT mit AI Model Serving. STACKIT gibt an, Anfragen weder zu speichern noch zum Training zu nutzen.

Wichtig: Auch eine lokale oder europäische KI ist nicht automatisch DSGVO-konform. Zweck, Rechtsgrundlage, Zugriffsrechte und Löschung müssen Sie trotzdem regeln, bei Systemen mit Zugriff auf eigene Dokumente besonders die Frage, wer welche Inhalte sehen darf. Welche Variante zu Ihren Daten passt, klären wir in der KI-Beratung; bei Automatisierungen setzen wir bevorzugt auf Hosting in der EU.

Interne KI-Richtlinie: Gliederung als Checkliste

Die DSK empfiehlt klare, dokumentierte Regeln, ob, wofür und mit welchen Werkzeugen KI genutzt werden darf, am besten mit Beispielen für erlaubte und verbotene Einsätze. Ohne solche Regeln, so die DSK, ist davon auszugehen, dass Beschäftigte KI eigenmächtig und unkontrolliert nutzen. Diese Punkte gehören in eine KI-Richtlinie:

1. Geltungsbereich: für wen die Richtlinie gilt, auch freie Mitarbeiter.
2. Zugelassene Werkzeuge: Liste mit Version und Kontoart, zum Beispiel „ChatGPT Business über Firmenkonto“. Alles andere ist nicht erlaubt.
3. Erlaubte Zwecke mit Beispielen: Texte entwerfen, zusammenfassen, übersetzen, Ideen sammeln.
4. Verbotene Eingaben: die Datenarten aus dem Abschnitt oben, als kurze Liste.
5. Prüfpflicht: Wer KI-Ergebnisse nutzt, prüft sie; was nach außen geht, liest ein Mensch gegen.
6. Kennzeichnung: wann Sie KI-erzeugte Inhalte als solche kennzeichnen.
7. Urheberrecht und Vertraulichkeit: keine fremden geschützten Werke hochladen, keine vertraulichen Unterlagen Dritter.
8. Zuständigkeit: wer neue Werkzeuge freigibt und Fragen beantwortet.
9. Schulung: wer wann geschult wird und wie das dokumentiert wird.
10. Meldeweg: was bei einer versehentlichen Eingabe sensibler Daten passiert. Datenpannen sind der Aufsicht in der Regel binnen 72 Stunden zu melden (Art. 33 DSGVO).
11. Überprüfung: Die Richtlinie wird mindestens einmal im Jahr und bei neuen Werkzeugen angepasst.

Die Schulung ist dabei nicht nur gute Praxis: Seit Februar 2025 verlangt Art. 4 der EU-KI-Verordnung, dass Unternehmen die KI-Kompetenz ihrer Mitarbeiter fördern. Was das genau heißt, erklärt der Ratgeber KI-Schulungspflicht nach Art. 4 AI Act. Eine Richtlinie wirkt erst, wenn das Team sie kennt: In unserer KI-Schulung für Mitarbeiter üben die Teilnehmer die Regeln an eigenen Aufgaben.

Häufige Fragen