Ein Vertriebsmitarbeiter kopiert am Freitagnachmittag eine Kundenbeschwerde samt Namen, Adresse und Bestellhistorie in sein privates ChatGPT-Konto, damit ihm das KI-Tool eine freundliche Antwort formuliert. Die Antwort ist gut, die Beschwerde erledigt. Was bleibt, ist ein Chatverlauf mit Kundendaten bei einem Anbieter in den USA, von dem im Unternehmen niemand weiß.

Vergangene Woche ging es an dieser Stelle um die Regeln: welche Pflichten aus DSGVO und KI-Verordnung seit dem 2. August 2026 nebeneinander gelten, wenn Beschäftigte Firmendaten in ChatGPT eingeben. Dieser zweite und vorerst letzte Teil der kleinen KI-Reihe dreht die Perspektive um und fragt, woran die Umsetzung in der Praxis scheitert. Die Antwort ist selten böser Wille. Schon Anfang 2024 hatten nach der Cisco Data Privacy Benchmark Study 48 Prozent der befragten Fachleute nicht öffentliche Unternehmensinformationen in generative KI-Tools eingegeben, 45 Prozent sogar Daten über Beschäftigte. Zugleich hatten 27 Prozent der Unternehmen die Nutzung vorerst ganz verboten. Beide Zahlen beschreiben dasselbe Problem: Das KI-Tool wird genutzt, nur ohne Regeln. Fünf Fehler tauchen dabei immer wieder auf.

Fehler eins: Kundendaten im privaten oder kostenlosen Konto

Der teuerste Fehler ist der alltäglichste, und er steckt schon im Beispiel oben. Sobald Kundendaten in einem privaten oder kostenlosen Konto landen, passiert dreierlei:

• Die personenbezogenen Daten liegen bei einem Anbieter in den USA, ohne Auftragsverarbeitungsvertrag und ohne Rechtsgrundlage.
• In den Konsumentenprodukten fließen die Eingaben standardmäßig in das Training der Modelle, solange der Nutzer das nicht selbst abschaltet.
• Beim Ausscheiden nimmt der Mitarbeiter den gesamten Chatverlauf samt Kundendaten einfach mit.

Haftbar ist dafür nicht der Mitarbeiter, sondern das Unternehmen. Artikel 83 DSGVO sieht Geldbußen bis 20 Millionen Euro oder 4 Prozent des weltweiten Jahresumsatzes vor, je nachdem, welcher Betrag höher ist, und betroffene Personen können nach Artikel 82 Schadensersatz verlangen.

Fehler zwei: Geschäftstarif gebucht, Vertrag nie abgeschlossen

Wer ChatGPT Business (bis August 2025 „ChatGPT Team”) oder Enterprise bezahlt, hat den ersten Schritt gemacht, aber noch keinen Vertrag:

• Das Data Processing Addendum, das OpenAI für diese Tarife und die Programmierschnittstelle bereitstellt, muss ein Administrator aktiv annehmen. Erst damit besteht der Auftragsverarbeitungsvertrag nach Artikel 28 DSGVO, den jede Verarbeitung personenbezogener Daten durch einen Dienstleister voraussetzt.
• Dazu gehört der Eintrag des KI-Tools im Verzeichnis der Verarbeitungstätigkeiten nach Artikel 30.
• Wer die für Geschäftskunden angebotene Datenspeicherung in der EU aktiviert, senkt das Risiko der Drittlandübermittlung, beseitigt es aber nicht, weil der Anbieter ein US-Unternehmen bleibt.

Fehler drei: Verbot statt Regelung

Die naheliegende Reaktion vieler Geschäftsführungen ist ein Verbot. In der Praxis verschiebt es die Nutzung nur: Statt im Firmenkonto arbeiten die Beschäftigten im privaten Konto auf dem eigenen Telefon, ohne zentrale Einstellungen, ohne Löschkontrolle und ohne dass jemand im Haus weiß, welche Daten wohin gehen. Das Unternehmen tauscht damit ein steuerbares Risiko gegen ein unkontrollierbares. Der erste Schritt ist deshalb keine Technikfrage, sondern eine Bestandsaufnahme: Wer nutzt welches KI-Tool, mit welchen Daten, in welchem Konto?

Fehler vier: Keine Richtlinie, also kein Nachweis

Artikel 5 Absatz 2 DSGVO verpflichtet Unternehmen, die Einhaltung der Datenschutzgrundsätze nachweisen zu können. Ohne schriftliche KI-Richtlinie fehlt dieser Nachweis, und im Verfahren zählt nur, was dokumentiert ist. Eine brauchbare Richtlinie passt auf zwei Seiten und ordnet Daten in drei Klassen:

• Öffentlich: alles, was ohnehin auf der Website steht. Darf in jedes KI-Tool.
• Intern: Angebote, Prozessbeschreibungen, Entwürfe. Nur im Firmenkonto mit Auftragsverarbeitungsvertrag, nie in privaten Konten.
• Vertraulich: personenbezogene Daten, Geschäftsgeheimnisse, Vertragsinhalte, Zugangsdaten. Werden nicht eingegeben, ohne Ausnahme.

Konkrete Beispiele aus dem eigenen Betrieb wirken dabei mehr als jeder Paragraf: eine Kundenanfrage, ein Protokoll, ein Angebot, jeweils der richtigen Klasse zugeordnet.

Fehler fünf: Richtlinie verteilt, aber nie geschult und nie geprüft

Eine Richtlinie, die niemand kennt, bleibt Papier. Artikel 4 der KI-Verordnung verlangt seit dem 2. Februar 2025 ohnehin, dass Beschäftigte, die mit KI-Systemen arbeiten, über ausreichende KI-Kompetenz verfügen. Eine Einführungsschulung von rund 90 Minuten mit echten Fällen aus dem Betrieb, eine jährliche Wiederholung und gelegentliche Stichproben, ob die Regeln im Alltag eingehalten werden, sind ein praktikabler Weg, diese Pflicht zu erfüllen, und liefern zugleich den Nachweis, den Fehler vier verlangt.

Die Reihenfolge, die funktioniert

Aus den fünf Fehlern ergibt sich der Ablauf fast von selbst:

• Bestandsaufnahme: Wer nutzt was, mit welchen Daten, in welchem Konto?
• Geschäftstarif einrichten, Auftragsverarbeitungsvertrag annehmen, Modelltraining ausschließen, Datenspeicherung in der EU aktivieren, wo verfügbar, alles im Verzeichnis dokumentieren.
• Zugänge über das bestehende Identitätsmanagement mit Zwei-Faktor-Authentifizierung; wer im Verzeichnis deaktiviert wird, verliert damit auch den KI-Zugang.
• Richtlinie mit drei Datenklassen, von allen Beschäftigten unterschrieben.
• Schulung mit Fällen aus dem eigenen Haus, jährlich wiederholt, mit Stichproben.

Wichtiger als das Tempo ist die Reihenfolge. Ein Konto ohne Vertrag ist ebenso wenig wert wie eine Richtlinie ohne Schulung.

Wer in Deutschland und den Niederlanden prüft

Für Verstöße gegen die DSGVO sind in Deutschland die Datenschutzaufsichtsbehörden der Länder zuständig, in den Niederlanden die Autoriteit Persoonsgegevens. Die Transparenzpflichten der KI-Verordnung nach Artikel 50 überwacht in Deutschland seit Ende Juli 2026 die Bundesnetzagentur, in den Niederlanden nach dem Gesetzentwurf ebenfalls die Autoriteit Persoonsgegevens, die damit für ein grenzüberschreitend tätiges Unternehmen auf niederländischer Seite beide Regelwerke aus einer Hand prüft.

Ausblick

Die fünf Fehler haben eines gemeinsam: Keiner davon ist eine Technikfrage. Konto, Vertrag, Richtlinie und Schulung sind Verwaltungsentscheidungen, die eine Geschäftsführung in wenigen Wochen treffen kann. Wer sie getroffen hat, muss die Nutzung nicht mehr dulden, sondern kann sie erlauben, und hat für die Prüfung durch Datenschutzaufsicht oder Bundesnetzagentur die Unterlagen bereits in der Hand. Damit endet die kleine Reihe zur KI-Verordnung. Die nächsten Beiträge kehren zu den Themen zurück, die den Alltag von Finanz- und Verwaltungsabteilungen bestimmen.

Quellen

Europäische Union (2016). Verordnung (EU) 2016/679 (Datenschutz-Grundverordnung), Artikel 5, 28, 30, 82 und 83. Abgerufen von https://eur-lex.europa.eu/eli/reg/2016/679/oj

Europäische Union (2024). Verordnung (EU) 2024/1689 (KI-Verordnung), Artikel 4 und 50. Abgerufen von https://eur-lex.europa.eu/eli/reg/2024/1689/oj

Cisco (2024). More than 1 in 4 Organizations Banned Use of GenAI Over Privacy and Data Security Risks, Cisco 2024 Data Privacy Benchmark Study, 25. Januar 2024. Abgerufen von https://newsroom.cisco.com/c/r/newsroom/en/us/a/y2024/m01/organizations-ban-use-of-generative-ai-over-data-privacy-security-cisco-study.html

OpenAI (2026). Enterprise privacy at OpenAI. Abgerufen von https://openai.com/enterprise-privacy/

OpenAI (2025). ChatGPT Business Rename FAQ. Abgerufen von https://help.openai.com/en/articles/12111915-chatgpt-business-rename-faq

Global Connect Admin (2026). Firmendaten in ChatGPT: Was für Unternehmen seit August 2026 gilt. Abgerufen von https://globalconnectadmin.com/de/firmendaten-in-chatgpt-was-fur-unternehmen-seit-august-2026-gilt-2/

Bild: FJ Design Agentur (fjdesign.de)