ChatGPT im Unternehmen: Warum Datenschutz und DSGVO die eigentliche Frage sind
ChatGPT im Unternehmen einzusetzen ist heute Alltag, oft schneller, als Datenschutz- und Compliance-Teams reagieren können. Die Produktivitätsgewinne sind real: Textentwürfe, Zusammenfassungen, Code, Übersetzungen. Doch beim ChatGPT Datenschutz geht es nicht um abstrakte Bedenkenträgerei, sondern um konkrete Pflichten aus der DSGVO. Sobald personenbezogene Daten, Kundeninformationen, Vertragsentwürfe oder Quellcode in ein Eingabefeld kopiert werden, ist die Frage KI & DSGVO entscheidend: Wo werden diese Daten verarbeitet, wer hat Zugriff, wie lange werden sie gespeichert, und auf welcher Rechtsgrundlage findet der Transfer in die USA statt? Dieser Artikel ordnet die Risiken nüchtern ein und zeigt, wie eine souveräne KI-Alternative vergleichbare Produktivität unter EU-Recht liefert. Er ersetzt keine Rechtsberatung: Die konkrete Bewertung gehört in die Hände Ihres Datenschutzbeauftragten oder einer fachkundigen Kanzlei.
Was tatsächlich mit Ihren Daten passiert
Der wichtigste Unterschied liegt im gewählten Tarif. Bei kostenlosen Konten und ChatGPT Plus dürfen Eingaben standardmäßig zur Verbesserung der Modelle verwendet werden, diese Einstellung ist also per Default aktiv. OpenAI bietet ein Opt-out an, aber die Verantwortung, dieses für jede mitarbeitende Person korrekt zu setzen, liegt beim Unternehmen, und ein vergessener Haken ist im Zweifel ein Datenschutzvorfall.
Bei ChatGPT Team und Enterprise sieht es deutlich besser aus: Eingaben werden vertraglich nicht zum Training genutzt, es gibt Datenaufbewahrungsoptionen, Administrationsfunktionen und einen Auftragsverarbeitungsvertrag (Data Processing Addendum). ChatGPT Enterprise hat klar bessere Bedingungen als die Consumer-Varianten. Zwei Punkte bleiben trotzdem: Erstens werden Daten weiterhin technisch verarbeitet (Inferenz, Missbrauchserkennung, befristete Aufbewahrung). Zweitens, und das ist der entscheidende Punkt, ändert kein Tarif die Jurisdiktion, unter der das Unternehmen OpenAI steht.
CLOUD Act, Schrems II und der Drittlandtransfer
Hier wird es rechtlich konkret. Jede Verarbeitung personenbezogener Daten durch einen US-Anbieter ist ein Drittlandtransfer im Sinne von Art. 44 ff. DSGVO. Seit dem Schrems-II-Urteil des EuGH (2020) reicht es nicht, sich auf Standardvertragsklauseln zu berufen; es braucht eine Prüfung (Transfer Impact Assessment) und gegebenenfalls zusätzliche Schutzmaßnahmen. Das EU-US Data Privacy Framework von 2023 entschärft die Lage; das Gericht der EU hat es im September 2025 in erster Instanz bestätigt, allerdings läuft beim EuGH ein Rechtsmittel (Rechtssache C-703/25 P). Es bietet damit reale, aber nur vorläufige Rechtssicherheit und kann, wie seine Vorgänger Safe Harbor und Privacy Shield, die der EuGH gekippt hat, künftig erneut angegriffen werden.
Darüber liegt der US CLOUD Act: Er verpflichtet US-Anbieter, Daten in ihrem Besitz, Gewahrsam oder unter ihrer Kontrolle auf Anordnung an US-Behörden herauszugeben, unabhängig davon, ob die Server in den USA oder in Europa stehen. Maßgeblich ist der Anbieter, nicht der Standort des Servers. Genau diese extraterritoriale Reichweite lässt sich vertraglich nicht vollständig ausschließen. Solange ein Anbieter US-Recht unterliegt, bleibt ein Restrisiko bestehen, das auch ein perfekter Enterprise-Vertrag nicht beseitigt. Das ist kein Argument gegen OpenAI als Produkt, es ist eine schlichte Beschreibung der Rechtslage, die jedes Compliance-Team dokumentieren und mit fachkundiger Beratung bewerten sollte.
Vertrag, Betriebsrat und das Schatten-KI-Problem
Selbst wenn die Jurisdiktion akzeptiert wird, sind weitere Pflichten zu erfüllen. Ein Auftragsverarbeitungsvertrag nach Art. 28 DSGVO ist Voraussetzung, bei Consumer-Tarifen schlicht nicht vorhanden, bei Enterprise verfügbar, aber zu prüfen. In Deutschland kommt regelmäßig die Mitbestimmung hinzu: Werden Mitarbeitende durch ein KI-Tool potenziell überwacht oder ihre Leistung bewertbar, greift in der Praxis häufig § 87 BetrVG, und der Betriebsrat ist zu beteiligen. Eine saubere Betriebsvereinbarung zur KI-Nutzung schafft Klarheit und schützt beide Seiten.
Das größte praktische Risiko ist jedoch die Schatten-KI: Mitarbeitende, die mangels offizieller Lösung private Konten nutzen und vertrauliche Inhalte einspeisen. Hier entstehen die wirklich gefährlichen Vertraulichkeits- und IP-Verluste, unkontrolliert, undokumentiert und potenziell ein Bruch von Geheimhaltungsvereinbarungen gegenüber Kunden. Ein generelles Verbot löst das Problem nicht, es treibt die Nutzung nur in den Untergrund. Was hilft, ist eine offizielle, sichere Alternative, die mindestens so gut ist wie das verbotene Werkzeug.
Die souveräne Alternative: vergleichbare Produktivität unter EU-Recht
Genau hier setzt souveräne KI an. Die Idee: leistungsfähige offene Modelle, Llama, Mistral, Qwen oder das deutsche Teuken, auf eigenen oder in Deutschland gehosteten Servern selbst betreiben. Technisch laufen diese Modelle effizient unter vLLM als Inferenz-Engine; dessen PagedAttention verwaltet den KV-Cache speichereffizient in Seiten und steigert so den Durchsatz deutlich. Davor sitzt ein LiteLLM-Gateway, das eine OpenAI-kompatible Schnittstelle bereitstellt. Für die Anwendungen bedeutet das: Sie sprechen dieselbe API wie ChatGPT, aber kein Token verlässt die kontrollierte Umgebung. Zugriffe, Modelle und Limits sind zentral steuerbar, jede Anfrage ist protokollierbar.
Der eigentliche Produktivitätshebel im Unternehmen ist selten das nackte Modell, sondern der Zugriff auf eigenes Wissen. Mit citation-grounded RAG, Retrieval Augmented Generation mit Quellenbeleg, antwortet das System auf Basis Ihrer eigenen Dokumente und nennt die Fundstelle. Verfahren wie ein Wissensgraph und strukturierte Retrieval-Indizes erhöhen die Nachvollziehbarkeit und reduzieren Halluzinationen, ohne sie ganz auszuschliessen. Dass das produktiv funktioniert, zeigt unser Einsatz in einem großen KI-Archiv mit Millionen Dokumenten, wo Recherche-Antworten konsequent mit Belegen aus dem Archiv hinterlegt werden. Solche Recherche- und Archivsysteme bleiben vollständig in der Hand des Betreibers.
Das gibt es nicht zum Nulltarif: Eine selbst gehostete Lösung braucht Infrastruktur, Betrieb und Modellpflege. Dafür entfällt der Drittlandtransfer komplett, die Datenhoheit liegt beim Kunden, und es gibt keine US-Modelle im Standardpfad. Beyonetix selbst hält keine ISO- oder BSI-Zertifikate und gibt keine Compliance-Garantien, wir konzipieren und betreiben jedoch entlang dieser Frameworks, sodass die Lösung in das Compliance-System unserer Kunden passt. Die rechtsverbindliche Bewertung bleibt Sache Ihres Datenschutzbeauftragten oder Ihrer Kanzlei.
Do's und Don'ts für den Einstieg
Do: Klären Sie zuerst, welche Datenklassen überhaupt in ein KI-Tool dürfen, und legen Sie das in einer Richtlinie fest. Bieten Sie eine offizielle Lösung an, bevor Sie Verbote aussprechen. Schließen Sie bei jedem Anbieter den Auftragsverarbeitungsvertrag ab und dokumentieren Sie das Transfer Impact Assessment. Beteiligen Sie Betriebsrat und Datenschutzbeauftragten früh. Für vertrauliche, regulierte oder geschäftskritische Daten setzen Sie auf eine selbst gehostete, souveräne Umgebung.
Don't: Keine personenbezogenen oder vertraulichen Daten in kostenlose oder private ChatGPT-Konten. Verlassen Sie sich nicht allein auf das EU-US Data Privacy Framework als dauerhafte Rechtsgrundlage. Ignorieren Sie Schatten-KI nicht, sie ist das real größte Risiko. Und verwechseln Sie ‚Server in Europa' nicht mit ‚außerhalb des CLOUD Act'.
Der Trend geht eindeutig in Richtung Wahlfreiheit: Unternehmen müssen sich nicht zwischen Produktivität und Datenhoheit entscheiden. Mit offenen Modellen, einem Gateway-Layer und belegbasiertem RAG lässt sich der praktische Nutzen von ChatGPT weitgehend abbilden, während die rechtliche Angriffsfläche schrumpft. Wer heute eine saubere Architektur aufsetzt, macht sich von der nächsten Schrems-Entscheidung strukturell unabhängig, und behält die Kontrolle über sein wertvollstes Asset: das eigene Wissen.