ChatGPT im Unternehmen: Regeln für den sicheren Einsatz
In vielen Betrieben nutzen Mitarbeitende ChatGPT längst – oft mit privaten Konten und ohne Absprache. Wir zeigen, welche Risiken das birgt, was in eine interne KI-Richtlinie gehört, welche Daten tabu sind und wie Sie den Einsatz in wenigen Schritten ordnen.
Inhaltsverzeichnis
- Private ChatGPT-Konten nutzen Gespräche laut OpenAI standardmäßig zum Training, solange Nutzer das nicht abschalten. Für den Betrieb gehören dienstliche Zugänge mit passenden Verträgen her.
- Personenbezogene Daten von Kunden und Mitarbeitenden, Gesundheits- und Mandantendaten sowie Geschäftsgeheimnisse haben in öffentlichen KI-Diensten nichts zu suchen.
- Eine interne KI-Richtlinie regelt erlaubte Werkzeuge, Datenklassen, Prüfpflichten, Kennzeichnung und Zuständigkeiten – zwei bis drei Seiten genügen.
- Jedes Ergebnis wird von einem Menschen geprüft und verantwortet. Sprachmodelle formulieren auch Falsches überzeugend.
- Die KI-Verordnung verlangt, dass Unternehmen Maßnahmen zur Förderung der KI-Kompetenz ihres Personals ergreifen – eine Einweisung und klare Regeln sind ein guter Anfang.
Ein Angebotsschreiben glätten, eine schwierige E-Mail beantworten, eine Präsentation gliedern: ChatGPT und vergleichbare Werkzeuge wie Gemini, Claude oder Copilot sind in vielen Betrieben Alltag geworden – nicht selten, ohne dass die Geschäftsführung davon weiß. Fachleute sprechen von „Schatten-KI“. Das Problem ist nicht die Nutzung an sich, sondern dass niemand weiß, welche Daten wohin fließen und wer die Ergebnisse prüft.
Dieser Beitrag zeigt, wie Sie den Einsatz von ChatGPT im Unternehmen ordnen, ohne ihn zu verbieten. Er richtet sich an kleine und mittlere Betriebe, die keine eigene IT-Rechtsabteilung haben.
Die Hinweise in diesem Beitrag sind allgemein und ersetzen keine Rechtsberatung. Für Ihre konkrete Richtlinie sollten Sie Datenschutzbeauftragten, gegebenenfalls Betriebsrat und bei Bedarf eine Fachanwältin einbinden.
Warum es Regeln braucht
Ohne Regeln entscheidet jeder Mitarbeitende selbst, was er in ein KI-Werkzeug eingibt. Daraus entstehen vier Arten von Risiken:
- Datenschutz: Kundennamen, Adressen oder Gesundheitsangaben werden an einen Anbieter übermittelt, mit dem kein Vertrag besteht. Die Datenschutzkonferenz (DSK) empfiehlt in ihrer Orientierungshilfe zu KI ausdrücklich dienstliche Zugänge und Vorsicht bei der Eingabe personenbezogener Daten.
- Geschäftsgeheimnisse: Nach § 2 des Geschäftsgeheimnisgesetzes ist eine Information nur dann als Geschäftsgeheimnis geschützt, wenn das Unternehmen angemessene Geheimhaltungsmaßnahmen ergreift. Wer Kalkulationen oder Kundenlisten ungeregelt in öffentliche Dienste kopieren lässt, schwächt diesen Schutz.
- Falsche Inhalte: Sprachmodelle erfinden gelegentlich Fakten, Zahlen oder Quellen. Wer sie ungeprüft weitergibt, haftet dafür wie für eigene Aussagen.
- Regulatorik: Die europäische KI-Verordnung stellt Anforderungen an die KI-Kompetenz und an die Kennzeichnung bestimmter Inhalte. Einen Überblick gibt der Beitrag EU AI Act für KMU.
Private Konten oder Firmenzugang?
Der wichtigste Hebel ist die Frage, über welche Konten gearbeitet wird. Die Unterschiede sind erheblich:
| Merkmal | Private Konten (kostenlos oder privat bezahlt) | Firmenzugang (Firmen-Tarife des Anbieters) |
|---|---|---|
| Training mit Eingaben | Laut OpenAI standardmäßig aktiv, abschaltbar über „Das Modell für alle verbessern“ | Laut OpenAI kein Training mit Geschäftsdaten (Enterprise) |
| Vertrag zur Auftragsverarbeitung | Nicht vorgesehen | In Firmen-Tarifen in der Regel erhältlich – im Einzelfall prüfen |
| Verwaltung und Zugriff | Liegt beim Mitarbeitenden | Zentral, Zugänge lassen sich entziehen |
| Was passiert beim Ausscheiden? | Gesprächsverläufe bleiben im privaten Konto | Daten bleiben im Unternehmen |
Auch in privaten Konten gibt es Einstellungen, die das Risiko senken: Laut OpenAI lassen sich das Training mit eigenen Gesprächen in den Datenkontrollen abschalten, und „temporäre Chats“ werden innerhalb von 30 Tagen gelöscht und nicht für das Training genutzt. Eine Lösung für den Betrieb ist das trotzdem nicht, weil das Unternehmen keinen Einfluss auf das Konto hat. Die DSK rät aus diesem Grund zu betrieblichen Accounts.
Fragen Sie im Team offen und ohne Vorwürfe, wer welche KI-Werkzeuge wofür nutzt. Die Antworten zeigen, welche Anwendungsfälle es tatsächlich gibt – und welche Regeln wirklich gebraucht werden. Ein Verbot ohne Alternative führt meist nur dazu, dass heimlich weitergearbeitet wird.
Welche Daten tabu sind
Die einfachste Regel für den Alltag ist eine Ampel. Sie ist schnell erklärt und deckt die meisten Fälle ab:
| Ampel | Datenart | Beispiele |
|---|---|---|
| Grün | Öffentliche oder allgemeine Informationen | Texte von der eigenen Website, allgemeine Fachfragen, Formulierungshilfen ohne Namen |
| Gelb | Interne, nicht personenbezogene Informationen | Entwürfe für Prozessbeschreibungen, anonymisierte Abläufe – nur im Firmenzugang |
| Rot | Personenbezogene und vertrauliche Daten | Kunden- und Mitarbeiterdaten, Gesundheitsdaten, Mandanteninformationen, Kalkulationen, Verträge, Zugangsdaten |
Achtung beim „Anonymisieren“: Die DSK weist darauf hin, dass das Entfernen von Namen oft nicht reicht, weil sich der Personenbezug aus dem Zusammenhang ergeben kann. „Der Bauherr in der Lindenstraße 4, der mit uns im Streit liegt“ ist auch ohne Namen identifizierbar. Besondere Kategorien wie Gesundheitsdaten dürfen nach Art. 9 DSGVO nur unter engen Ausnahmen verarbeitet werden.
Beispiele aus dem Alltag
- In Ordnung: „Formuliere eine freundliche Antwort auf eine Kundenanfrage, die einen Termin in drei Wochen möchte, wir aber erst in fünf Wochen Zeit haben.“
- In Ordnung: „Erkläre in einfachen Worten, was ein hydraulischer Abgleich ist, für einen Text auf unserer Website.“
- Nicht in Ordnung: Die komplette E-Mail eines Kunden mit Name, Adresse und Telefonnummer hineinkopieren und um eine Antwort bitten.
- Nicht in Ordnung: Eine Kalkulation oder eine Liste mit Stammkunden hochladen, um „mal drüberzuschauen“.
Wer die Anfrage vorher selbst kurz zusammenfasst und persönliche Details weglässt, bekommt in der Regel genauso brauchbare Ergebnisse.
Was in eine KI-Richtlinie gehört
Eine KI-Richtlinie muss kein dickes Dokument sein. Für die meisten kleinen und mittleren Betriebe reichen zwei bis drei Seiten mit diesen Punkten:
- Zweck und GeltungsbereichFür wen gilt die Richtlinie, und welche Ziele verfolgt der Betrieb mit KI?
- Erlaubte WerkzeugeWelche Dienste dürfen genutzt werden – nur mit Firmenzugang, mit welchen Einstellungen?
- DatenregelnDie Ampel von oben, mit Beispielen aus Ihrem Alltag.
- PrüfpflichtJedes Ergebnis wird vor der Verwendung von einem Menschen geprüft. Bei Fakten, Zahlen, Normen und Rechtsfragen gilt: Originalquelle prüfen.
- Keine automatischen Entscheidungen über MenschenBewerbungen, Leistungsbeurteilungen oder Kreditentscheidungen werden nicht von KI getroffen.
- Kennzeichnung und UrheberrechtWann KI-Inhalte gekennzeichnet werden und wie mit Bildern und Texten umzugehen ist.
- ZuständigkeitenWer gibt neue Werkzeuge frei, wer ist Ansprechpartner bei Fragen und Vorfällen?
- SchulungKurze Einweisung für alle, die KI nutzen, und regelmäßige Auffrischung.
Die DSK empfiehlt, erlaubte und verbotene Anwendungen mit Beispielen festzuhalten und gegebenenfalls eine Dienst- oder Betriebsvereinbarung abzuschließen.
Ein Assistent mit Ihrem Firmenwissen, klaren Zugriffsrechten und geregelter Datenverarbeitung.
Ergebnisse prüfen und Verantwortung behalten
Die größte Gefahr im Alltag ist nicht der Datenschutz, sondern Bequemlichkeit: Ein Text klingt gut und wird ungeprüft verschickt. Sprachmodelle berechnen wahrscheinliche Formulierungen; sie wissen nicht, ob eine Aussage stimmt. Typische Fehlerquellen:
- erfundene Paragrafen, Urteile, Normen oder Quellenangaben,
- veraltete Informationen zu Förderprogrammen, Fristen oder Preisen,
- Rechenfehler bei Mengen, Flächen oder Summen,
- scheinbar neutrale, aber benachteiligende Formulierungen – die DSK nennt ausdrücklich die Prüfung auf Diskriminierung.
Wer ein KI-Ergebnis nutzt, verantwortet es wie einen eigenen Text. Das gehört deutlich in die Richtlinie.
Urheberrecht und Kennzeichnung
Zwei Fragen tauchen in fast jedem Betrieb auf:
Gehören KI-Texte und -Bilder dem Unternehmen?
Nach deutschem Urheberrecht sind nur persönliche geistige Schöpfungen geschützt. Rein maschinell erzeugte Inhalte sind deshalb nach überwiegender Auffassung in der Regel nicht urheberrechtlich geschützt – andere dürfen sie unter Umständen übernehmen. Umgekehrt können KI-Ergebnisse geschützten Werken ähneln. Für Logos, Werbemotive und wichtige Texte sollte deshalb immer ein Mensch maßgeblich gestalten und prüfen.
Muss KI-Nutzung gekennzeichnet werden?
Für interne Entwürfe, E-Mails oder Angebote, die ein Mensch prüft und verantwortet, besteht in der Regel keine allgemeine Kennzeichnungspflicht. Die KI-Verordnung verlangt aber in Artikel 50 unter anderem eine Offenlegung bei Deepfakes – also realistisch wirkenden, künstlich erzeugten Bildern, Videos oder Tonaufnahmen von echten Personen, Orten oder Ereignissen – und bei KI-erzeugten Texten, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren sollen, sofern sie keiner menschlichen redaktionellen Kontrolle unterliegen. Wie Google mit KI-Texten auf Websites umgeht, erklärt der Beitrag Werden KI-Texte von Google abgestraft?
KI-Kompetenz im Team
Artikel 4 der KI-Verordnung regelt die KI-Kompetenz. Ursprünglich mussten Anbieter und Betreiber seit dem 2. Februar 2025 sicherstellen, dass ihr Personal über ausreichende KI-Kompetenz verfügt. Mit der Änderungsverordnung (EU) 2026/1744, in Kraft seit dem 27. Juli 2026, wurde die Pflicht abgeschwächt: Unternehmen müssen nun Maßnahmen ergreifen, um die Entwicklung der KI-Kompetenz ihres Personals zu fördern – ein bestimmtes Niveau ist nicht mehr vorgeschrieben. Die EU-Kommission soll dazu praktische Beispiele veröffentlichen.
Für einen Betrieb, der ChatGPT nutzt, heißt das praktisch: eine kurze Einweisung in Funktionsweise, Grenzen und interne Regeln, dokumentiert mit Datum und Teilnehmenden. Das ist ohnehin sinnvoll – wer versteht, wie Sprachmodelle arbeiten, prüft Ergebnisse gründlicher. Wie KI im Betriebsalltag konkret helfen kann, zeigt der Beitrag KI im Handwerk.
Sobald KI nicht nur intern Entwürfe schreibt, sondern direkt mit Kunden kommuniziert – als Chatbot auf der Website oder am Telefon –, kommen weitere Pflichten hinzu: Transparenzhinweise nach der KI-Verordnung, Datenschutzinformationen, Verträge mit dem Anbieter. Diese Fragen behandelt der Beitrag KI-Chatbot und Datenschutz.
In fünf Schritten zur geregelten Nutzung
- BestandsaufnahmeWer nutzt welche KI-Werkzeuge wofür? Ohne Vorwürfe nachfragen.
- Werkzeug auswählenEinen Dienst mit Firmenzugang, Auftragsverarbeitungsvertrag und abgeschaltetem Training festlegen.
- Richtlinie schreibenZwei bis drei Seiten mit den Punkten von oben. Datenschutzbeauftragten einbinden; gibt es einen Betriebsrat, frühzeitig beteiligen – das empfiehlt auch die DSK.
- EinweisenEine Stunde Schulung mit Beispielen aus dem eigenen Alltag, dokumentiert.
- ÜberprüfenNach drei Monaten: Was funktioniert, wo gibt es Unsicherheiten, welche Regeln fehlen?
Checkliste: ChatGPT sicher im Betrieb
- Es gibt eine schriftliche KI-Richtlinie, die alle kennen.
- Gearbeitet wird nur mit Firmenzugängen, nicht mit privaten Konten.
- Das Training mit Eingaben ist abgeschaltet oder vertraglich ausgeschlossen.
- Personenbezogene und vertrauliche Daten werden nicht eingegeben.
- Jedes Ergebnis wird vor der Verwendung von einem Menschen geprüft.
- Entscheidungen über Menschen trifft keine KI.
- Für Deepfakes und bestimmte öffentliche Texte gibt es eine Kennzeichnungsregel.
- Alle Nutzer haben eine dokumentierte Einweisung erhalten.
- Es gibt eine Ansprechperson für Fragen und Vorfälle.
Häufige Fragen
Dürfen wir ChatGPT im Unternehmen komplett verbieten?
Ja, als Arbeitgeber können Sie festlegen, welche Werkzeuge für dienstliche Zwecke genutzt werden dürfen. Ein reines Verbot ist in der Praxis aber schwer durchzusetzen, wenn Mitarbeitende den Nutzen kennen – oft wird dann heimlich mit privaten Konten weitergearbeitet. Wirkungsvoller ist meist ein erlaubtes Werkzeug mit klaren Regeln. Wenn Sie verbieten, sollten Sie das schriftlich festhalten und begründen.
Was tun, wenn ein Mitarbeiter versehentlich Kundendaten eingegeben hat?
Zuerst intern melden lassen, ohne Schuldzuweisung – nur so erfahren Sie überhaupt davon. Dann den Verlauf im Konto löschen und prüfen, welche Daten betroffen sind und ob der Dienst sie zum Training nutzen konnte. Gemeinsam mit dem Datenschutzbeauftragten bewerten Sie, ob eine Meldung an die Aufsichtsbehörde innerhalb von 72 Stunden nach Art. 33 DSGVO nötig ist. Danach Regeln und Schulung anpassen.
Braucht jede kleine Firma eine schriftliche KI-Richtlinie?
Gesetzlich vorgeschrieben ist ein Dokument mit diesem Namen nicht. Sobald aber mehrere Personen KI-Werkzeuge beruflich nutzen, hilft eine schriftliche Regel bei gleich mehreren Pflichten: beim Schutz von Geschäftsgeheimnissen, bei Datenschutz-Nachweisen und bei der Förderung der KI-Kompetenz nach der KI-Verordnung. Für einen kleinen Betrieb reicht oft eine Seite mit erlaubten Werkzeugen, Datenampel und Prüfpflicht.
Quellen
- Datenschutzkonferenz: Orientierungshilfe Künstliche Intelligenz und Datenschutz (Mai 2024) – Dienstliche Accounts, interne Regeln, Prüfung der Ergebnisse
- OpenAI Help Center: Data Controls FAQ – Training, temporäre Chats
- OpenAI: Enterprise privacy
- Verordnung (EU) 2026/1744 (Digital-Omnibus zur KI), EUR-Lex – Neufassung Art. 4 KI-Kompetenz
- Verordnung (EU) 2024/1689 (KI-Verordnung), EUR-Lex – Art. 50 Transparenzpflichten
- § 2 Geschäftsgeheimnisgesetz (GeschGehG): Begriffsbestimmungen
Gemeinsamer Beitrag des NEUZEITWERBER-Teams aus Webdesign, SEO und Marketing.
