KI-Chatbot und Datenschutz: Worauf Unternehmen achten müssen

KI-Chatbots haben mit den starren Klick-Bots von früher wenig gemein. Sie verstehen frei formulierte Fragen, antworten in ganzen Sätzen und können auf das Wissen einer Website zugreifen. Für Betriebe mit vielen wiederkehrenden Fragen ist das attraktiv. Gleichzeitig tippen Besucher in ein Chatfenster oft mehr, als sie in ein Formular schreiben würden: Namen, Telefonnummern, Adressen, manchmal Gesundheitsprobleme oder finanzielle Sorgen.

Damit wird der Chatbot zur Datenverarbeitung, für die die Datenschutz-Grundverordnung (DSGVO) gilt. Dieser Beitrag ordnet die wichtigsten Punkte ein. Grundlage sind unter anderem die Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ der Datenschutzkonferenz (DSK) vom Mai 2024 und die europäische KI-Verordnung.

Welche Daten ein Website-Chatbot verarbeitet

Ein KI-Chatbot verarbeitet mehr als nur die eigentliche Frage. Typischerweise fallen an:

• Eingaben der Nutzer: freie Texte, in denen Personen alles Mögliche preisgeben können – auch Daten besonderer Kategorien wie Gesundheitsangaben.
• Technische Daten: IP-Adresse, Browser- und Geräteinformationen, Zeitstempel.
• Gespeicherte Informationen auf dem Gerät: Cookies oder Einträge im lokalen Speicher, etwa um den Gesprächsverlauf beim Seitenwechsel zu erhalten.
• Gesprächsverläufe: beim Anbieter gespeicherte Chats, oft zur Auswertung oder Qualitätssicherung.
• Ausgaben des Systems: Antworten, die selbst personenbezogene Angaben enthalten können.

Die DSK weist darauf hin, dass ein Personenbezug auch ohne Namen entstehen kann – etwa aus der Kombination mehrerer Angaben. „Wir fragen ja keine Namen ab“ reicht als Begründung deshalb selten aus.

Rollen und Verträge: wer verantwortlich ist

Das Unternehmen, das den Chatbot auf seiner Website einsetzt, ist in aller Regel Verantwortlicher. Der Chatbot-Anbieter verarbeitet die Daten in seinem Auftrag. Laut DSK liegt beim Einsatz externer KI-Anbieter meist eine Auftragsverarbeitung nach Art. 28 DSGVO vor – mit einem entsprechenden Vertrag. Häufig nutzt der Chatbot-Anbieter seinerseits ein Sprachmodell eines großen KI-Unternehmens; dieser ist dann Unterauftragsverarbeiter.

Nicht jede Konstellation ist so eindeutig. Nutzt ein Anbieter die Daten auch für eigene Zwecke oder entwickeln mehrere Partner eine Lösung gemeinsam, kann laut DSK eine gemeinsame Verantwortlichkeit nach Art. 26 DSGVO in Betracht kommen. Dann muss vertraglich geregelt sein, wer welche Pflichten übernimmt.

Diese Fragen sollten Sie jedem Anbieter vor Vertragsschluss stellen:

Rechtsgrundlage: worauf die Verarbeitung gestützt wird

Jede Verarbeitung braucht eine Rechtsgrundlage nach Art. 6 DSGVO – und die DSK betont, dass sie für jeden Verarbeitungsschritt geklärt werden muss: Eingabe, Verarbeitung, Ausgabe und gegebenenfalls Speicherung. In der Praxis kommen vor allem in Betracht:

• Vertragsanbahnung: Wenn Besucher konkrete Anfragen stellen, etwa nach einem Termin oder einem Angebot.
• Berechtigtes Interesse: Für allgemeine Auskünfte zu Leistungen, Öffnungszeiten oder Abläufen – mit Abwägung der Interessen der Nutzer.
• Einwilligung: Für Zusatzfunktionen, die über das Beantworten der Frage hinausgehen, etwa die Auswertung von Chats für Marketingzwecke.

Welche Grundlage im Einzelfall trägt, hängt vom Zweck und der Ausgestaltung ab. Halten Sie die Entscheidung im Verzeichnis der Verarbeitungstätigkeiten fest.

Cookies und Einbindung: § 25 TDDDG

Neben der DSGVO gilt für Websites das Telekommunikation-Digitale-Dienste-Datenschutz-Gesetz (TDDDG). Nach § 25 TDDDG ist das Speichern von Informationen auf dem Gerät des Nutzers – oder der Zugriff darauf – grundsätzlich nur mit Einwilligung erlaubt. Eine Ausnahme gilt, wenn es unbedingt erforderlich ist, um einen vom Nutzer ausdrücklich gewünschten Dienst bereitzustellen.

Für Chatbots bedeutet das: Ob ein Widget ohne Einwilligung laden darf, hängt von der technischen Umsetzung ab. Lädt es schon beim Seitenaufruf Skripte und Cookies eines Drittanbieters, obwohl niemand den Chat geöffnet hat, ist das schwer als „unbedingt erforderlich“ zu begründen. Ein datenschutzfreundlicher Weg ist, das Widget erst zu laden, wenn der Besucher aktiv auf „Chat starten“ klickt, oder es in den Cookie-Banner einzubinden. Wie das Zusammenspiel mit dem Banner aussieht, beschreibt der Beitrag Cookie-Banner und DSGVO.

Anbieter außerhalb der EU

Viele Sprachmodelle stammen von US-Unternehmen. Für Übermittlungen in die USA gibt es seit Juli 2023 den Angemessenheitsbeschluss zum EU-US Data Privacy Framework: Daten dürfen an US-Unternehmen übermittelt werden, die unter diesem Rahmen zertifiziert sind. Das Gericht der EU hat den Beschluss im September 2025 bestätigt. Endgültig ruhig ist das Thema damit nicht – frühere Abkommen hat der Europäische Gerichtshof gekippt.

Praktisch heißt das: Prüfen Sie, ob der Anbieter und seine Unterauftragsverarbeiter zertifiziert sind oder andere Garantien wie Standardvertragsklauseln nutzen, und ob eine Verarbeitung in der EU möglich ist. Die DSK nennt Drittstaatenübermittlungen ausdrücklich als ein Risiko offener Cloud-Dienste und empfiehlt, wo möglich, geschlossene Systeme.

Training, Speicherung und Betroffenenrechte

Die Orientierungshilfe der DSK enthält mehrere Empfehlungen, die direkt auf Chatbots übertragbar sind:

• Kein Training mit Eingaben: Anwendungen, die Ein- und Ausgaben nicht für das Training nutzen, sind vorzuziehen. Fehlt eine Abschaltmöglichkeit, braucht auch das Training eine Rechtsgrundlage.
• Datenschutzfreundliche Voreinstellungen: Training und dauerhafte Eingabe-Historie standardmäßig deaktivieren.
• Löschung und Berichtigung: Betroffenenrechte müssen technisch umsetzbar sein. Laut DSK gilt ein bloßer Filter, der Daten nur ausblendet, nicht als Löschung.
• Datensicherheit: KI-Systeme sind IT-Systeme und brauchen entsprechende Schutzmaßnahmen.

Transparenz: Datenschutzerklärung und KI-Hinweis

Besucher müssen wissen, mit wem sie es zu tun haben und was mit ihren Daten passiert. Dafür sind zwei Ebenen nötig:

Datenschutzerklärung

Nach Art. 13 DSGVO informieren Sie über Zweck und Rechtsgrundlage, Empfänger einschließlich Anbieter und Unterauftragsverarbeiter, Drittlandübermittlungen, Speicherdauer und Betroffenenrechte. Die DSK empfiehlt, auch die Funktionsweise verständlich zu erklären und dafür die nötige Dokumentation vom Anbieter einzufordern.

Hinweis im Chatfenster

Die KI-Verordnung (Verordnung (EU) 2024/1689) verlangt in Artikel 50, dass KI-Systeme für die direkte Interaktion mit Menschen so gestaltet sind, dass Nutzer erkennen, dass sie mit einer KI kommunizieren – sofern das nicht offensichtlich ist. Diese Pflicht gilt seit dem 2. August 2026. Ein kurzer Satz zu Beginn des Chats erfüllt beides: KI-Hinweis und Kurzinformation. Zum Beispiel: „Ich bin der digitale Assistent von Weber Haustechnik und beantworte Fragen auf Grundlage unserer Website. Bitte geben Sie keine sensiblen Daten ein. Mehr in unserer Datenschutzerklärung.“ Welche weiteren Pflichten die KI-Verordnung mit sich bringt, steht im Beitrag EU AI Act für KMU.

Richtige Antworten und keine automatischen Entscheidungen

Datenschutz betrifft auch die Qualität der Antworten. Die DSK weist darauf hin, dass unrichtige Ergebnisse selbst zu unzulässigen Verarbeitungen führen können. Ein Chatbot, der falsche Angaben über Personen macht oder Kundendaten verwechselt, ist also nicht nur ein Imageproblem. Beschränken Sie den Bot deshalb auf geprüftes Wissen, etwa die Inhalte Ihrer Website, und lassen Sie ihn bei Unsicherheit auf einen Menschen verweisen.

Entscheidungen mit rechtlicher Wirkung oder ähnlich erheblicher Beeinträchtigung – etwa die Ablehnung eines Antrags – sollten nicht allein der Chatbot treffen. Die DSK betont, dass Menschen KI-Vorschläge tatsächlich prüfen müssen und nicht nur formal beteiligt sein dürfen.

Datenschutz-Folgenabschätzung

Ob eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO nötig ist, hängt vom Einzelfall ab. Die DSK geht davon aus, dass beim Einsatz von KI häufig ein hohes Risiko vorliegt. Bei einem einfachen Chatbot, der nur Fragen zu Öffnungszeiten und Leistungen beantwortet, fällt die Bewertung anders aus als bei einem Bot, der Gesundheitsfragen aufnimmt oder Kundenkonten einsieht. Prüfen und dokumentieren Sie die Entscheidung in jedem Fall. Wer im Team darüber hinaus mit ChatGPT und ähnlichen Werkzeugen arbeitet, sollte auch dafür Regeln festlegen – siehe ChatGPT im Unternehmen.

Checkliste vor dem Start

• Zweck und Einsatzbereich des Chatbots sind schriftlich festgelegt.
• Ein Auftragsverarbeitungsvertrag liegt vor, Unterauftragsverarbeiter sind bekannt.
• Serverstandort und Drittlandübermittlung sind geklärt und dokumentiert.
• Eingaben werden nicht zum Training genutzt, Speicherfristen sind festgelegt.
• Das Widget lädt erst nach Klick oder Einwilligung, falls es nicht unbedingt erforderlich ist.
• Im Chatfenster steht ein Hinweis, dass eine KI antwortet, und die Bitte, keine sensiblen Daten einzugeben.
• Die Datenschutzerklärung beschreibt den Chatbot vollständig.
• Der Bot greift nur auf geprüftes Wissen zu und verweist bei Unsicherheit an Menschen.
• Die Notwendigkeit einer Datenschutz-Folgenabschätzung ist geprüft.
• Datenschutzbeauftragter und gegebenenfalls Betriebsrat sind eingebunden.

Häufige Fragen

Quellen

1. Datenschutzkonferenz: Orientierungshilfe Künstliche Intelligenz und Datenschutz (Mai 2024)
2. Verordnung (EU) 2016/679 (DSGVO), EUR-Lex – Art. 6, 9, 13, 28, 35
3. § 25 TDDDG: Schutz der Privatsphäre bei Endeinrichtungen
4. Verordnung (EU) 2024/1689 (KI-Verordnung), EUR-Lex – Art. 50 Transparenzpflichten
5. Heuking: EuG bestätigt Wirksamkeit des EU-US Data Privacy Framework (September 2025) – Urteil T-553/23