KI im Kleinbetrieb datenschutzkonform einsetzen
Künstliche Intelligenz kann Anrufe annehmen, Anfragen beantworten und Texte vorbereiten. Sobald dabei personenbezogene Daten verarbeitet werden, gilt die Datenschutz-Grundverordnung. Das ist kein Grund zum Verzicht, aber ein Grund, den Einsatz vorher sauber zu planen.
Dieser Artikel gibt einen Überblick über die wichtigsten Punkte. Er ersetzt keine Rechtsberatung. Wenn Ihr Betrieb einen Datenschutzbeauftragten hat, beziehen Sie ihn früh ein.
Erst klären, welche Daten fließen
Am Anfang steht eine einfache Frage: Welche Informationen bekommt der KI-Dienst zu sehen? Ein Chatbot, der Öffnungszeiten und Leistungen erklärt, verarbeitet unter Umständen gar keine personenbezogenen Daten. Ein Telefonassistent, der Namen, Rückrufnummern und Anliegen aufnimmt, tut es in jedem Fall.
Schreiben Sie für jeden geplanten Einsatz auf, welche Daten eingegeben, gespeichert und weitergegeben werden. Das hilft bei allen folgenden Schritten und ist zugleich der Grundstein für den Eintrag im Verzeichnis der Verarbeitungstätigkeiten.
Besondere Vorsicht gilt bei Gesundheitsdaten und anderen besonderen Kategorien nach Artikel 9 der DSGVO. Wer etwa in einer Praxis einen Telefonassistenten einsetzt, sollte so planen, dass Diagnosen und Befunde gar nicht erst abgefragt werden. Für Berufsgeheimnisträger wie Ärzte kommt die Schweigepflicht nach § 203 StGB hinzu: Externe Dienstleister müssen dann zusätzlich zur Verschwiegenheit verpflichtet werden.
So wenig Daten wie möglich
Der einfachste Datenschutz ist der, den man nicht braucht. Viele KI-Anwendungen kommen mit deutlich weniger Daten aus, als man zunächst denkt:
- Anfragen ohne Namen und Kundennummer verarbeiten lassen, wenn die Aufgabe das erlaubt.
- Gesprächsmitschnitte nur speichern, wenn sie wirklich gebraucht werden, und Löschfristen festlegen.
- Dem KI-Dienst nur die Unterlagen geben, die er für seine Aufgabe braucht, nicht das ganze Laufwerk.
- Zusammenfassungen statt vollständiger Abschriften weitergeben.
Verträge mit Dienstleistern
Verarbeitet ein externer Dienst personenbezogene Daten in Ihrem Auftrag, brauchen Sie in der Regel einen Vertrag zur Auftragsverarbeitung nach Artikel 28 DSGVO. Seriöse Anbieter stellen ihn bereit. Achten Sie darauf, dass er alle beteiligten Dienste abdeckt, also etwa Spracherkennung, Sprachmodell und Telefonie, und dass eingesetzte Unterauftragnehmer aufgeführt sind.
Prüfen Sie außerdem, ob der Anbieter Ihre Eingaben zum Training seiner Modelle verwendet. Bei geschäftlichen Zugängen lässt sich das meist ausschließen, bei kostenlosen Angeboten für Privatpersonen häufig nicht. Für betriebliche Daten sollten Sie nur Zugänge nutzen, bei denen diese Frage vertraglich geklärt ist.
Wo die Daten verarbeitet werden
Viele leistungsfähige KI-Dienste stammen von Anbietern außerhalb der EU. Eine Übermittlung in Drittländer ist nicht verboten, braucht aber eine Grundlage, etwa einen Angemessenheitsbeschluss der EU-Kommission (für die USA das EU-US Data Privacy Framework, sofern der Anbieter zertifiziert ist) oder Standardvertragsklauseln. Ob diese Grundlage für den konkreten Dienst besteht, gehört zu den Punkten, die vor dem Start geklärt sein sollten.
Manche Anbieter bieten an, Daten ausschließlich in Rechenzentren in der EU zu verarbeiten. Diese Möglichkeit sollten Sie nutzen, wo sie besteht. In unseren Projekten klären wir vorab, welche Dienste wo Daten verarbeiten, und sagen Ihnen das, bevor etwas eingerichtet wird.
Transparenz gegenüber Kunden
Menschen sollen wissen, wann sie mit einer Maschine sprechen. Die europäische KI-Verordnung schreibt das seit August 2026 für Systeme vor, die direkt mit Personen kommunizieren, es sei denn, es ist ohnehin offensichtlich. Ein Chatbot sollte sich deshalb als KI-Assistent vorstellen, ein Telefonassistent am Anfang des Gesprächs sagen, dass er automatisch antwortet.
Hinzu kommen die Informationspflichten der DSGVO. Ergänzen Sie Ihre Datenschutzerklärung um den neuen Einsatz: welche Daten, zu welchem Zweck, auf welcher Rechtsgrundlage, an welche Dienstleister und wie lange sie gespeichert werden. Sollen Telefongespräche aufgezeichnet werden, muss das vorher angekündigt werden und der Anrufer einverstanden sein, denn das unbefugte Aufzeichnen des nichtöffentlich gesprochenen Wortes ist in Deutschland strafbar.
Die KI-Verordnung erwartet außerdem von Betrieben, die KI-Systeme einsetzen, dass sie die KI-Kompetenz ihrer Mitarbeitenden fördern. Unabhängig davon gehört eine kurze Einweisung, was das System kann, wo es Fehler macht und wann ein Mensch übernehmen muss, zu jeder Einführung.
Ein Mensch behält die Kontrolle
KI-Systeme machen Fehler, auch wenn sie sehr überzeugend formulieren. Planen Sie deshalb von Anfang an, wo ein Mensch prüft oder übernimmt. Ein Telefonassistent sollte dringende Anliegen durchstellen können, ein Chatbot bei unklaren Fragen auf einen persönlichen Kontakt verweisen. Entscheidungen mit rechtlicher Wirkung für Kunden sollten nicht allein von einer KI getroffen werden; Artikel 22 DSGVO setzt solchen rein automatisierten Entscheidungen enge Grenzen.
Oft ist die vernünftigste Lösung gar keine KI. Eine feste Regel in einer Prozessautomatisierung ist leichter zu prüfen und verarbeitet nur die Daten, die sie braucht.
Checkliste vor dem Start
- Zweck und verarbeitete Daten sind schriftlich festgehalten.
- Für alle beteiligten Dienste liegt ein Vertrag zur Auftragsverarbeitung vor.
- Ein Training mit Ihren Daten ist ausgeschlossen oder bewusst vereinbart.
- Der Verarbeitungsort ist bekannt, Drittlandübermittlungen sind abgesichert.
- Datenschutzerklärung und Verzeichnis der Verarbeitungstätigkeiten sind ergänzt.
- Die KI gibt sich als solche zu erkennen, Aufzeichnungen werden angekündigt.
- Löschfristen sind festgelegt, und das Team ist eingewiesen.
- Bei hohem Risiko, etwa bei Gesundheitsdaten, ist geprüft, ob eine Datenschutz-Folgenabschätzung nötig ist.
Wie wir einen KI-Chatbot oder einen KI-Telefonassistenten für Ihren Betrieb aufbauen, lesen Sie auf den jeweiligen Seiten.
Häufige Fragen
Darf ich Kundendaten in einen KI-Chat eingeben?
Nur, wenn der Dienst dafür vertraglich geeignet ist, also mit Auftragsverarbeitungsvertrag und ohne Training mit Ihren Eingaben. Kostenlose Zugänge für Privatpersonen sind dafür in der Regel nicht geeignet.
Muss ein KI-Telefonassistent sagen, dass er eine KI ist?
Ja, Anrufer sollen erkennen können, dass sie mit einem automatischen System sprechen. Am einfachsten geschieht das mit einem kurzen Hinweis zu Beginn des Gesprächs.
Sie planen den Einsatz von KI?
Beschreiben Sie kurz, worum es geht. Wir melden uns mit Rückfragen oder einem Vorschlag für ein erstes Gespräch.
Kontaktformular