KI und DSGVO in SaaS-Unternehmen: Was Sie klären sollten

Hinweis: Dieser Ratgeber gibt einen technischen und organisatorischen Überblick und ist keine Rechtsberatung. Für verbindliche Aussagen im Einzelfall wenden Sie sich bitte an Ihre Datenschutzbeauftragte, Ihren Datenschutzbeauftragten oder eine Fachanwältin bzw. einen Fachanwalt.

Kurz gesagt: Als SaaS-Anbieter sind Sie meist Auftragsverarbeiter Ihrer Kunden. Setzen Sie KI ein, verlängert sich die Verarbeitungskette um Modellanbieter und Hosting, und Ihre Verträge müssen das abbilden. Klären Sie vor dem Start, welche Kundendaten in Prompts landen, wo sie verarbeitet werden und ob mit ihnen trainiert wird.

1. Warum SaaS eine besondere Ausgangslage hat

Ein SaaS-Unternehmen verarbeitet Daten seiner Kunden in deren Auftrag. In der Sprache der DSGVO sind Ihre Kunden Verantwortliche, Sie sind Auftragsverarbeiter. Sobald Sie ein KI-Modell einbinden, etwa für Textvorschläge im Produkt, Zusammenfassungen oder einen Support-Assistenten, geben Sie Daten an eine weitere Stelle. Das hat Folgen für Verträge, Transparenz und Technik.

Hinzu kommt eine zweite Ebene: Auch intern arbeiten Sie mit KI, etwa im Support, im Vertrieb oder in der Entwicklung. Dort liegt oft das größere Risiko, weil Mitarbeitende schnell einmal Kundendaten in ein frei verfügbares KI-Tool kopieren.

2. Rollen, Verträge und Speicherort

Zwei Konstellationen sollten Sie auseinanderhalten:

• KI-Funktion im Produkt: Sie verarbeiten Kundendaten als Auftragsverarbeiter und binden einen Modellanbieter als weiteren Dienstleister ein. Das ist ein Unterauftragsverhältnis. Nach Art. 28 DSGVO braucht der Unterauftragnehmer in der Regel vergleichbare Pflichten wie in Ihrem Vertrag mit dem Kunden, und Ihr Kunde muss je nach Vertragsgestaltung informiert werden oder zustimmen.
• Interne Nutzung: Hier sind Sie selbst Verantwortlicher für Mitarbeiter-, Interessenten- und Kontaktdaten, und der Modellanbieter ist Ihr Auftragsverarbeiter.

Was daraus folgt:

1. Der AVV mit Ihren Kunden sollte den Einsatz von KI-Komponenten und die Unterauftragsverarbeiter abbilden, gegebenenfalls mit aktualisierter Liste.
2. Mit dem Modellanbieter braucht es einen eigenen AVV und Aussagen zu Speicherort, Aufbewahrung und Training.
3. Änderungen an der Kette sollten Sie dokumentieren und kommunizieren.

Wie Rollen und AVV grundsätzlich zusammenhängen, erklärt unser Ratgeber DSGVO-konforme KI: Hosting, AVV und EU AI Act. Begriffe finden Sie im Glossar unter DSGVO und AVV.

Wo wird die Anfrage an das Modell berechnet? Viele Anbieter bieten Regionen innerhalb der EU an. Von EU-Inferenz spricht man, wenn die Berechnung in einer EU-Region erfolgt, etwa in Frankfurt (EU-Inferenz). Das vereinfacht die Lage, weil keine Übermittlung in ein Drittland stattfindet.

Ganz so einfach ist es nicht immer. Prüfen Sie, ob auch Protokolle, Missbrauchserkennung und Support-Zugriffe des Anbieters in der EU bleiben und welche Konzernstrukturen dahinterstehen. Wo ein Drittlandbezug bleibt, braucht es eine tragfähige Grundlage für die Übermittlung. Bei Anbietern in den USA kommen etwa eine Zertifizierung unter dem EU-US Data Privacy Framework (Angemessenheitsbeschluss der EU-Kommission vom 10. Juli 2023; das Gericht der EU hat eine Klage dagegen am 3. September 2025 abgewiesen, ein Rechtsmittel beim EuGH wurde eingelegt) oder Standardvertragsklauseln in Betracht. Welche Grundlage im Einzelfall trägt, lassen Sie rechtlich prüfen.

Wer Kunden mit besonders hohen Anforderungen hat, kann auch ein selbst betriebenes Modell erwägen, etwa Llama oder Mistral auf eigener oder gemieteter Infrastruktur. Dann verlassen Eingaben die Umgebung nicht, dafür steigen Betriebsaufwand und gegebenenfalls sinkt die Leistung.

3. Kundendaten in Prompts

Ein Prompt ist die Eingabe an das Modell. Alles, was darin steht, wird verarbeitet. Zur Datenminimierung gehört daher die Frage: Welche Daten braucht das Modell wirklich?

• Weglassen statt schützen: Nicht jede Funktion braucht Namen oder Kontaktdaten. Oft genügt der Sachverhalt.
• Pseudonymisieren: Wo Personenbezug nur für die Zuordnung nötig ist, können Pseudonyme (Ersatzwerte) eingesetzt und nach der Antwort wieder ersetzt werden.
• Berechtigungen beachten: Ein Assistent darf nur Daten sehen, die auch der Nutzer sehen darf.
• Protokolle begrenzen: Prompts und Antworten in Logs sind selbst personenbezogene Daten. Legen Sie Aufbewahrung und Zugriff fest.
• Training ausschließen: Nutzen Sie Zugänge, bei denen Eingaben nicht zum Training verwendet werden, und halten Sie das vertraglich fest.

Praxis-Tipp: Eine kurze interne Richtlinie, welche KI-Dienste für welche Datenarten erlaubt sind, ist oft der wirksamste und günstigste erste Schritt. Ergänzen Sie sie um eine Ansprechperson für Rückfragen.

4. Transparenz und KI-Verordnung

Ihre Kunden und deren Nutzer sollten wissen, wo KI zum Einsatz kommt. Das betrifft die Datenschutzhinweise ebenso wie die Produktbeschreibung. Zusätzlich kennt der EU AI Act Pflichten, die je nach Anwendung greifen: Transparenz bei Interaktion mit einer KI, KI-Kompetenz der Beschäftigten und strengere Anforderungen für Hochrisiko-Anwendungen. Ob und wie Ihr Produkt betroffen ist, hängt vom Einsatzzweck ab, etwa ob die Funktion über den Zugang zu Beschäftigung oder Kredit mitentscheidet. Zu den Zeitpunkten: Die Transparenzpflichten nach Art. 50 sind seit dem 2. August 2026 anwendbar, Art. 4 (KI-Kompetenz) seit dem 2. Februar 2025. Für Hochrisiko-Systeme nach Anhang III gilt nach der KI-Omnibus-Verordnung (EU) 2026/1744 der 2. Dezember 2027, für Systeme nach Anhang I der 2. August 2028. Ob Ihr Produkt darunter fällt, lassen Sie im Einzelfall rechtlich prüfen.

5. Ein Blick in den Alltag: Drei typische Fälle

Textvorschläge im Produkt. Nutzer lassen sich Texte generieren oder Daten zusammenfassen. Hier fließen Kundendaten direkt in Prompts. Prüfen Sie, ob Nutzer informiert werden, ob sich die Funktion für einzelne Kunden abschalten lässt und welche Daten der Anbieter speichert.

Support-Assistent. Tickets enthalten oft mehr personenbezogene Daten, als man denkt: Namen, Signaturen, Screenshots, manchmal Zugangsdaten. Filtern Sie sensible Inhalte, bevor sie das Modell erreichen, und legen Sie fest, wie lange Gespräche gespeichert werden.

Entwicklung und Fehlersuche. Logs und Datenbankauszüge sind für die Fehleranalyse praktisch, enthalten aber echte Kundendaten. Setzen Sie auf anonymisierte oder synthetische Testdaten, bevor Sie Auszüge in ein KI-Werkzeug geben.

6. Checkliste für SaaS-Teams

1. Welche Funktionen und internen Prozesse nutzen KI?
2. Welche Daten fließen in Prompts, und sind personenbezogene darunter?
3. Wer sind die Modellanbieter, und liegen AVVs vor?
4. Sind Kunden-AVV und Unterauftragsverarbeiter-Liste aktuell?
5. Wo werden Daten verarbeitet und gespeichert?
6. Ist Training mit Ihren Daten ausgeschlossen?
7. Wie lange werden Prompts und Ergebnisse gespeichert?
8. Sind Datenschutzhinweise und Verarbeitungsverzeichnis angepasst?
9. Gibt es eine interne Richtlinie für KI-Tools?

Häufige Fragen kurz beantwortet

Dürfen wir Kundendaten an ein Sprachmodell senden?

Das hängt von Ihrem Vertrag mit dem Kunden, der Rechtsgrundlage und dem Vertrag mit dem Modellanbieter ab. Grundsätzlich ist es möglich, wenn die Kette sauber geregelt ist. Die Bewertung im Einzelfall gehört zu Ihrer Datenschutzberatung.

Reicht ein Server in der EU aus?

Er ist ein starker Baustein, aber kein Freibrief. Rechtsgrundlage, Verträge, Zugriffskonzept und Transparenz müssen trotzdem stimmen.

Müssen wir Kunden über neue Unterauftragsverarbeiter informieren?

In vielen AVV ist eine Information oder ein Widerspruchsrecht vereinbart. Prüfen Sie Ihre Vertragsmuster und halten Sie die Liste aktuell.

Wenn Sie KI in Produkt oder Support einführen möchten und die Datenschutzfragen früh klären wollen, sprechen wir im kostenlosen Erstgespräch über die technischen Optionen. Melden Sie sich über die Kontaktseite.

Weiterführend: Leistung KI-Beratung & Workshops · Branche IT, Software & SaaS · Glossar: DSGVO, AVV, EU-Inferenz, AI Act