DSGVO-konforme KI: Hosting, AVV und EU AI Act verständlich erklärt
Hinweis: Dieser Ratgeber gibt einen technischen und organisatorischen Überblick und ist keine Rechtsberatung. Für verbindliche Aussagen im Einzelfall wenden Sie sich bitte an Ihre Datenschutzbeauftragte, Ihren Datenschutzbeauftragten oder eine Fachanwältin bzw. einen Fachanwalt.
Kurz gesagt: KI lässt sich datenschutzgerecht einsetzen, wenn vor dem Projektstart geklärt ist, welche personenbezogenen Daten auf welcher Rechtsgrundlage verarbeitet werden, wo Anwendung, Datenbank und Modell laufen (am einfachsten in Deutschland oder der EU), welche Auftragsverarbeitungsverträge (AVV) nötig sind, dass Ihre Daten nicht zum Training genutzt werden und wie der EU AI Act Ihre Anwendung einstuft. Die Verantwortung bleibt beim einsetzenden Unternehmen.
1. Warum Datenschutz bei KI eine eigene Frage ist
Wer ein KI-System einführt, gibt Daten an ein Modell: Fragen, Dokumente, Gesprächsverläufe. Diese Daten enthalten oft Informationen über Personen, etwa Namen in einer E-Mail, Angaben in einem Vertrag oder Beschreibungen in einem Kundenfall. Bei klassischer Software ist meist klar, wo die Daten liegen. Bei KI kommen weitere Fragen hinzu: Welches Modell verarbeitet die Eingabe? In welchem Land steht der Rechner? Wird die Eingabe gespeichert? Und darf sie für das Training eines Modells verwendet werden?
Die gute Nachricht: Datenschutzgerechte KI ist möglich, auch im Mittelstand. Sie erfordert aber, dass die Fragen rechtzeitig gestellt werden, am besten bevor das erste System gebaut ist. Dieser Ratgeber ordnet die wichtigsten Punkte ein: Verantwortlichkeit, Hosting, Auftragsverarbeitung, Modelltraining und den EU AI Act.
2. Die Grundlagen: personenbezogene Daten und Verantwortlichkeit
Die Datenschutz-Grundverordnung (DSGVO) gilt, sobald personenbezogene Daten verarbeitet werden. Das sind alle Informationen, die sich auf eine identifizierbare Person beziehen. Dazu zählen offensichtliche Angaben wie Name, E-Mail-Adresse oder Telefonnummer, aber auch Kundennummern in Verbindung mit weiteren Angaben, Fotos oder Inhalte einer Beschwerde.
Wichtig ist die Rollenverteilung. Verantwortlicher ist, wer über Zweck und Mittel der Verarbeitung entscheidet, in der Regel Ihr Unternehmen. Auftragsverarbeiter ist, wer Daten in Ihrem Auftrag und nach Ihren Weisungen verarbeitet, etwa ein Dienstleister, der Ihnen einen Workflow betreibt, oder ein Hosting-Anbieter. Die Verantwortung für die Rechtmäßigkeit bleibt beim Verantwortlichen, auch wenn die Technik von anderen kommt. Das ist der häufigste Denkfehler: Wer eine Agentur oder einen Cloud-Dienst beauftragt, gibt die Arbeit ab, aber nicht die Verantwortung.
Zu den Grundsätzen der DSGVO zählen unter anderem Zweckbindung (Daten nur für den vorgesehenen Zweck), Datenminimierung (nur so viel wie nötig), Speicherbegrenzung (nicht länger als nötig) und Transparenz (Betroffene werden informiert). Für KI bedeutet das praktisch: Geben Sie einem System nur die Daten, die es für die Aufgabe braucht, und legen Sie fest, wie lange Eingaben und Ergebnisse aufbewahrt werden.
Außerdem braucht jede Verarbeitung eine Rechtsgrundlage, etwa die Erfüllung eines Vertrags, ein berechtigtes Interesse oder eine Einwilligung. Welche im Einzelfall passt, sollte die Datenschutzbeauftragte oder der Datenschutzbeauftragte beurteilen.
3. Hosting: Wo Ihre Daten verarbeitet werden
„Hosting“ bezeichnet, wo ein System technisch läuft. Bei KI-Projekten sind meist mehrere Orte beteiligt: die Anwendung oder der Workflow, die Datenbank und das KI-Modell. Jeder Ort kann unterschiedlich gewählt werden.
Hosting in Deutschland oder der EU. Server stehen in einem Rechenzentrum innerhalb der EU. Das vereinfacht den Datenschutz erheblich, weil keine Übermittlung in Drittländer stattfindet. Für Projekte mit sensiblen Daten ist das unser Standardvorschlag, und es ist bei Vertion grundsätzlich möglich.
Eigene Infrastruktur oder eigene Instanz (Self-Hosting). Die Software läuft auf Servern, die Sie kontrollieren. So behalten Sie die volle Hoheit über Daten und Zugriff, tragen aber auch den Betrieb. Ein Beispiel: Bei einem Finanzdienstleister läuft n8n auf einem eigenen Server in Deutschland über den Hosting-Vertrag des Kunden; Betrieb und Betreuung übernehmen wir.
Cloud-Dienste in EU-Regionen. Große Anbieter wie AWS, Microsoft Azure oder Google Cloud bieten Regionen innerhalb der EU an. Für KI-Modelle spricht man von EU-Inferenz, wenn die Berechnung in einer EU-Region stattfindet, beispielsweise in Frankfurt. Welche Modelle in welcher Region verfügbar sind, unterscheidet sich je nach Anbieter und ändert sich, deshalb prüfen wir das projektbezogen.
Selbst betriebene Modelle. Offene Modelle wie Llama oder Mistral lassen sich auf eigener Hardware oder gemieteten Servern betreiben. Dann verlassen Eingaben die eigene Umgebung nie. Der Preis sind Hardware, Betrieb und gegebenenfalls geringere Leistung im Vergleich zu den größten Cloud-Modellen.
Drittlandsübermittlung. Wird ein Modell oder Dienst außerhalb der EU betrieben, etwa in den USA, gelten zusätzliche Anforderungen an die Übermittlung. Dafür gibt es Mechanismen wie Angemessenheitsbeschlüsse oder Standardvertragsklauseln. Wer sie vermeiden will, wählt eine EU-Region.
Ein wichtiger Hinweis: Hosting in der EU ist ein starker Baustein, aber kein Freibrief. Es ersetzt weder Rechtsgrundlage noch Vertrag noch Zugriffskonzept.
4. Der Auftragsverarbeitungsvertrag (AVV)
Sobald ein Dienstleister in Ihrem Auftrag personenbezogene Daten verarbeitet, verlangt Art. 28 DSGVO einen schriftlichen oder elektronischen Vertrag, den Auftragsverarbeitungsvertrag (AVV). Er enthält typischerweise:
- Gegenstand, Dauer, Art und Zweck der Verarbeitung sowie die Arten der Daten und Kategorien der betroffenen Personen
- die Pflicht, Daten nur auf dokumentierte Weisung zu verarbeiten
- technische und organisatorische Maßnahmen zum Schutz der Daten
- Regeln zu Unterauftragsverarbeitern, also weiteren Dienstleistern in der Kette
- Unterstützung bei Betroffenenanfragen und Meldungen von Datenpannen
- Rückgabe oder Löschung der Daten nach Ende des Auftrags
Bei KI-Projekten ist die Kette oft länger als gedacht: Die Agentur betreibt den Workflow, ein Hosting-Anbieter stellt den Server, ein Modellanbieter verarbeitet die Anfragen. Für jede Stufe, die personenbezogene Daten sieht, braucht es entsprechende Vereinbarungen. Ein guter Dienstleister legt seine Unterauftragsverarbeiter offen.
Vertion schließt bei Projekten mit personenbezogenen Daten einen AVV ab und stimmt ihn vor Projektbeginn mit Ihnen ab, damit Sie ihn in Ruhe prüfen können. Wer einen Dienstleister auswählt, sollte genau das verlangen und nachfragen, wo Daten tatsächlich verarbeitet werden.
5. Trainieren Anbieter mit Ihren Daten?
Eine häufige Sorge lautet, dass eigene Daten in die Trainingsdaten eines Modells einfließen und womöglich bei anderen auftauchen. Ob das passiert, hängt vom Anbieter und von der Vertragsart ab. Nutzen Sie ein Modell über eine Unternehmensschnittstelle (API) mit entsprechenden Vertragsbedingungen, schließen viele Anbieter die Nutzung von Eingaben für das Training aus; bei frei zugänglichen Verbraucherangeboten kann das anders sein. Die Bedingungen ändern sich zudem, deshalb sollten Sie sie bei der Auswahl und in regelmäßigen Abständen prüfen.
In der Praxis wählen wir Zugänge, bei denen Eingaben nicht zum Training verwendet werden, und halten das im Projekt fest. Wo die Daten besonders sensibel sind, kommt ein selbst betriebenes Modell infrage. Unabhängig davon gilt: Geben Sie Mitarbeitenden klare Regeln, welche öffentlichen KI-Dienste sie nutzen dürfen. Der unkontrollierte Einsatz privater Konten für Firmendaten ist eines der häufigsten Risiken. Eine kurze interne Richtlinie, die festlegt, welche Dienste für welche Datenarten erlaubt sind, ist oft der wirksamste und günstigste Schritt. Ergänzen Sie sie um eine Ansprechperson für Rückfragen, damit Mitarbeitende im Zweifel nachfragen, statt auf eigene Faust zu entscheiden.
6. Der EU AI Act in Kürze
Der EU AI Act (Verordnung (EU) 2024/1689) ist das erste umfassende Gesetz der EU zu künstlicher Intelligenz. Er verfolgt einen risikobasierten Ansatz mit vier groben Stufen:
Unzulässiges Risiko. Bestimmte Anwendungen sind verboten, etwa manipulative Systeme oder bestimmte Formen der sozialen Bewertung von Personen. Im normalen Geschäftsalltag des Mittelstands kommen sie kaum vor.
Hohes Risiko. Für KI in sensiblen Bereichen gelten strenge Anforderungen an Risikomanagement, Datenqualität, Dokumentation, menschliche Aufsicht und mehr. Beispiele sind Systeme, die über den Zugang zu Beschäftigung oder Bildung mitentscheiden, oder bestimmte Sicherheitsbauteile. Wer KI für Personalauswahl einsetzt, sollte genau hinsehen.
Begrenztes Risiko (Transparenzpflichten). Hier gilt vor allem: Menschen müssen erkennen können, dass sie mit einer KI interagieren, etwa bei einem Chatbot auf Ihrer Website. Auch für KI-erzeugte Inhalte gibt es Kennzeichnungspflichten in bestimmten Fällen.
Minimales Risiko. Für die meisten alltäglichen Anwendungen, etwa Dokumentenverarbeitung oder interne Assistenten, bestehen keine besonderen Pflichten aus dem AI Act. Die DSGVO gilt trotzdem.
Eine Besonderheit betrifft alle Unternehmen, die KI einsetzen: Sie müssen Maßnahmen ergreifen, um die KI-Kompetenz ihrer Beschäftigten zu fördern (Art. 4). Schulungen und klare interne Regeln sind dafür ein sinnvoller Weg.
Die Pflichten gelten zeitlich gestaffelt. Die Verordnung (EU) 2026/1744 („Digital Omnibus on AI“), in Kraft seit dem 27. Juli 2026, hat dabei vor allem die Fristen für Hochrisiko-Systeme verschoben. Für die meisten Anwendungen in KMU sind heute zwei Artikel maßgeblich: Art. 4 (Maßnahmen zur KI-Kompetenz) und, bei Chatbots, Art. 50 (Hinweis auf die KI).
Was gilt ab wann? (Stand: 10. November 2026)
| Pflicht | Gilt ab | Fundstelle |
|---|---|---|
| Verbotene Praktiken (Art. 5) | 2. Februar 2025 | Art. 113 Abs. 3 lit. a |
| Zwei neue Verbote: KI zur Erzeugung nicht einvernehmlicher intimer Deepfakes und von Material über sexuellen Kindesmissbrauch (Art. 5 Abs. 1 lit. ba, bb) | 2. Dezember 2026 | VO (EU) 2026/1744; Art. 113 Abs. 3 lit. a |
| Maßnahmen zur KI-Kompetenz (Art. 4) | 2. Februar 2025, in geänderter Fassung seit 27. Juli 2026 | Art. 113 Abs. 3 lit. a; VO (EU) 2026/1744 |
| Pflichten für KI-Modelle mit allgemeinem Verwendungszweck (GPAI, Kapitel V) | 2. August 2025; für Modelle, die vorher in Verkehr gebracht wurden, bis 2. August 2027 | Art. 113, Art. 111 Abs. 3 |
| Transparenzpflichten (Art. 50), etwa der Hinweis, dass man mit einer KI spricht | 2. August 2026 | Art. 113 |
| Maschinenlesbare Kennzeichnung KI-erzeugter Inhalte (Art. 50 Abs. 2) für generative Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden | Übergangsfrist bis 2. Dezember 2026 | Art. 111 Abs. 4 |
| Hochrisiko-Systeme nach Anhang III (etwa Beschäftigung und Bildung) | 2. Dezember 2027 | Art. 113 Abs. 3 lit. c Ziff. i |
| Hochrisiko-Systeme nach Anhang I (KI in regulierten Produkten) | 2. August 2028 | Art. 113 Abs. 3 lit. c Ziff. ii |
Fundstellen beziehen sich auf die KI-Verordnung (EU) 2024/1689. Quellen: konsolidierte Fassung auf EUR-Lex (Stand 27. Juli 2026) und Verordnung (EU) 2026/1744 auf EUR-Lex. Für Ihren Einzelfall prüfen Sie bitte den aktuellen Stand bei den offiziellen EU-Quellen oder bei Ihrer Rechtsberatung.
Praktisch beginnt die Einordnung mit einer einfachen Frage: Was soll das System tun, und welche Auswirkungen haben seine Ergebnisse auf Menschen? Je stärker Entscheidungen über Personen betroffen sind, desto genauer muss man hinsehen.
7. Datenschutz im Projekt: Eine Checkliste
Die folgende Liste hilft Ihnen, die wichtigsten Punkte vor Projektstart zu klären:
- Zweck: Wofür genau soll das System eingesetzt werden?
- Daten: Welche Daten werden verarbeitet, und sind personenbezogene Daten dabei? Lässt sich die Menge reduzieren?
- Rechtsgrundlage: Auf welcher Grundlage werden die Daten verarbeitet?
- Rollen: Wer ist Verantwortlicher, wer Auftragsverarbeiter, wer Unterauftragsverarbeiter?
- AVV: Liegen die nötigen Verträge vor, auch für Hosting und Modellanbieter?
- Standort: Wo laufen Anwendung, Datenbank und Modell? Gibt es Drittlandsübermittlungen?
- Training: Ist ausgeschlossen, dass Ihre Daten für das Training genutzt werden?
- Zugriff: Wer darf was sehen? Werden Berechtigungen aus Ihren Systemen berücksichtigt?
- Löschung: Wie lange werden Eingaben, Ergebnisse und Protokolle gespeichert?
- Transparenz: Sind Betroffene informiert, und erkennen Nutzer, dass sie mit einer KI sprechen?
- Risiko: Wie wirkt sich ein Fehler aus, und wo gehört ein Mensch in den Ablauf?
- Dokumentation: Ist die Verarbeitung im Verzeichnis der Verarbeitungstätigkeiten erfasst und, falls nötig, eine Datenschutz-Folgenabschätzung vorgenommen?
Je früher Sie diese Fragen beantworten, desto geringer der Aufwand. Nachträgliche Korrekturen sind fast immer teurer als eine saubere Planung.
8. Fazit
Datenschutzgerechte KI ist weniger eine Frage der Technologie als der Sorgfalt. Die wichtigsten Hebel sind bekannt: nur notwendige Daten verarbeiten, einen Standort in Deutschland oder der EU wählen, Verträge sauber regeln, Training mit Ihren Daten ausschließen, den Einsatz transparent machen und Menschen dort einbinden, wo es um Entscheidungen geht. Der EU AI Act ergänzt das um Pflichten, die für die meisten Mittelstandsanwendungen überschaubar sind, aber nicht ignoriert werden dürfen.
Bei Vertion denken wir Datenschutz von Anfang an mit, schließen einen AVV ab und planen den Standort gemeinsam mit Ihnen. Die rechtliche Gesamtbewertung bleibt bei Ihnen und Ihren Beraterinnen und Beratern. Wenn Sie ein konkretes Vorhaben haben, besprechen wir die technischen Optionen gern im Erstgespräch.
Häufige Fragen kurz beantwortet
Ist KI mit der DSGVO vereinbar?
Ja, wenn die Verarbeitung eine Rechtsgrundlage hat, nur notwendige Daten verarbeitet werden, die Verträge mit allen beteiligten Dienstleistern geregelt sind und Betroffene informiert werden. Hosting in Deutschland oder der EU vereinfacht das erheblich, ersetzt aber weder Rechtsgrundlage noch Vertrag noch Zugriffskonzept.
Brauche ich einen AVV mit meinem KI-Dienstleister?
Ja, sobald ein Dienstleister in Ihrem Auftrag personenbezogene Daten verarbeitet (Art. 28 DSGVO). Das gilt für jede Stufe der Kette, die solche Daten sieht, etwa für die Agentur, den Hosting-Anbieter und den Modellanbieter.
Was verlangt der EU AI Act von meinem Unternehmen?
Das hängt von der Risikostufe der Anwendung ab. Für die meisten alltäglichen Anwendungen wie Dokumentenverarbeitung oder interne Assistenten bestehen keine besonderen Pflichten aus dem AI Act; bei einem Chatbot müssen Nutzer erkennen können, dass sie mit einer KI sprechen. Unternehmen, die KI einsetzen, müssen außerdem Maßnahmen zur KI-Kompetenz ihrer Beschäftigten ergreifen.
Weiterführend: Glossar: DSGVO, AVV, AI Act, EU-Inferenz, Self-Hosting · FAQ: Datenschutz & Sicherheit · Leistung: KI-Beratung & Workshops
Mehr zum Thema: KI und Vertraulichkeit: Hosting, Modelle und Verträge für Dienstleister · KI und DSGVO in SaaS-Unternehmen: Was Sie klären sollten
Ihre Frage war nicht dabei?
Dann sprechen wir direkt darüber. Im kostenlosen Erstgespräch (30 Minuten, per Microsoft Teams) klären wir, ob und wie sich Ihr Vorhaben umsetzen lässt. Antwort auf Anfragen innerhalb eines Werktags.
Tel. 0155 60917641 · info@vertion.de
