KI und Datenschutz in Einrichtungen: Leitplanken für den Einsatz

Hinweis: Dieser Ratgeber gibt einen praxisnahen Überblick und ist keine Rechtsberatung. Für verbindliche Aussagen im Einzelfall wenden Sie sich bitte an Ihre Datenschutzbeauftragte oder Ihren Datenschutzbeauftragten oder an eine spezialisierte Beratung.

Kurz gesagt: Einrichtungen brauchen für KI keine völlig neuen Regeln, aber klare Leitplanken: Welche Daten dürfen in welche Systeme, wo läuft die Verarbeitung, welche Verträge sind nötig und wer entscheidet? Mit einer kurzen Richtlinie, einer Risikoeinschätzung je Anwendungsfall und einem Verzeichnis der eingesetzten Werkzeuge lässt sich vieles ordnen, bevor es zu Wildwuchs kommt.

1. Warum Einrichtungen besonders genau hinschauen

Forschungseinrichtungen, Hochschulen, Stiftungen und ähnliche Organisationen arbeiten oft mit Daten, die besondere Sorgfalt verlangen: personenbezogene Daten von Beschäftigten, Studienteilnehmenden oder Antragstellern, unveröffentlichte Forschungsergebnisse, Verträge mit Dritten. Gleichzeitig sind die Strukturen dezentral. Einzelne Arbeitsgruppen probieren Werkzeuge aus, oft mit dem besten Willen, ohne dass die Datenschutzstelle davon erfährt.

Das Ergebnis ist ein typisches Muster: Jemand nutzt ein öffentliches KI-Werkzeug mit einem privaten Konto, um einen Text zu verbessern oder ein Dokument zusammenzufassen. Was dabei hochgeladen wird, bleibt unklar. Leitplanken schaffen hier Orientierung, ohne Neugier auszubremsen.

Hinzu kommt, dass Verantwortung in Einrichtungen oft verteilt ist: Die Leitung trägt die Gesamtverantwortung, die Datenschutzbeauftragte berät, die IT betreibt die Systeme, und die Fachbereiche entscheiden über den konkreten Einsatz. Ohne abgestimmte Regeln wartet jede Seite auf die andere. Ein gemeinsamer Rahmen, der festlegt, wer was entscheidet, spart Rückfragen und verhindert, dass gute Ideen an Unsicherheit scheitern. Er sorgt außerdem dafür, dass Beschäftigte nicht im Zweifel zu inoffiziellen Werkzeugen greifen, weil kein offizieller Weg bekannt ist.

2. Vier Fragen, die jeder KI-Einsatz beantworten sollte

Bevor eine Anwendung startet, helfen vier einfache Fragen:

1. Welche Daten gehen hinein? Öffentliche Informationen, interne Dokumente, personenbezogene Daten, besonders schützenswerte Daten?
2. Wo wird verarbeitet? In der eigenen Infrastruktur, in einer EU-Region eines Anbieters oder bei einem Anbieter außerhalb der EU?
3. Welcher Vertrag liegt zugrunde? Gibt es einen AVV, und werden Eingaben für das Training von Modellen verwendet?
4. Wer prüft das Ergebnis? Wer trägt die Verantwortung, wenn eine Antwort falsch ist oder weitergegeben wird?

Aus den Antworten ergibt sich der Schutzbedarf. Eine Anwendung, die nur öffentliche Texte verarbeitet, braucht weniger Vorkehrungen als ein Assistent, der auf interne Personalunterlagen zugreift.

3. Hosting und Modellwahl

Die technische Ausgestaltung beeinflusst, was datenschutzrechtlich möglich ist. Grob lassen sich drei Wege unterscheiden:

• Eigene Infrastruktur oder eigene Modelle: Eingaben verlassen die Einrichtung nicht (On-Premise, Self-Hosting). Das bietet die höchste Kontrolle, verlangt aber Betrieb und Fachwissen.
• Cloud in einer EU-Region: Modelle werden bei großen Anbietern in der EU betrieben (EU-Inferenz). Prüfen Sie Vertragsbedingungen, Unterauftragnehmer und Zugriffsrechte des Anbieters.
• Öffentliche Dienste: Einfach nutzbar, aber mit der geringsten Kontrolle über Verarbeitung und Speicherung. Für interne oder personenbezogene Daten meist nicht geeignet. Bei Anbietern in den USA ist zusätzlich die Grundlage für die Datenübermittlung zu klären, etwa eine Zertifizierung unter dem EU-US Data Privacy Framework (Angemessenheitsbeschluss der EU-Kommission vom 10. Juli 2023; das Gericht der EU hat eine Klage dagegen am 3. September 2025 abgewiesen, ein Rechtsmittel beim EuGH wurde eingelegt) oder Standardvertragsklauseln. Lassen Sie das je nach Anbieter und Vertragsvariante im Einzelfall rechtlich prüfen.

Die Wahl hängt vom Schutzbedarf ab. Für viele Anwendungen, etwa eine interne Wissenssuche, genügt eine EU-Cloud mit sauberem Vertrag. Bei sehr sensiblen Daten kann ein selbst betriebenes Modell sinnvoll sein. Mehr zur Verarbeitungskette bei KI finden Sie im Ratgeber DSGVO-konforme KI: Hosting, AVV und EU AI Act.

4. Eine kurze Richtlinie statt langer Verbote

Viele Einrichtungen fahren mit einer kurzen, verständlichen Richtlinie besser als mit einem Katalog aus Verboten. Bewährt haben sich:

• Ampel-Logik für Daten: Grün (öffentlich, darf in freigegebene Werkzeuge), Gelb (intern, nur in geprüften Systemen), Rot (personenbezogen oder vertraulich, nur mit ausdrücklicher Freigabe).
• Liste freigegebener Werkzeuge: Welche Dienste und Assistenten sind geprüft, mit welchen Einstellungen?
• Regeln für Ergebnisse: KI-Antworten sind Entwürfe, die Fachleute prüfen. Quellen und Zahlen werden verifiziert.
• Ansprechpersonen: An wen wenden sich Mitarbeitende bei Fragen oder Pannen?
• Kennzeichnung: Wo es sinnvoll oder vorgeschrieben ist, wird der KI-Einsatz kenntlich gemacht.

Praxis-Tipp: Beginnen Sie mit zwei Seiten und ergänzen Sie nach den ersten Erfahrungen. Eine Richtlinie, die jemand liest, ist besser als eine perfekte, die niemand kennt.

5. Personenbezogene Daten, Transparenz und KI-Kompetenz

Wo personenbezogene Daten verarbeitet werden, gelten die üblichen Anforderungen der DSGVO: Rechtsgrundlage, Informationspflichten, Datensparsamkeit, Löschfristen und gegebenenfalls eine Datenschutz-Folgenabschätzung. Bei KI kommt eine Besonderheit hinzu: Eingaben in einen Prompt sind ebenfalls Verarbeitungen. Wie Sie das im Einzelfall einordnen, stimmen Sie mit Ihrer Datenschutzbeauftragten ab.

Automatisierte Entscheidungen mit rechtlicher Wirkung für Personen unterliegen besonderen Vorgaben (Art. 22 DSGVO). Wir raten dazu, KI nur als Unterstützung einzusetzen und Entscheidungen bei Menschen zu belassen. Ob Art. 22 DSGVO im konkreten Einsatz anwendbar ist, hängt vom Einzelfall ab.

Zusätzlich enthält der EU AI Act in Art. 4 Vorgaben zur KI-Kompetenz von Beschäftigten in Organisationen, die KI einsetzen; die Vorschrift ist seit dem 2. Februar 2025 anwendbar. Seit der KI-Omnibus-Verordnung (EU) 2026/1744 (27. Juli 2026) heißt das: Maßnahmen zur Förderung der KI-Kompetenz ergreifen, ohne ein bestimmtes Niveau garantieren zu müssen. Kurze Schulungen und klare Regeln gehören in jedem Fall zum Einstieg.

6. Ein Fahrplan für den Einstieg

1. Bestandsaufnahme: Welche KI-Werkzeuge werden bereits genutzt, offiziell und inoffiziell?
2. Anwendungsfälle priorisieren: Wo ist der Nutzen groß und der Schutzbedarf überschaubar?
3. Leitplanken festlegen: Kurze Richtlinie, Werkzeugliste, Zuständigkeiten.
4. Pilot mit einem Anwendungsfall: Zum Beispiel eine interne Wissenssuche auf freigegebenen Dokumenten.
5. Auswerten und ausweiten: Mit den Erfahrungen die Regeln anpassen.

Beim Einstieg unterstützen wir mit KI-Beratung & Workshops, auf Wunsch zusammen mit Ihren Datenschutz- und Sicherheitsverantwortlichen.

Häufige Fragen kurz beantwortet

Dürfen Mitarbeitende öffentliche KI-Dienste nutzen?

Das legt Ihre Einrichtung fest. Für öffentliche Informationen kann das unkritisch sein, für interne oder personenbezogene Daten sollten Sie nur geprüfte Werkzeuge mit passendem Vertrag zulassen.

Brauchen wir immer einen AVV?

Wenn ein Dienstleister personenbezogene Daten in Ihrem Auftrag verarbeitet, in der Regel ja. Ob das im Einzelfall zutrifft, klären Sie mit Ihrer Datenschutzbeauftragten.

Werden unsere Daten zum Training verwendet?

Das hängt vom Anbieter und von der Vertragsvariante ab. Prüfen Sie die Bedingungen und halten Sie fest, wie der Anbieter mit Eingaben umgeht.

Wenn Sie Leitplanken für den KI-Einsatz in Ihrer Einrichtung entwickeln möchten, besprechen wir das im kostenlosen Erstgespräch (30 Minuten). Schreiben Sie uns über die Kontaktseite.

Weiterführend: Leistung KI-Beratung & Workshops · Branche Forschung & Wissenschaft · Glossar: DSGVO, AVV, EU AI Act, EU-Inferenz