KI, DSGVO und EU AI Act: Wo liegen Ihre Daten, was ist zu prüfen?

Die kurze Antwort: Ihre Daten liegen dort, wo jeder beteiligte KI-Dienst sie verarbeitet, und das kann je nach Anbieter und Vertrag die EU oder ein Drittland sein. Vor dem Einsatz prüfen Sie deshalb für jeden Dienst Verarbeitungsort, Auftragsverarbeitungsvertrag und die Frage, ob Ihre Eingaben zum Training genutzt werden; der EU AI Act kommt hinzu und regelt vor allem, wofür Sie KI einsetzen.

„Dürfen wir das überhaupt?“ fragen Geschäftsführer oft, bevor es um KI im eigenen Betrieb geht. Die ehrliche Antwort lautet meistens: Ja, wenn Sie wissen, wo Ihre Daten hingehen und in welche Schublade Ihr Anwendungsfall fällt. Dieser Beitrag geht die Fragen in der Reihenfolge durch, in der sie im Alltag auftauchen. Er ist Einordnung, keine Rechtsberatung; die Einstufung Ihres konkreten Falls gehört in fachkundige Hände.

Wo werden unsere Daten verarbeitet, wenn wir KI einsetzen?

Ein KI-Ablauf besteht meist aus mehreren Diensten, und jeder kann woanders verarbeiten:

• Das KI-Modell, das Texte liest, Belege auswertet oder Antworten entwirft.
• Die Ablaufsteuerung, die Daten aus Ihren Systemen holt, an das Modell gibt und das Ergebnis weiterreicht.
• Der Speicher, in dem Zwischenergebnisse, Protokolle oder Wissensbestände liegen.

Fragen Sie für jeden dieser Dienste einzeln: Wo wird verarbeitet, wo wird gespeichert, und wer hat Zugriff? „Der Anbieter sitzt in der EU“ reicht als Antwort nicht, entscheidend ist der Ort der Verarbeitung. Lassen Sie sich die Antwort schriftlich geben, nicht nur im Gespräch.

Bei uns ist die Antwort Teil jeder Lösung: Daten bleiben in der EU, etwa über Supabase in Frankfurt. Personenbezogene Daten landen nicht ohne zulässige Grundlage in einem Drittland oder in einem Modelltraining. Das ist kein Zusatz, sondern die Voraussetzung dafür, dass ein Einsatz überhaupt trägt.

Nutzt der Anbieter unsere Eingaben zum Training?

Die Antwort steht in den Vertrags- und Nutzungsbedingungen, und sie kann sich zwischen den Tarifen desselben Anbieters unterscheiden. Prüfen Sie deshalb nicht den Anbieter, sondern den konkreten Vertrag, den Ihr Unternehmen abschließt:

• Werden Eingaben und Ergebnisse zum Training oder zur Verbesserung von Modellen verwendet?
• Lässt sich das ausschließen, und ist der Ausschluss vertraglich festgehalten?
• Wie lange werden Eingaben gespeichert, und wer beim Anbieter kann sie einsehen?

Ein häufiger blinder Fleck sind private Konten: Nutzen Mitarbeitende KI-Werkzeuge mit privaten Zugängen, gelten deren Bedingungen, nicht Ihre. Was dagegen hilft, steht im Beitrag zu Shadow AI im Mittelstand.

Brauchen wir einen Auftragsverarbeitungsvertrag?

Wenn ein externer Dienst personenbezogene Daten in Ihrem Auftrag verarbeitet, verlangt die DSGVO in der Regel einen Auftragsverarbeitungsvertrag (Art. 28 DSGVO). Bei KI-Diensten ist das fast immer der Fall, sobald Kundennamen, E-Mails oder Bewerbungen durch den Ablauf laufen. Prüfen Sie:

1. Bietet der Anbieter einen Auftragsverarbeitungsvertrag an, und ist er unterschrieben?
2. Welche Unterauftragnehmer setzt er ein, und wo verarbeiten diese?
3. Gibt es für Verarbeitung außerhalb der EU eine zulässige Übermittlungsgrundlage?

Ob zusätzlich eine Datenschutz-Folgenabschätzung nötig ist (Art. 35 DSGVO), hängt davon ab, wie hoch das Risiko für die betroffenen Personen ist. Diese Einordnung gehört zum Datenschutzbeauftragten.

Dürfen Kundendaten in ein KI-System?

Ja, wenn drei Bedingungen erfüllt sind:

Rechtsgrundlage. Jede Verarbeitung personenbezogener Daten braucht eine Grundlage, meist Vertragserfüllung, berechtigtes Interesse oder Einwilligung. Ein KI-Ablauf, der Kundenanfragen vorsortiert, um sie zu beantworten, lässt sich in der Regel auf die Vertragserfüllung stützen. Wer das nicht sauber bestimmt, hat ein Problem, völlig unabhängig vom AI Act.

Datenminimierung. Die KI darf nur die Daten sehen, die sie für ihre Aufgabe braucht. Es ist verlockend, „alles“ in ein System zu geben, aber genau das ist der Fehler. Saubere KI-Abläufe arbeiten mit dem nötigen Minimum.

Verarbeitungsort und Übermittlung. Die Daten bleiben in der EU, oder es gibt eine zulässige Grundlage für die Übermittlung in ein Drittland. Siehe die ersten beiden Abschnitte.

Wie schützen wir gebündeltes Firmenwissen?

Wer Angebote, Kalkulationen, Zeichnungen und Erfahrungswissen an einer Stelle bündelt, damit eine KI darauf zugreifen kann, schafft einen wertvollen Bestand. Fünf Regeln schützen ihn:

1. Zugriff nach Rolle. Die KI sieht nur, was die anfragende Person auch ohne KI sehen dürfte.
2. Nur das Nötige. Nicht der ganze Dateiserver, sondern die Bestände, die der Ablauf braucht.
3. Protokolle. Wer hat wann was abgefragt? Ohne Protokoll fällt ein Abfluss nicht auf.
4. Zugänge gehören Ihnen. Konten, Schlüssel und Daten liegen bei Ihrem Unternehmen, nicht beim Dienstleister.
5. Keine privaten Konten. Firmenwissen gehört nicht in private KI-Zugänge einzelner Mitarbeitender.

Warum gebündeltes Wissen gerade bei Personalwechsel wertvoll ist, beschreibt der Beitrag KI gegen Wissensverlust.

Welche Pflichten bringt der EU AI Act zusätzlich?

Der EU AI Act reguliert nicht „KI“ pauschal, sondern unterscheidet nach dem Risiko des konkreten Einsatzes. Die EU-Kommission beschreibt vier Stufen (EU-Kommission, „AI Act“):

Verboten (unannehmbares Risiko): Praktiken wie Social Scoring, manipulative Systeme oder Emotionserkennung am Arbeitsplatz. Für den Mittelstandsalltag praktisch nie relevant, aber gut zu wissen: Mitarbeiterüberwachung per Emotionsanalyse ist tabu.

Hochrisiko: KI, die wesentlich über Menschen entscheidet, etwa ein System, das Bewerbungen vorsortiert oder bewertet, eine Kreditwürdigkeitsprüfung oder KI im Zugang zu Bildung. Hier gelten die strengsten Pflichten: Risikomanagement, dokumentierte Datenqualität, Protokollierung, menschliche Aufsicht. Wer hier landet, braucht ein Konzept, kein Bauchgefühl.

Begrenztes Risiko (Transparenzpflicht): KI, mit der Menschen direkt interagieren, etwa ein Chatbot auf Ihrer Website, oder KI-erzeugte Inhalte. Die Pflicht ist überschaubar: Sie müssen kenntlich machen, dass eine KI im Spiel ist.

Minimales Risiko: Der größte Teil des Mittelstandseinsatzes. KI, die im Hintergrund Routine übernimmt: Angebotsentwürfe vorbereiten, E-Mails vorsortieren, Berichte zusammenführen. Hier gibt es keine besonderen Pflichten aus dem AI Act.

Die wichtigste Einsicht: Nicht der Einsatz von KI ist reguliert, sondern der Zweck. Dieselbe Technik kann minimal oder hochriskant sein, je nachdem, worüber sie entscheidet.

Die Fristen nach dem AI-Omnibus

Im Juli 2026 ist der sogenannte AI-Omnibus in Kraft getreten, die Verordnung (EU) 2026/1744. Er verschiebt vor allem die Hochrisiko-Regeln nach hinten (EU-Kommission, „AI Omnibus enters into force“, 27.07.2026; Europäisches Parlament, Legislative Train „Digital Omnibus on AI“). Stand heute gelten diese Daten:

Datum	Was gilt
1. August 2024	EU AI Act tritt in Kraft
2. Februar 2025	Verbotene KI-Praktiken untersagt; Pflicht zur KI-Kompetenz
2. August 2025	Pflichten für KI-Basismodelle (GPAI)
2. August 2026	Die meisten übrigen Regeln, darunter die Transparenzregeln
2. Dezember 2027	Hochrisiko-KI in eigenständigen Systemen (Anhang III), vorher 2. August 2026
2. August 2028	Hochrisiko-KI in Produkten (Anhang I), vorher 2. August 2027

Für die Kennzeichnung KI-erzeugter Inhalte gilt bei Systemen, die vor dem 2. August 2026 auf den Markt gekommen sind, eine Übergangsfrist bis zum 2. Dezember 2026.

Die Pflicht zur KI-Kompetenz bleibt auch nach dem AI-Omnibus bestehen. Laut den Fragen und Antworten der EU-Kommission gilt sie weiter für Anbieter und Betreiber von KI-Systemen, ein bestimmtes Niveau wird aber nicht vorgeschrieben (EU-Kommission, „AI Literacy, Questions & Answers“). Prüfen Sie vor verbindlichen Entscheidungen den aktuellen Stand; die Einstufung Ihres Falls gehört in fachkundige Hände.

Was Geschäftsführer jetzt tun sollten

Sie brauchen keine Rechtsabteilung, um die ersten Schritte zu gehen. Sie brauchen Klarheit:

1. Bestandsaufnahme: Wo setzen Sie heute schon KI ein, auch versteckt in Software, die KI-Funktionen mitbringt? Ohne diese Liste planen Sie im Blindflug.
2. Datenwege klären: Wo verarbeitet jeder Dienst, gibt es Auftragsverarbeitungsverträge, werden Eingaben zum Training genutzt?
3. Risikoklasse bestimmen: Ordnen Sie jeden Einsatz grob einer der vier Stufen zu. Entscheidet die KI über Menschen, oder unterstützt sie Routine? Diese eine Frage klärt die meisten Fälle.
4. KI-Kompetenz im Team: Wer mit KI arbeitet, sollte wissen, was sie kann, wo sie Fehler macht und welche Daten tabu sind. Eine kurze Schulung reicht oft, sie sollte aber stattfinden.
5. Dokumentieren: Halten Sie Ihre Einordnung schriftlich fest, damit Sie bei Rückfragen handlungsfähig sind.

Diese fünf Schritte kosten wenig und nehmen die meiste Unsicherheit. Erfahrungsgemäß zeigt sich danach: Der geplante Einsatz ist unkritisch, und der Weg ist frei. Was sonst vor dem Start stehen sollte, zeigt die Checkliste vor dem KI-Start.

Regulatorik gehört in die Planung, nicht ans Ende

Der häufigste Fehler ist nicht, die Regeln zu verletzen, sondern KI aus Angst vor den Regeln gar nicht erst anzugehen. Dabei sind die meisten Mittelstandsanwendungen regulatorisch unkritisch, wenn die Datenwege sauber geklärt sind. Diese Reihenfolge, erst die Grundlage, dann der Ablauf, ist auch Teil eines realistischen Zeitplans für die KI-Einführung.

Deshalb ist Regulatorik bei uns kein Anhang, sondern Teil der Analyse von Anfang an. Unser KI Impact Audit (Report 48 Stunden nach dem Interview) liefert nicht nur drei konkrete KI-Hebel mit Stunden- und Euro-Schätzung, sondern auch eine Einordnung nach DSGVO und EU AI Act für genau diese Hebel. Was wir darüber hinaus anbieten, steht unter Leistungen.

Häufige Fragen

Wo werden unsere Daten verarbeitet, wenn wir KI einsetzen? Dort, wo jeder beteiligte Dienst sie verarbeitet: KI-Modell, Ablaufsteuerung und Speicher können unterschiedliche Standorte haben. Fragen Sie für jeden Dienst einzeln nach und lassen Sie sich die Antwort im Vertrag bestätigen.

Brauchen wir einen Auftragsverarbeitungsvertrag für KI-Dienste? Wenn ein externer Dienst personenbezogene Daten in Ihrem Auftrag verarbeitet, verlangt die DSGVO in der Regel einen solchen Vertrag. Die Einordnung im Einzelfall gehört zum Datenschutzbeauftragten.

Ab wann gilt der EU AI Act? Er ist seit dem 1. August 2024 in Kraft und gilt gestaffelt. Nach dem AI-Omnibus greifen die Hochrisiko-Regeln ab dem 2. Dezember 2027 für eigenständige Systeme und ab dem 2. August 2028 für Systeme in Produkten.

Welche KI-Systeme gelten als Hochrisiko? Systeme, die wesentlich über Menschen entscheiden oder in sensiblen Bereichen arbeiten, etwa Bewerberauswahl, Kreditwürdigkeitsprüfung, Zugang zu Bildung oder biometrische Identifikation. Typische Mittelstandsanwendungen wie E-Mail-Vorsortierung gehören meist nicht dazu.

KI Impact Audit buchen →