EU-KI-Verordnung und Datenschutz: Das Verhältnis zur DSGVO erklärt

Die Verordnung (EU) 2024/1689, die EU-KI-Verordnung, ist das weltweit erste umfassende horizontale Gesetz zur Regulierung künstlicher Intelligenz. Sie trat am 1. August 2024 in Kraft und gilt in Phasen bis 2028. Sie ersetzt nicht die DSGVO. Jedes KI-System, das personenbezogene Daten verarbeitet, benötigt weiterhin eine eigene Rechtsgrundlage nach der DSGVO, und Organisationen sehen sich zwei sich überschneidenden Compliance-Regimen gleichzeitig gegenüber.

Für eine Einführung in die Datenschutzregeln, die der KI-Verordnung vorausgingen, siehe unseren Leitfaden zu den EU-Datenschutzgesetzen und die Erklärung Was ist die DSGVO.

Was ist die EU-KI-Verordnung?

Die Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates ist eine horizontale Verordnung: Sie gilt für KI-Systeme, die in der EU in Verkehr gebracht oder in Betrieb genommen werden, unabhängig davon, wo der Entwickler ansässig ist. Sie verfolgt einen risikobasierten, gestuften Ansatz, der KI-Anwendungsfälle in vier Kategorien einteilt: unannehmbares Risiko (grundsätzlich verboten), hohes Risiko (detaillierte Pflichten vor der Inbetriebnahme), begrenztes Risiko (nur Transparenzpflichten) sowie minimales oder kein Risiko (keine Pflichten). Die Verordnung wurde am 12. Juli 2024 im Amtsblatt veröffentlicht und trat gemäß Artikel 113 zwanzig Tage später, am 1. August 2024, in Kraft. Die Anwendung erfolgt gestaffelt über die folgenden vier Jahre, die letzte Phase im August 2028.

Der gestaffelte Anwendungszeitplan

Zu wissen, welche Pflichten bereits verbindlich sind und welche noch bevorstehen, ist für die Compliance-Planung wesentlich. Stand Juni 2026 stellt sich die Lage wie folgt dar:

2. Februar 2025 (IN KRAFT): Die verbotenen KI-Praktiken nach Artikel 5 sowie die Pflichten zur KI-Kompetenz für Anbieter und Betreiber wurden anwendbar. Jedes KI-System, das unter eine verbotene Kategorie fällt, musste bis zu diesem Zeitpunkt außer Betrieb genommen worden sein.

2. August 2025 (IN KRAFT): Die Pflichten für KI-Modelle mit allgemeinem Verwendungszweck (General-Purpose AI, GPAI) nach den Artikeln 51 bis 55 wurden anwendbar. Anbieter großer Basismodelle, einschließlich großer Sprachmodelle und multimodaler Modelle, unterliegen nun Anforderungen an die Transparenz von Trainingsdaten und an die Urheberrechtspolitik. Modelle, die als Modelle mit systemischem Risiko eingestuft werden (in der Regel solche, die mit mehr als 10^25 Gleitkommaoperationen trainiert wurden), unterliegen zusätzlichen Sicherheitsbewertungen.

2. August 2026 (BEVORSTEHEND): Die Transparenzpflichten nach Artikel 50 werden anwendbar. Sie umfassen die Offenlegung beim Einsatz von Chatbots, die Information über Emotionserkennung und biometrische Kategorisierung, die Kennzeichnung von Deepfakes sowie die maschinenlesbare Markierung synthetischer Inhalte. Der Digital Omnibus vom Juli 2026 hat sie nicht verschoben. Er hat lediglich eine eng begrenzte Übergangsfrist eingeführt: Anbieter von Systemen, die synthetische Inhalte erzeugen und bereits vor dem 2. August 2026 in Verkehr gebracht wurden, haben bis zum 2. Dezember 2026 Zeit, die Markierungspflicht nach Artikel 50 Absatz 2 zu erfüllen.

2. Dezember 2027 (BEVORSTEHEND): Die Hauptpflichten für eigenständige Hochrisiko-KI-Systeme nach Anhang III werden anwendbar, verschoben vom 2. August 2026 durch den Digital Omnibus vom Juli 2026. Dazu gehören die Anforderungen an die Datenverwaltung nach Artikel 10, die Pflichten der Betreiber nach Artikel 26, die Grundrechte-Folgenabschätzungen nach Artikel 27, technische Dokumentation, Protokollierung, Konformitätsbewertungen und Registrierungspflichten.

2. August 2028 (BEVORSTEHEND): Hochrisiko-KI-Systeme, die in bereits durch sektorale EU-Rechtsvorschriften nach Anhang I regulierte Produkte eingebettet sind (etwa Medizinprodukte, Maschinen und Ausrüstung der zivilen Luftfahrt), erhalten eine verlängerte Übergangsfrist. Ihre Pflichten aus der KI-Verordnung gelten erst ab diesem späteren Zeitpunkt, dem letzten Block der Verordnung, der anwendbar wird.

Für Compliance-Teams besteht die praktische Priorität darin, die Verbote nach Artikel 5 und die GPAI-Pflichten bereits umgesetzt zu haben, die Transparenzpflichten nach Artikel 50 ab August 2026 zu erfüllen und sich auf den Stichtag der Hochrisiko-Pflichten im Dezember 2027 vorzubereiten.

Die KI-Verordnung ersetzt nicht die DSGVO

Dies ist der wichtigste strukturelle Punkt zum Verhältnis zwischen der KI-Verordnung und dem Datenschutz. Erwägungsgrund 10 der Verordnung (EU) 2024/1689 stellt ausdrücklich fest, dass die Verordnung „nicht die Anwendung des geltenden Unionsrechts über die Verarbeitung personenbezogener Daten berühren" soll, einschließlich der DSGVO (Verordnung (EU) 2016/679), der Richtlinie zum Datenschutz bei der Strafverfolgung 2016/680 und der Verordnung 2018/1725 für EU-Organe.

Die Folge ist, dass Organisationen zwei unabhängigen und sich überschneidenden Compliance-Regimen unterliegen. Ein KI-System, das personenbezogene Daten verarbeitet, muss jede anwendbare Anforderung der DSGVO erfüllen: Es benötigt eine gültige Rechtsgrundlage nach Artikel 6 DSGVO für gewöhnliche personenbezogene Daten und eine gesonderte Bedingung nach Artikel 9 DSGVO für besondere Kategorien personenbezogener Daten. Es muss den Grundsatz der Datenminimierung (Artikel 5 Absatz 1 Buchstabe c DSGVO), den Grundsatz der Zweckbindung (Artikel 5 Absatz 1 Buchstabe b DSGVO) sowie sämtliche Rechte betroffener Personen beachten. Die KI-Verordnung bietet keinen Weg, diese Anforderungen zu umgehen.

Gleichzeitig genügt die Erfüllung der DSGVO-Anforderungen nicht den Vorgaben der KI-Verordnung. Ein System kann über eine vollkommen gültige DSGVO-Grundlage verfügen, gegenüber betroffenen Personen vollständig transparent sein und dennoch nach Artikel 5 der KI-Verordnung kategorisch verboten sein. Die beiden Regime wirken auf unterschiedlichen Ebenen: Die DSGVO regelt die Verarbeitung personenbezogener Daten, während die KI-Verordnung das Risiko regelt, das vom KI-System selbst für Einzelpersonen und die Gesellschaft ausgeht.

Die nationalen Datenschutzbehörden behalten alle ihre bestehenden Durchsetzungsbefugnisse nach der DSGVO. Zudem erhalten sie neue Aufgaben nach der KI-Verordnung, die im Abschnitt zur Durchsetzung weiter unten behandelt werden. Organisationen sollten davon ausgehen, dass ihre Datenschutzbehörde bei der Bewertung eines KI-Einsatzes beide Regulierungsrahmen gleichzeitig betrachtet.

Verbotene KI-Praktiken mit Datenschutzrelevanz: Artikel 5

Artikel 5 der KI-Verordnung listet acht Praktiken auf, die vollständig verboten sind, da ihre Risiken unabhängig von einem möglichen Nutzen als unannehmbar gelten. Sieben der acht verbotenen Praktiken stehen in direktem Zusammenhang mit Datenschutz- und Überwachungsbedenken. Alle gelten bereits seit dem 2. Februar 2025.

Social Scoring durch Behörden (Art. 5 Abs. 1 Buchst. c): KI-Systeme, die natürliche Personen anhand ihres sozialen Verhaltens oder ihrer Eigenschaften über mehrere Kontexte hinweg bewerten oder einstufen, wobei der daraus resultierende Sozialwert zu einer nachteiligen oder ungünstigen Behandlung in nicht zusammenhängenden Kontexten führt, sind verboten. Dies richtet sich gegen autoritär ausgerichtete staatliche Bewertungssysteme. Das Verbot gilt uneingeschränkt; es gibt keine Ausnahme für Zwecke des öffentlichen Interesses.

Strafrechtliche Risikobewertung allein auf Basis von Profiling (Art. 5 Abs. 1 Buchst. d): KI-Systeme, die zur Bewertung oder Vorhersage des Risikos eingesetzt werden, dass eine natürliche Person eine Straftat begeht, wobei diese Risikobewertung ausschließlich auf Profiling der Person oder der Bewertung von Persönlichkeitsmerkmalen und Eigenschaften beruht, sind verboten. Das Verbot enthält eine enge Ausnahme: KI, die die menschliche Bewertung einer strafrechtlichen Beteiligung auf Grundlage objektiver und überprüfbarer, unmittelbar mit einer Straftat verbundener Tatsachen unterstützt, fällt nicht darunter. Die Vorschrift richtet sich gegen Systeme, die ein statistisches Profil oder eine abgeleitete Persönlichkeit als ausreichende Grundlage behandeln, um einer Person einen Kriminalitätsrisikowert zuzuweisen, ohne diese Bewertung an konkret beobachtetes Verhalten zu knüpfen.

Ungezieltes Auslesen von Gesichtsbildern (Art. 5 Abs. 1 Buchst. e): Die Erstellung oder Erweiterung von Datenbanken zur Gesichtserkennung durch ungezieltes Auslesen von Gesichtsbildern aus dem Internet oder aus Videoüberwachungsaufnahmen ist verboten. Dies steht in unmittelbarem Zusammenhang mit Artikel 9 DSGVO, der biometrische Daten zur Identifizierung als besondere Kategorie behandelt, die eine ausdrückliche Einwilligung oder eine andere Bedingung nach Artikel 9 erfordert. Mehrere Anbieter hatten genau diese Praxis kommerzialisiert, bevor das Verbot in Kraft trat.

Emotionserkennung am Arbeitsplatz und in der Bildung (Art. 5 Abs. 1 Buchst. f): KI-Systeme, die auf die Gefühlszustände natürlicher Personen im Kontext von Arbeitsplatz oder Bildungseinrichtung schließen, sind verboten. Die einzige Ausnahme betrifft Sicherheitsgründe, etwa die Überwachung der Aufmerksamkeit von Fahrzeugführern. Entscheidend ist, dass dieses Verbot unabhängig davon gilt, ob die Organisation andernfalls eine Rechtsgrundlage nach der DSGVO nachweisen könnte, etwa berechtigte Interessen oder Einwilligung. Die KI-Verordnung erklärt die Praxis auf einer höheren Ebene für unzulässig, als es die Prüfung der Rechtsgrundlage nach der DSGVO leisten kann.

Biometrische Kategorisierung nach geschützten Merkmalen (Art. 5 Abs. 1 Buchst. g): KI-Systeme, die natürliche Personen anhand ihrer biometrischen Daten einzeln kategorisieren, um Rückschlüsse auf Rasse oder ethnische Herkunft, politische Meinungen, Gewerkschaftszugehörigkeit, religiöse oder weltanschauliche Überzeugungen, Sexualleben oder sexuelle Orientierung zu ziehen, sind verboten. Dies gilt auch dann, wenn die Kategorisierung eher wahrscheinlichkeitsbasiert als eindeutig ist. Die Überschneidung mit den besonderen Kategorien nach Artikel 9 DSGVO ist umfangreich und beabsichtigt.

Biometrische Echtzeit-Fernidentifizierung im öffentlichen Raum (Art. 5 Abs. 1 Buchst. h): Der Einsatz von Systemen zur biometrischen Echtzeit-Fernidentifizierung (RBI) in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken ist verboten, vorbehaltlich dreier eng gefasster Ausnahmen: gezielte Suche nach bestimmten Opfern von Entführung, Menschenhandel oder sexueller Ausbeutung; Abwehr einer konkreten und unmittelbaren terroristischen Bedrohung; sowie Identifizierung von Personen, die einer in Artikel 5 Absatz 2 aufgeführten schweren Straftat verdächtigt werden. Jeder Einsatz erfordert eine vorherige richterliche oder unabhängige verwaltungsrechtliche Genehmigung. Die Beschränkung stützt sich teilweise auf Artikel 16 AEUV, dieselbe vertragliche Rechtsgrundlage wie die DSGVO, was bestätigt, dass die biometrischen Verbote und die DSGVO ein gemeinsames verfassungsrechtliches Fundament teilen.

Kognitiv-verhaltensbezogene Manipulation (Art. 5 Abs. 1 Buchst. a bis b): Auch KI-Systeme, die unterschwellige Techniken jenseits des Bewusstseins einer Person einsetzen oder Schwächen bestimmter Gruppen ausnutzen, um das Verhalten auf eine Weise erheblich zu verzerren, die einen erheblichen Schaden verursacht, sind verboten, mit besonderem Augenmerk auf Kinder und Menschen mit Behinderungen.

Hochrisiko-KI: Datenverwaltung nach Artikel 10 (anwendbar ab 2. Dezember 2027)

Artikel 10 ist die detaillierteste datenspezifische Vorschrift der KI-Verordnung. Er verpflichtet Anbieter von Hochrisiko-KI-Systemen zur Datenverwaltung und -steuerung hinsichtlich der Datensätze, die zum Trainieren, Validieren und Testen dieser Systeme verwendet werden.

Die Pflichten nach Artikel 10 verlangen von Anbietern die Festlegung von Verfahren für: die Auswahlkriterien und Erhebungsmethoden für Trainings-, Validierungs- und Testdaten; die beabsichtigten Zwecke dieser Datensätze; die Prüfung der Daten auf mögliche Verzerrungen, die Schaden verursachen oder Grundrechte verletzen könnten; die Ermittlung etwaiger relevanter Datenlücken oder Mängel; sowie die Berücksichtigung von Merkmalen oder Besonderheiten, die den Datensatz für den beabsichtigten Zweck des Systems geeignet machen. Trainingsdatensätze müssen, soweit dies nach dem Stand der Technik möglich ist, fehlerfrei und vollständig sein (Artikel 10 Absätze 2 bis 4).

Der Zusammenhang mit der DSGVO ist struktureller, nicht redundanter Natur. Artikel 5 Absatz 1 Buchstabe b DSGVO verlangt, dass personenbezogene Daten für festgelegte, eindeutige und legitime Zwecke erhoben und nicht in einer mit diesen Zwecken unvereinbaren Weise weiterverarbeitet werden. Artikel 5 Absatz 1 Buchstabe c DSGVO verlangt Datenminimierung: Die Daten müssen dem Zweck angemessen und erheblich sowie auf das für die Zwecke notwendige Maß beschränkt sein. Artikel 10 der KI-Verordnung fügt eine eigenständige, KI-spezifische Ebene hinzu: Über die Begrenzung der erhobenen Daten hinaus müssen Anbieter aktiv dokumentieren, dass die Trainingsdaten zweckmäßig und frei von Verzerrungen sind, die diskriminierende oder schädliche Ergebnisse hervorbringen könnten.

Artikel 10 Absatz 5 schafft eine eng gefasste Ausnahme für Anbieter von Hochrisiko-KI-Systemen, die einer der wenigen Fälle ist, in denen die KI-Verordnung ausdrücklich in das System der besonderen Kategorien der DSGVO eingreift. Sie erlaubt die Verarbeitung besonderer Kategorien personenbezogener Daten in Trainingsdatensätzen, die andernfalls ohne eine spezifische Bedingung nach Artikel 9 DSGVO verboten wäre, jedoch strikt begrenzt auf das zur Erkennung und Korrektur von Verzerrungen erforderliche Maß, die zu Diskriminierung führen könnten. Diese Ausnahme unterliegt geeigneten Garantien und ist auf den Zweck der Verzerrungserkennung beschränkt. Sie ist keine allgemeine Lizenz zur Verarbeitung sensibler Daten beim KI-Training.

Zu den Kategorien eigenständiger Hochrisiko-Systeme nach Anhang III, die ab Dezember 2027 Artikel 10 erfüllen müssen, zählen: Systeme zur biometrischen Identifizierung und Kategorisierung; KI für das Management kritischer Infrastrukturen; Systeme, die bei Entscheidungen über den Zugang zu Bildung und Berufsausbildung eingesetzt werden; beschäftigungsbezogene Systeme einschließlich Personalauswahl, Leistungsbeurteilung und Aufgabenverteilung; Systeme, die beim Zugang zu wesentlichen privaten und öffentlichen Dienstleistungen eingesetzt werden, einschließlich Kreditwürdigkeitsprüfung und Sozialleistungsverwaltung; Systeme der Strafverfolgung; Systeme für Migration, Asyl und Grenzkontrolle; sowie Systeme, die in der Rechtspflege eingesetzt werden. Anbieter, die in eine dieser Kategorien einbauen, sollten die Umsetzung der Datenverwaltung jetzt beginnen, um für den Stichtag im Dezember 2027 gerüstet zu sein.

Die Grundrechte-Folgenabschätzung (FRIA): Artikel 27 (anwendbar ab 2. Dezember 2027)

Artikel 27 führt eine neue, für die KI-Verordnung spezifische Art der Folgenabschätzung ein: die Grundrechte-Folgenabschätzung (Fundamental Rights Impact Assessment, FRIA). Sie unterscheidet sich von der nach Artikel 35 DSGVO erforderlichen Datenschutz-Folgenabschätzung (DSFA), und Organisationen, die Hochrisiko-KI einsetzen, müssen unter Umständen beide durchführen.

Die FRIA-Pflicht trifft Betreiber, nicht Anbieter. Konkret gilt sie für Betreiber, die entweder öffentlich-rechtliche Einrichtungen sind oder private Akteure, die Dienstleistungen erbringen, die öffentlichen Dienstleistungen ihrer Art nach hinreichend nahekommen, etwa im Bank- und Versicherungswesen, bei der Wasser-, Gas- und Stromversorgung sowie beim Internetzugang (Artikel 27 Absatz 1).

Die FRIA muss das Risiko bewerten, das das Hochrisiko-KI-System für die durch die EU-Grundrechtecharta geschützten Grundrechte darstellt. Dazu zählen unter anderem das Recht auf Achtung des Privatlebens nach Artikel 7 der Charta, das Recht auf Schutz personenbezogener Daten nach Artikel 8 der Charta, das Recht auf Nichtdiskriminierung nach Artikel 21, die Rechte des Kindes nach Artikel 24, das Recht auf einen wirksamen Rechtsbehelf nach Artikel 47 sowie die Unschuldsvermutung nach Artikel 48. Die FRIA muss in der von der Kommission nach Artikel 71 der KI-Verordnung geführten EU-Datenbank für Hochrisiko-KI-Systeme registriert werden (Artikel 27 Absatz 2).

Die DSFA nach der DSGVO und die FRIA nach der KI-Verordnung erfüllen unterschiedliche Funktionen. Eine DSFA nach Artikel 35 DSGVO bewertet die Risiken für die Rechte und Freiheiten betroffener Personen, die sich aus der Verarbeitung personenbezogener Daten ergeben. Sie wird ausgelöst, wenn die Verarbeitung voraussichtlich ein hohes Risiko birgt, insbesondere bei Einsatz neuer Technologien. Eine FRIA nach Artikel 27 der KI-Verordnung bewertet das breitere Spektrum an Grundrechten, das durch ein KI-System betroffen sein kann, unabhängig davon, ob personenbezogene Daten unmittelbar betroffen sind. Ein System, das automatisierte Entscheidungen über den Zugang zu Sozialleistungen trifft, betrifft beides: Es verarbeitet personenbezogene Daten (was eine DSFA erfordert) und berührt grundlegende soziale Rechte (was eine FRIA erfordert). Beide Bewertungen müssen vor der Inbetriebnahme durchgeführt werden, und die Dokumentation für jede ist gesondert zu führen.

KI-Modelle mit allgemeinem Verwendungszweck: Pflichten seit August 2025 in Kraft

Die KI-Verordnung hat eine neue Kategorie regulierter Einrichtungen geschaffen: Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (General-Purpose AI, GPAI). GPAI-Modelle sind KI-Modelle, die mit umfangreichen Daten in großem Maßstab trainiert werden und in der Lage sind, ein breites Spektrum unterschiedlicher Aufgaben kompetent auszuführen. Große Sprachmodelle, multimodale Modelle, die Text, Bilder und Audio verarbeiten können, sowie ähnliche Basismodelle fallen unter diese Definition. Die Artikel 51 bis 55 der KI-Verordnung legen die Pflichten fest, die seit dem 2. August 2025 anwendbar sind.

Alle GPAI-Anbieter müssen: eine Zusammenfassung der Trainingsdaten veröffentlichen, die ausreichend detailliert ist, damit nachgelagerte Nutzer und Betreiber die Datenqualität, die Einhaltung des Urheberrechts und mögliche Verzerrungen bewerten können; eine Richtlinie zur Einhaltung des EU-Urheberrechts umsetzen, einschließlich der Regeln zur Ausnahme für Text- und Data-Mining nach der Richtlinie 2019/790; und technische Dokumentation veröffentlichen, die die Fähigkeiten, Grenzen und beabsichtigten Einsatzkontexte des Modells beschreibt. Anhang XIII legt die Anforderungen an die technische Dokumentation fest.

GPAI-Modelle, die als Modelle mit systemischem Risiko eingestuft werden, unterliegen zusätzlichen Pflichten. Die Schwelle für systemisches Risiko liegt nach Artikel 51 Absatz 1 Buchstabe b bei einer Trainingsrechenleistung von mehr als 10^25 Gleitkommaoperationen, wobei die Europäische Kommission diese Schwelle durch delegierten Rechtsakt anpassen kann. Anbieter von GPAI-Modellen mit systemischem Risiko müssen adversariale Tests und Red-Teaming durchführen, schwerwiegende Vorfälle dem Europäischen Büro für Künstliche Intelligenz melden, Cybersicherheitsmaßnahmen umsetzen und über ihren Energieverbrauch berichten. Diese Anforderungen tragen dem Umstand Rechnung, dass die größten Basismodelle aufgrund ihrer breiten Verbreitung und ihres Umfangs Schäden auf gesellschaftlicher statt nur individueller Ebene verursachen können.

Das datenschutzspezifische Bedenken bei GPAI-Modellen betrifft den Umfang personenbezogener Daten, der typischerweise beim Vortraining verwendet wird. Trainingsdatensätze mit Hunderten Milliarden Tokens, die aus dem Internet ausgelesen wurden, können personenbezogene Daten lebender Personen enthalten. GPAI-Anbieter können der DSGVO nicht dadurch entgehen, dass sie nun unter der KI-Verordnung reguliert werden. Enthalten Trainingsdaten personenbezogene Daten, ist weiterhin eine Rechtsgrundlage nach der DSGVO für diese Verarbeitung erforderlich, am häufigsten berechtigte Interessen (Artikel 6 Absatz 1 Buchstabe f DSGVO) im Rahmen einer Interessenabwägung, wobei diese Grundlage in Durchsetzungsverfahren in mehreren Mitgliedstaaten bereits angefochten wurde.

Wer setzt dies durch? Die Rolle der Datenschutzbehörden, des EDSA, des EDSB und des KI-Büros

Die KI-Verordnung schafft eine mehrschichtige Durchsetzungsarchitektur, in der Datenschutzbehörden für die datenschutzsensibelsten Sektoren eine zentrale Rolle spielen.

Artikel 74 Absatz 8 der KI-Verordnung bestimmt die nationalen Datenschutzbehörden zu den zuständigen Marktüberwachungsbehörden für Hochrisiko-KI-Systeme, die in den Bereichen Strafverfolgung, Migrationskontrolle, Asylverfahren und Rechtspflege verarbeitet werden. Dies ist eine bewusste Entscheidung: Diese Sektoren betreffen mit hoher Wahrscheinlichkeit die umfangreiche Verarbeitung sensibler personenbezogener Daten und wirken sich am ehesten auf Grundrechte aus. Datenschutzbehörden verfügen bereits über Fachwissen im Abwägen der Bedürfnisse der Strafverfolgung gegen Datenschutzrechte nach der DSGVO und der Richtlinie zum Datenschutz bei der Strafverfolgung, was sie zur geeigneten fachlichen Aufsichtsbehörde für diese Kontexte macht.

Für andere Hochrisiko-Sektoren müssen die Mitgliedstaaten nach Artikel 70 gesonderte nationale zuständige Behörden als Marktüberwachungsbehörden benennen.

Auf EU-Ebene spielen der Europäische Datenschutzausschuss (EDSA) und der Europäische Datenschutzbeauftragte (EDSB) jeweils beratende Rollen. Der EDSA gibt Leitlinien und Stellungnahmen zur Schnittstelle zwischen der KI-Verordnung und der DSGVO heraus, insbesondere zu biometrischer Identifizierung und Kategorisierung. Der EDSB beaufsichtigt den Einsatz von KI-Systemen durch EU-Organe und hat eigene Leitlinien zur Aufsicht über künstliche Intelligenz veröffentlicht. Im Februar 2026 schloss sich der EDSB einer über die Global Privacy Assembly koordinierten gemeinsamen Erklärung an, die von 61 Datenschutzbehörden unterzeichnet wurde und Besorgnis über KI-Systeme äußerte, die realistische Bilder und Videos identifizierbarer Personen ohne deren Wissen oder Einwilligung erzeugen, mit besonderem Augenmerk auf den Kinderschutz.

Das bei der Europäischen Kommission angesiedelte EU-Büro für Künstliche Intelligenz trägt die Gesamtverantwortung für die Koordination der Aufsicht über GPAI-Modelle und die grenzüberschreitende Durchsetzung. Es ist die zentrale Anlaufstelle für GPAI-Anbieter. Nationale Datenschutzbehörden und das KI-Büro sollen im Zuge der fortschreitenden Durchsetzung Koordinierungsprotokolle entwickeln, um Regelungslücken und Forum-Shopping zu verhindern.

Geldbußen: Bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Umsatzes

Artikel 99 der KI-Verordnung legt drei Stufen von Geldbußen fest, die alle bereits in Kraft sind, da die Bußgeldvorschriften selbst seit dem 2. August 2025 gemeinsam mit den GPAI-Pflichten gelten.

Die höchste Stufe gilt für Verstöße gegen die verbotenen Praktiken nach Artikel 5. Geldbußen können bis zu 35.000.000 Euro oder 7 Prozent des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres erreichen, je nachdem, welcher Betrag höher ist. Dies ist der Höchstbetrag, keine Standardgeldbuße, und die durchsetzenden Behörden müssen die Verhältnismäßigkeit berücksichtigen (Artikel 99 Absatz 3).

Die mittlere Stufe gilt für Verstöße gegen jede andere Pflicht, die Anbietern, Betreibern, Einführern, Händlern oder Bevollmächtigten in der Wertschöpfungskette der KI-Verordnung auferlegt wird, einschließlich der Hochrisiko-Pflichten nach den Kapiteln III und IV sowie der GPAI-Pflichten. Geldbußen können bis zu 15.000.000 Euro oder 3 Prozent des weltweiten Jahresumsatzes erreichen (Artikel 99 Absatz 4).

Die niedrigste Stufe gilt für die Bereitstellung falscher, unvollständiger oder irreführender Informationen gegenüber notifizierten Stellen oder nationalen zuständigen Behörden. Geldbußen können bis zu 7.500.000 Euro oder 1 Prozent des weltweiten Jahresumsatzes erreichen (Artikel 99 Absatz 5).

Für kleine und mittlere Unternehmen sowie Start-ups begrenzt die KI-Verordnung Geldbußen auf den jeweils niedrigeren Wert aus Prozentsatz und absolutem Betrag, was im Vergleich zur Behandlung großer Unternehmen eine gewisse Verhältnismäßigkeitserleichterung bietet.

Zum Vergleich: Artikel 83 Absatz 5 DSGVO begrenzt die höchste Bußgeldstufe auf 20.000.000 Euro oder 4 Prozent des weltweiten Jahresumsatzes. Die Stufe der verbotenen Praktiken der EU-KI-Verordnung setzt bei beiden Maßstäben einen höheren Höchstbetrag fest, was die Einschätzung des Gesetzgebers widerspiegelt, dass die schwerwiegendsten KI-Risiken in mancher Hinsicht gefährlicher sind als die schwerwiegendsten Datenschutzverstöße. In der Praxis werden Organisationen, die gegen die Verbote nach Artikel 5 verstoßen, nahezu immer auch mit paralleler DSGVO-Durchsetzung konfrontiert, da diese Verbote typischerweise die groß angelegte Verarbeitung biometrischer oder verhaltensbezogener Daten betreffen.

Praktische Schritte zur Compliance

Organisationen, die in der EU tätig sind oder sich an EU-Ansässige richten, sollten die folgenden Schritte jetzt angehen:

Alle eingesetzten KI-Systeme dem Risikostufen-Rahmenwerk gegenüberstellen. Jedes System identifizieren, das möglicherweise unter die verbotenen Kategorien nach Artikel 5 fällt, und prüfen, ob es wie seit dem 2. Februar 2025 vorgeschrieben außer Betrieb genommen wurde.

Für GPAI-Anbieter: prüfen, ob Zusammenfassungen der Trainingsdaten, Richtlinien zur Einhaltung des Urheberrechts und technische Dokumentation vorhanden sind und den Anforderungen der Artikel 53 bis 55 entsprechen. Wurde das Modell mit mehr als 10^25 FLOPs trainiert, prüfen, ob die Pflichten für systemisches Risiko nach Artikel 55 gelten.

Für Anbieter und Betreiber von Hochrisiko-Systemen: die Dokumentation der Datenverwaltung nach Artikel 10 bereits jetzt beginnen, vor dem Anwendungsdatum am 2. Dezember 2027 für Systeme nach Anhang III und am 2. August 2028 für KI in regulierten Produkten. Dazu gehören Auswahlkriterien für Trainingsdaten, Aufzeichnungen zur Verzerrungsprüfung sowie die Dokumentation jeder Nutzung der Ausnahme nach Artikel 10 Absatz 5 für die besonderen Kategorien zur Korrektur von Verzerrungen.

Für Betreiber, die öffentliche Stellen oder Betreiber öffentlich-gleichwertiger Dienstleistungen sind: den FRIA-Prozess nach Artikel 27 parallel zum bestehenden DSFA-Prozess nach der DSGVO planen. Die beiden Bewertungen betreffen unterschiedliche Rechtsrahmen, stützen sich jedoch häufig auf dieselbe technische Dokumentation.

Alle KI-Systemeinsätze unabhängig sowohl gegen die KI-Verordnung als auch gegen die DSGVO überprüfen. Die Einhaltung des einen Regelwerks garantiert nicht die Einhaltung des anderen. Systeme mit einer gültigen DSGVO-Rechtsgrundlage können dennoch unter eine verbotene Kategorie fallen; Systeme unterhalb der Hochrisikoschwelle können dennoch eine risikoreiche Verarbeitung personenbezogener Daten beinhalten, die DSFAs nach der DSGVO auslöst.

Eine benannte Kontaktstelle für regulatorische Anfragen zur KI-Verordnung festlegen und Hochrisiko-Systeme in der EU-Datenbank nach Artikel 71 registrieren, sobald diese in Betrieb geht.

Weitere Leitfäden

• GDPR International Data Transfers: Chapter V Rules (2026)
• GDPR Right to Be Forgotten (Article 17) Explained
• Does GDPR Apply to US Companies? A Compliance Guide
• EU Data Privacy Laws: GDPR, AI Act & the 2025-2026 Digital Reforms
• What Is GDPR? Complete Guide to EU Data Protection (2026)

Häufig gestellte Fragen

Ersetzt die EU-KI-Verordnung die DSGVO für KI-Systeme?

Nein. Erwägungsgrund 10 der Verordnung (EU) 2024/1689 stellt ausdrücklich fest, dass die KI-Verordnung die Anwendung des geltenden EU-Datenschutzrechts nicht berührt, einschließlich der DSGVO. KI-Systeme, die personenbezogene Daten verarbeiten, müssen sowohl die KI-Verordnung als auch die DSGVO unabhängig voneinander erfüllen. Es handelt sich um getrennte, sich überschneidende Regime: Die DSGVO regelt die Art und Weise der Verarbeitung personenbezogener Daten, die KI-Verordnung regelt die vom KI-System selbst ausgehenden Risiken.

Welche verbotenen Praktiken nach Artikel 5 gelten bereits?

Alle acht verbotenen Praktiken nach Artikel 5 gelten bereits seit dem 2. Februar 2025. Dies sind: (a) unterschwellige oder manipulative Techniken, die das Verhalten erheblich verzerren und dadurch erheblichen Schaden verursachen; (b) KI, die Schwächen bestimmter Gruppen wie Kindern oder Menschen mit Behinderungen ausnutzt; (c) Social Scoring durch staatliche oder private Akteure, das zu nachteiliger Behandlung in nicht zusammenhängenden Kontexten führt; (d) strafrechtliche Risikobewertung allein auf Basis von Profiling oder Persönlichkeitsmerkmalen ohne objektive Tatsachengrundlage; (e) ungezieltes Auslesen von Gesichtsbildern zum Aufbau oder zur Erweiterung von Erkennungsdatenbanken; (f) Emotionserkennung an Arbeitsplätzen und Bildungseinrichtungen, außer zu medizinischen oder Sicherheitszwecken; (g) biometrische Kategorisierung zur Ableitung geschützter Merkmale wie Rasse, Religion oder sexueller Orientierung; und (h) biometrische Echtzeit-Fernidentifizierung im öffentlichen Raum zu Strafverfolgungszwecken, mit eng gefassten, gerichtlich genehmigten Ausnahmen für schwere Straftaten, unmittelbaren Terrorismus oder die Opfersuche.

Was ist eine Grundrechte-Folgenabschätzung (FRIA) und wie unterscheidet sie sich von einer DSFA nach der DSGVO?

Eine FRIA nach Artikel 27 der KI-Verordnung bewertet die Risiken, die ein Hochrisiko-KI-System für das gesamte Spektrum der durch die EU-Grundrechtecharta geschützten Grundrechte darstellt, einschließlich Privatsphäre, Datenschutz, Nichtdiskriminierung und Rechten in Gerichtsverfahren. Eine Datenschutz-Folgenabschätzung (DSFA) nach Artikel 35 DSGVO konzentriert sich speziell auf Risiken für betroffene Personen, die sich aus der Verarbeitung personenbezogener Daten ergeben. Beide werden durch Hochrisiko-KI-Einsätze mit Bezug zu personenbezogenen Daten ausgelöst, sind jedoch getrennte Dokumente mit unterschiedlichen Rechtsgrundlagen und unterschiedlichem erforderlichem Inhalt. Betreiber, die öffentliche Stellen oder gleichwertige private Akteure sind, müssen unter Umständen beide vor der Inbetriebnahme eines Hochrisiko-KI-Systems abschließen.

Wann gelten die Hochrisiko-Pflichten für KI tatsächlich?

Die meisten Hochrisiko-Pflichten, einschließlich der Datenverwaltung nach Artikel 10, der Betreiberpflichten nach Artikel 26 und der FRIA nach Artikel 27, gelten ab dem 2. Dezember 2027 für eigenständige Hochrisiko-Systeme nach Anhang III, verschoben durch den Digital Omnibus vom Juli 2026. Hochrisiko-KI-Systeme, die in Produkte eingebettet sind, die unter die sektorale Gesetzgebung nach Anhang I fallen (Medizinprodukte, Maschinen usw.), haben eine verlängerte Übergangsfrist bis zum 2. August 2028. Beide Termine wurden durch den Digital Omnibus vom Juli 2026, die Verordnung (EU) 2026/1744, um ein Jahr oder mehr verschoben. Die Transparenzpflichten nach Artikel 50 wurden nicht verschoben und gelten ab dem 2. August 2026.

Wie verhalten sich die Geldbußen der KI-Verordnung zu den DSGVO-Bußgeldern?

Die höchste Bußgeldstufe der KI-Verordnung, für Verstöße gegen die verbotenen Praktiken nach Artikel 5, erreicht 35.000.000 Euro oder 7 Prozent des weltweiten Jahresumsatzes. Die höchste Stufe der DSGVO erreicht 20.000.000 Euro oder 4 Prozent des weltweiten Jahresumsatzes. Beide legen jeweils den höheren der beiden Beträge zugrunde. Die KI-Verordnung kennt zudem eine mittlere Stufe von 15.000.000 Euro oder 3 Prozent für die Nichteinhaltung bei Hochrisiko-Systemen sowie eine niedrigere Stufe von 7.500.000 Euro oder 1 Prozent für die Irreführung von Behörden. Organisationen, die gegen die Verbote nach Artikel 5 verstoßen, sehen sich in der Regel auch mit paralleler DSGVO-Durchsetzung konfrontiert, da diese Praktiken fast immer die groß angelegte Verarbeitung biometrischer oder verhaltensbezogener Daten betreffen.

Was verlangt Artikel 10 der KI-Verordnung für Trainingsdaten?

Artikel 10 verpflichtet Anbieter von Hochrisiko-KI-Systemen, ihre Trainings-, Validierungs- und Testdatensätze zu dokumentieren und zu verwalten. Dazu gehört die Erfassung von Auswahlkriterien und Erhebungsmethoden, die Prüfung der Daten auf mögliche Verzerrungen, die Ermittlung von Datenlücken sowie die Sicherstellung, dass die Daten so weit wie möglich fehlerfrei und vollständig sind. Artikel 10 Absatz 5 schafft eine eng gefasste Ausnahme, die die Verarbeitung besonderer Kategorien personenbezogener Daten nach der DSGVO in Trainingsdatensätzen streng zur Erkennung und Korrektur von Verzerrungen erlaubt. Diese Pflichten gelten ab dem 2. Dezember 2027 für Systeme nach Anhang III und ab dem 2. August 2028 für KI in regulierten Produkten und ergänzen, ersetzen jedoch nicht, die Grundsätze der Datenminimierung und Zweckbindung nach der DSGVO.

Wer setzt die KI-Verordnung für Strafverfolgungs- und Justiz-KI-Systeme durch?

Artikel 74 Absatz 8 der KI-Verordnung bestimmt die nationalen Datenschutzbehörden zu den zuständigen Marktüberwachungsbehörden für Hochrisiko-KI-Systeme, die in Strafverfolgung, Migrations- und Asylverfahren sowie Rechtspflege eingesetzt werden. Für andere Hochrisiko-Sektoren benennen die Mitgliedstaaten gesonderte nationale zuständige Behörden. Auf EU-Ebene beaufsichtigt das EU-Büro für Künstliche Intelligenz GPAI-Modelle, während der EDSA und der EDSB beratende Leitlinien zur Schnittstelle zwischen der KI-Verordnung und dem Datenschutzrecht bereitstellen.

Müssen Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, etwa Entwickler großer Sprachmodelle, bereits jetzt Vorschriften einhalten?

Ja. Die GPAI-Pflichten nach den Artikeln 51 bis 55 der KI-Verordnung gelten bereits seit dem 2. August 2025. Alle GPAI-Anbieter müssen Zusammenfassungen der Trainingsdaten veröffentlichen, eine Richtlinie zur Einhaltung des Urheberrechts umsetzen und technische Dokumentation veröffentlichen. Anbieter von Modellen, die als Modelle mit systemischem Risiko eingestuft werden (solche, die mit mehr als 10^25 FLOPs trainiert wurden), unterliegen zusätzlichen Anforderungen an Sicherheitsbewertungen, Vorfallmeldungen und Cybersicherheit. Die DSGVO-Pflichten für die Verarbeitung von Trainingsdaten gelten neben diesen Anforderungen der KI-Verordnung fort.