EU AI Act Anforderungen: Diese Pflichten gelten für Ihr Unternehmen

Welche Unternehmen sind von der KI-Verordnung betroffen?

Der AI Act betrifft Unternehmen entlang der gesamten KI-Lieferkette. Ihre Pflichten bestimmt die Rolle, die Sie für ein konkretes System einnehmen.

Die vier Rollen: Anbieter, Betreiber, Einführer und Händler

Die Verordnung unterscheidet vier zentrale Rollen entlang der Lieferkette:

• Anbieter (Provider): Entwickelt ein KI-System oder lässt es entwickeln und bringt es unter eigenem Namen in Verkehr.
• Betreiber (Deployer): Setzt ein KI-System in eigener Verantwortung beruflich ein.
• Einführer (Importer): Bringt als in der EU ansässiges Unternehmen ein KI-System eines Anbieters aus einem Drittland in der EU in Verkehr.
• Händler (Distributor): Stellt ein KI-System auf dem EU-Markt bereit, ohne Anbieter oder Einführer zu sein.

So bestimmen Sie Ihre Rolle

Prüfen Sie Ihre Rolle für jedes KI-System einzeln. Ein Unternehmen kann für ein System Anbieter und für ein anderes Betreiber sein.

Gilt der AI Act auch für Unternehmen außerhalb der EU?

Ja. Nach Art. 2 gilt die Verordnung für Anbieter, die KI-Systeme in der EU in Verkehr bringen, unabhängig von ihrem Sitz. Sie erfasst auch Anbieter und Betreiber in Drittländern, wenn die Ergebnisse ihres KI-Systems in der EU verwendet werden. Anbieter von Hochrisiko-KI ohne EU-Niederlassung müssen einen Bevollmächtigten in der EU benennen.

Anforderungen, die schon heute für alle Unternehmen gelten

Zwei Pflichten gelten unabhängig von der Risikoklasse für alle Unternehmen, die KI einsetzen: die Verbote und die KI-Kompetenz.

Verbotene KI-Praktiken (Art. 5)

Seit dem 2. Februar 2025 sind KI-Anwendungen verboten, die ein unannehmbares Risiko darstellen. Dazu gehören:

• manipulative oder täuschende Techniken, die Menschen erheblich schaden können
• Ausnutzen der Schutzbedürftigkeit, etwa aufgrund von Alter oder Behinderung
• Social Scoring durch öffentliche oder private Stellen
• Vorhersage von Straftaten allein auf Basis von Profiling
• ungezieltes Auslesen von Gesichtsbildern aus dem Internet oder aus Überwachungsaufnahmen
• Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen (Ausnahmen: medizinische oder Sicherheitsgründe)
• biometrische Kategorisierung nach sensiblen Merkmalen wie politischer Meinung oder sexueller Orientierung
• biometrische Echtzeit-Fernidentifizierung im öffentlichen Raum zur Strafverfolgung, mit engen Ausnahmen

Ab dem 2. Dezember 2026 kommt ein weiteres Verbot hinzu: KI-Systeme, die ohne Einwilligung intime Darstellungen realer Personen erzeugen, etwa sogenannte Nudify-Apps. Ein Verstoß zieht die höchste Bußgeldstufe nach sich.

KI-Kompetenz: Pflicht nach Art. 4

Die KI-Kompetenz-Pflicht besteht weiterhin, der KI-Omnibus hat sie aber abgeschwächt. Ursprünglich mussten Anbieter und Betreiber „nach besten Kräften sicherstellen“, dass ihr Personal über ausreichende KI-Kompetenz verfügt. Seit dem Omnibus müssen sie Maßnahmen ergreifen, um KI-Kompetenz zu fördern. Ein festes Kompetenzniveau schreibt die Verordnung damit nicht mehr vor.

Für die Praxis heißt das: Richten Sie Ihre Maßnahmen danach aus, wer welche KI-Systeme in welchem Kontext nutzt. Eine Recruiterin, die ein KI-Tool zur Bewerbervorauswahl einsetzt, braucht anderes Wissen als ein Entwickler, der ein Sprachmodell integriert. Dokumentieren Sie mindestens:

• Schulungsplan: Zielgruppen, Inhalte, Formate und Turnus
• Teilnahmenachweise: wer wann welche Schulung absolviert hat
• Richtlinien: zum Beispiel eine KI-Nutzungsrichtlinie mit freigegebenen Tools

Ist eine KI-Schulung Pflicht?

Eine Schulung schreibt der AI Act nicht ausdrücklich vor. Art. 4 verpflichtet Sie aber, KI-Kompetenz bei Mitarbeitenden zu fördern, die mit KI-Systemen arbeiten. Schulungen sind dafür das naheliegende und am besten nachweisbare Mittel. Wer gar keine Maßnahmen ergreift, verstößt gegen die Pflicht.

Transparenzpflichten nach Art. 50

Menschen sollen erkennen können, wann sie mit KI interagieren und wann Inhalte künstlich erzeugt wurden. Diese Pflichten gelten unabhängig davon, ob ein System hochriskant ist.

Chatbots und KI-Interaktion

Seit dem 2. August 2026 müssen Anbieter KI-Systeme, die direkt mit Menschen interagieren, so gestalten, dass Nutzer davon erfahren. Das betrifft etwa Kundenservice-Chatbots oder Voicebots. Der Hinweis entfällt nur, wenn die KI-Interaktion aus dem Kontext offensichtlich ist. Betreiber von Systemen zur Emotionserkennung oder biometrischen Kategorisierung müssen betroffene Personen über den Einsatz informieren.

Kennzeichnung KI-generierter Inhalte und Deepfakes

Anbieter generativer KI müssen synthetische Texte, Bilder, Audio- und Videoinhalte maschinenlesbar als KI-generiert kennzeichnen, zum Beispiel über Wasserzeichen oder Metadaten. Betreiber, die Deepfakes erstellen, müssen offenlegen, dass die Inhalte künstlich erzeugt oder verändert wurden. Für künstlerische oder satirische Werke gilt eine abgeschwächte Hinweispflicht. KI-generierte Texte zu Themen von öffentlichem Interesse müssen Sie kennzeichnen, sofern sie keine menschliche redaktionelle Prüfung durchlaufen haben.

Frist am 2. Dezember 2026: Für Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, endet die Übergangsfrist für die maschinenlesbare Kennzeichnung am 2. Dezember 2026. Setzen Sie generative KI in Produkten oder Marketing ein, prüfen Sie jetzt, ob Ihr Anbieter die Kennzeichnung technisch umsetzt.

Anforderungen an Hochrisiko-KI-Systeme

Für Hochrisiko-KI gelten die umfangreichsten Pflichten. Sie verteilen sich auf alle vier Rollen.

Wann ist ein KI-System hochriskant?

Der AI Act unterscheidet zwei Wege zur Hochrisiko-Einstufung:

Ein System nach Anhang III ist ausnahmsweise nicht hochriskant, wenn es nur eine eng begrenzte Verfahrensaufgabe erfüllt oder eine menschliche Entscheidung lediglich vorbereitet (Art. 6 Abs. 3). Diese Einschätzung müssen Sie dokumentieren. Systeme, die Profiling natürlicher Personen vornehmen, bleiben immer hochriskant.

Pflichten für Anbieter von Hochrisiko-KI

Anbieter tragen die Hauptverantwortung. Bevor sie ein Hochrisiko-System in Verkehr bringen, müssen sie Folgendes umsetzen:

• Risikomanagementsystem über den gesamten Lebenszyklus (Art. 9)
• Data Governance für Trainings-, Validierungs- und Testdaten (Art. 10)
• technische Dokumentation nach Anhang IV (Art. 11)
• automatische Protokollierung von Ereignissen (Art. 12)
• Transparenz und Gebrauchsanweisung für Betreiber (Art. 13)
• menschliche Aufsicht im Systemdesign (Art. 14)
• Genauigkeit, Robustheit und Cybersicherheit (Art. 15)
• Qualitätsmanagementsystem (Art. 17)
• Konformitätsbewertung, CE-Kennzeichnung und Registrierung in der EU-Datenbank (Art. 43, 48, 49)

Nach dem Inverkehrbringen müssen Anbieter das System beobachten und schwerwiegende Vorfälle melden.

Pflichten für Betreiber von Hochrisiko-KI (Art. 26)

Die meisten Unternehmen nutzen Hochrisiko-KI als Betreiber, etwa ein Recruiting-Tool oder ein Scoring-System. Als Betreiber müssen Sie:

• das System gemäß der Gebrauchsanweisung des Anbieters verwenden
• die menschliche Aufsicht an kompetente Personen mit klaren Befugnissen übertragen
• sicherstellen, dass Ihre Eingabedaten für den Zweck relevant sind
• den Betrieb überwachen und Risiken oder Vorfälle an den Anbieter und die Behörde melden
• automatisch erzeugte Protokolle mindestens sechs Monate aufbewahren
• Beschäftigte und Arbeitnehmervertretungen vor dem Einsatz am Arbeitsplatz informieren
• betroffene Personen informieren, wenn das System Entscheidungen über sie unterstützt

Öffentliche Stellen, private Anbieter öffentlicher Dienstleistungen sowie Betreiber von Systemen zur Kreditwürdigkeitsprüfung oder zur Preisgestaltung bei Lebens- und Krankenversicherungen müssen zusätzlich eine Grundrechte-Folgenabschätzung (Fundamental Rights Impact Assessment, FRIA) nach Art. 27 durchführen.

Pflichten für Einführer und Händler

Einführer und Händler entwickeln keine KI. Als Kontrollglied zwischen Anbieter und Markt tragen sie aber eigene Prüfpflichten.

Einführer (Art. 23) dürfen ein Hochrisiko-System erst in Verkehr bringen, wenn sie geprüft haben, dass

• der Anbieter die Konformitätsbewertung durchgeführt hat,
• die technische Dokumentation vorliegt,
• das System die CE-Kennzeichnung trägt und die EU-Konformitätserklärung sowie die Gebrauchsanweisung beiliegen und
• der Anbieter einen Bevollmächtigten in der EU benannt hat.

Zusätzlich geben Einführer ihren Namen und ihre Kontaktadresse an und bewahren die Konformitätserklärung zehn Jahre lang auf. Haben sie Zweifel an der Konformität, dürfen sie das System nicht in Verkehr bringen und müssen den Anbieter sowie die Behörde informieren.

Händler (Art. 24) prüfen vor der Bereitstellung, ob CE-Kennzeichnung, Konformitätserklärung und Gebrauchsanweisung vorhanden sind und ob Anbieter und Einführer ihre Pflichten erfüllt haben. Stellen sie nachträglich einen Mangel fest, müssen sie Korrekturmaßnahmen ergreifen oder veranlassen, notfalls bis zum Rückruf.

Ab wann gelten die Hochrisiko-Anforderungen?

Für eigenständige Hochrisiko-Systeme nach Anhang III gelten die Pflichten ab dem 2. Dezember 2027. Für KI in regulierten Produkten nach Anhang I greifen sie ab dem 2. August 2028. Die vollständige Übersicht finden Sie in der EU AI Act Timeline.

Anforderungen an KI-Modelle mit allgemeinem Verwendungszweck (GPAI)

Seit dem 2. August 2025 gelten Pflichten für Anbieter von GPAI-Modellen, also großen Basismodellen wie GPT oder Llama. Sie müssen technische Dokumentation erstellen, nachgelagerte Anbieter informieren, eine Urheberrechtsstrategie umsetzen und eine Zusammenfassung der Trainingsdaten veröffentlichen. Für Modelle mit systemischem Risiko kommen Modellbewertungen, Vorfallmeldungen und Cybersicherheitsmaßnahmen hinzu. Unternehmen, die GPAI-Tools wie ChatGPT nur nutzen, sind in der Regel Betreiber und keine GPAI-Anbieter.

Wer überwacht die Einhaltung in Deutschland?

Deutschland hat die Aufsicht über den AI Act mit einem eigenen Gesetz geregelt.

Die Bundesnetzagentur und das KI-MIG

Das KI-Marktüberwachungs- und Innovationsförderungs-Gesetz (KI-MIG) gilt seit dem 29. Juli 2026. Es bestimmt die Bundesnetzagentur als zentrale Marktüberwachungsbehörde für KI-Systeme. Für bestimmte Hochrisiko-Anwendungen richtet die Bundesnetzagentur eine eigene KI-Marktüberwachungskammer ein. In Produktbereichen mit harmonisiertem EU-Recht, etwa bei Medizinprodukten oder Maschinen, können die zuständigen Fachbehörden die Aufsicht übernehmen. Welche Rolle die BaFin für KI im Finanzsektor spielt, ist noch nicht abschließend geklärt.

Unterstützung für KMU und Start-ups

Die Bundesnetzagentur betreibt ein KI-Reallabor, in dem Unternehmen KI-Systeme unter behördlicher Begleitung testen können. KMU und Start-ups erhalten dort vorrangigen Zugang. Seit dem KI-Omnibus gelten KMU-Erleichterungen, etwa bei der technischen Dokumentation, auch für Small Mid-Caps.

Welche Bußgelder drohen bei Verstößen?

Art. 99 sieht drei Bußgeldstufen vor. Maßgeblich ist jeweils der höhere Betrag aus Festbetrag und Anteil am weltweiten Jahresumsatz.

Checkliste: EU AI Act Anforderungen umsetzen

Mit diesen acht Schritten setzen Sie die Anforderungen strukturiert um:

1. KI-Inventar erstellen (sofort): Erfassen Sie alle KI-Systeme, auch eingebettete Funktionen in SaaS-Tools.
2. Rolle je System bestimmen (sofort): Klären Sie, ob Sie Anbieter, Betreiber, Einführer oder Händler sind, und prüfen Sie einen möglichen Rollenwechsel nach Art. 25.
3. Risiko klassifizieren (sofort): Ordnen Sie jedes System einer Risikoklasse zu und dokumentieren Sie die Begründung.
4. Verbotene Praktiken ausschließen (seit 2. Februar 2025, Nudify-Verbot ab 2. Dezember 2026): Stoppen Sie betroffene Anwendungen.
5. KI-Kompetenz-Maßnahmen dokumentieren (seit 2. Februar 2025): Halten Sie Schulungsplan und Teilnahmenachweise aktuell.
6. Transparenzhinweise umsetzen (seit 2. August 2026, Kennzeichnung bis 2. Dezember 2026): Ergänzen Sie Chatbot-Hinweise und KI-Kennzeichnungen.
7. Hochrisiko-Gap-Analyse starten (Ziel: 2. Dezember 2027): Gleichen Sie bestehende Prozesse mit den Hochrisiko-Pflichten ab.
8. Verantwortlichkeiten festlegen (sofort): Benennen Sie eine verantwortliche Person oder ein KI-Gremium.

EU AI Act und ISO 42001: Anforderungen effizient erfüllen

ISO/IEC 42001 ist der internationale Standard für KI-Managementsysteme (AIMS). Ein AIMS verankert Risikomanagement, Dokumentation und menschliche Aufsicht als wiederkehrende Prozesse. Damit decken Sie zentrale Anforderungen aus Art. 9, 11, 14 und 17 strukturiert ab. Eine Zertifizierung ersetzt die Konformitätsbewertung nach AI Act nicht. Sie erleichtert aber den Nachweis gegenüber Behörden und Kunden. Mehr dazu lesen Sie auf unserer Seite zu ISO 42001.

Wie DataGuard Ihr Team bei den EU-AI-Act-Anforderungen unterstützen kann

DataGuard begleitet Sie vom KI-Inventar bis zur Hochrisiko-Gap-Analyse. Unsere Expertinnen und Experten bestimmen mit Ihnen Rollen und Risikoklassen. Nachweise bündeln Sie in einer Plattform, damit Sie auch bei neuen Fristen handlungsfähig bleiben.

Erfahren Sie, wie DataGuard Sie bei der EU-KI-Verordnung unterstützt oder besuchen Sie unsere Übersichtsseite zum EU AI Act.