Checkliste für Betreiber von Hochrisiko-KI: Ihre Pflichten nach Artikel 26 KI-Verordnung

Was muss ein Betreiber eines Hochrisiko-KI-Systems tun? Artikel 26 der KI-Verordnung nennt die Pflichten in zwölf Absätzen. Kurz gesagt: Sie verwenden das System nach der Betriebsanleitung des Anbieters. Sie übertragen die menschliche Aufsicht an geeignete Personen. Sie überwachen den Betrieb, bewahren die Protokolle mindestens sechs Monate auf und informieren Beschäftigte und betroffene Personen. Haben Sie Grund zu der Annahme, dass ein Risiko besteht, setzen Sie die Verwendung aus. Sie informieren unverzüglich den Anbieter oder Händler und die Marktüberwachungsbehörde. Stellen Sie einen schwerwiegenden Vorfall fest, informieren Sie zuerst den Anbieter.

Für Hochrisiko-KI-Systeme nach Anhang III gilt Artikel 26 ab dem 2. Dezember 2027. Für Systeme nach Anhang I gilt er ab dem 2. August 2028 (Artikel 113 Buchstabe c in der Fassung der Verordnung (EU) 2026/1744).

Unten finden Sie alle zwölf Absätze als Checkliste und die Warnzeichen, bei denen Sie handeln müssen. Danach folgen die Meldefristen und ein Vergleich der Aufgaben von Anbieter und Betreiber.

Zitiert wird die deutsche Sprachfassung der Verordnung (EU) 2024/1689, konsolidierte Fassung vom 27. Juli 2026 (CELEX 02024R1689-20260727).

Wer ist Betreiber?

Artikel 3 Nummer 4 definiert den Betreiber als „eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet, es sei denn, das KI-System wird im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet“.

Ein Beispiel: Ein Unternehmen kauft eine Software, die Bewerbungen vorsortiert, und setzt sie in der Personalabteilung ein. Das Unternehmen ist Betreiber. Der Hersteller der Software ist Anbieter. Solche Systeme stehen in Anhang III Nummer 4 Buchstabe a.

Anbieter ist nach Artikel 3 Nummer 3 eine Person oder Stelle, die ein KI-System „entwickelt oder entwickeln lässt und es unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringt oder das KI-System unter ihrem eigenen Namen oder ihrer Handelsmarke in Betrieb nimmt“. Wer ein System selbst entwickelt und selbst einsetzt, ist für dieses System Anbieter und Betreiber zugleich (Artikel 3 Nummern 3 und 11).

Ab wann gilt Artikel 26?

Artikel 26 steht in Kapitel III Abschnitt 3. Artikel 113 Buchstabe c nennt die Termine. Der Abschnitt gilt ab dem 2. Dezember 2027 für KI-Systeme, „die gemäß Artikel 6 Absatz 2 und Anhang III als hochriskant eingestuft sind“. Für Systeme nach Artikel 6 Absatz 1 und Anhang I gilt er ab dem 2. August 2028. Für Systeme, die vor diesen Terminen in Verkehr gebracht oder in Betrieb genommen wurden, gilt Artikel 111 Absatz 2. Die Verordnung erfasst sie nur nach einer erheblichen Änderung ihrer Konzeption. Systeme, die von Behörden verwendet werden sollen, müssen die Anforderungen spätestens bis zum 2. August 2030 erfüllen.

Viele Seiten nennen noch den 2. August 2026. Das war in der ursprünglichen Fassung von 2024 der Termin für Systeme nach Anhang III. Die Verordnung (EU) 2026/1744 hat ihn verschoben. Artikel 113 nennt jetzt feste Daten. Sie hängen nicht davon ab, ob harmonisierte Normen vorliegen.

Einige Pflichten gelten schon heute. Seit dem 2. Februar 2025: die KI-Kompetenz (Artikel 4) und die meisten verbotenen Praktiken (Artikel 5). Seit dem 2. August 2026: die Transparenzpflichten der Betreiber nach Artikel 50 Absätze 3 und 4. Die Artikel 72 und 73 stehen in Kapitel IX, nicht in Kapitel III. Für Kapitel IX macht Artikel 113 keine Ausnahme. Für diese Artikel gilt also der allgemeine Termin: der 2. August 2026. Praktisch greifen sie erst, wenn ein System nach Artikel 6 hochriskant ist, also ab den oben genannten Terminen.

Die Checkliste: alle zwölf Absätze von Artikel 26

Jede Zeile nennt einen Absatz, die Pflicht und einen Nachweis, den Sie bei einer Prüfung vorlegen können. Die Spalte «Möglicher Nachweis» enthält unsere Vorschläge, keine Vorgaben der Verordnung.

Absatz 3 begründet keine zusätzliche Pflicht, und Absatz 10 betrifft nur die nachträgliche biometrische Fernidentifizierung, vor allem bei Ermittlungen. Beide stehen in der Liste, damit kein Absatz fehlt.

Hinweis zu Absatz 8: Die deutsche Fassung nennt hier nur Organe, Einrichtungen und sonstige Stellen der Union. Die englische, italienische und französische Fassung nennen auch Behörden. Artikel 49 Absatz 3 nennt Behörden ausdrücklich. Er betrifft Betreiber, „bei denen es sich um Behörden oder Organe, Einrichtungen oder sonstige Stellen der Union oder in ihrem Namen handelnde Personen handelt“. Sie registrieren sich vor der Inbetriebnahme oder Verwendung eines Systems nach Anhang III (außer Nummer 2) in der EU-Datenbank. Dort wählen sie das System aus und registrieren es.

Warnzeichen (Red Flags): Wann Sie die Verwendung aussetzen oder melden müssen

«Red-Flag-Checkliste» ist kein Begriff der Verordnung. Gemeint ist meist eine Liste von Warnzeichen. Artikel 26 nennt fünf Situationen, in denen Sie unverzüglich handeln müssen:

• Sie haben Grund zur Annahme, dass die Verwendung gemäß der Betriebsanleitung zu einem Risiko im Sinne von Artikel 79 Absatz 1 führen kann. Dann informieren Sie „unverzüglich den Anbieter oder Händler und die zuständige Marktüberwachungsbehörde“ und setzen die Verwendung des Systems aus (Absatz 5).
• Sie stellen einen schwerwiegenden Vorfall fest. Dann informieren Sie „unverzüglich zuerst den Anbieter und dann den Einführer oder Händler und die zuständigen Marktüberwachungsbehörden“ (Absatz 5).
• Sie erreichen den Anbieter nicht. Dann gilt „Artikel 73 entsprechend“ (Absatz 5). Nach unserer Auslegung gelten die Meldepflicht und die unten genannten Fristen dann für Sie.
• Sie sind eine Behörde oder eine Stelle der Union (Absatz 8; Artikel 49 Absatz 3). Das System, das Sie verwenden wollen, ist nicht in der EU-Datenbank nach Artikel 71 registriert. Dann verwenden Sie es nicht und informieren den Anbieter oder den Händler (Absatz 8).
• Bei der nachträglichen biometrischen Fernidentifizierung wird die Genehmigung abgelehnt. Dann stellen Sie die Verwendung mit sofortiger Wirkung ein und löschen die damit verbundenen personenbezogenen Daten (Absatz 10).

Halten Sie für jede dieser Situationen fest, wer entscheidet, wer meldet und an wen. Im Ernstfall fehlt die Zeit, das zu klären.

Was ist ein schwerwiegender Vorfall, und welche Fristen gelten?

Artikel 3 Nummer 49 nennt vier Fälle. Ein schwerwiegender Vorfall ist ein Vorfall oder eine Fehlfunktion eines KI-Systems, die „direkt oder indirekt“ eine dieser Folgen hat:

• „den Tod oder die schwere gesundheitliche Schädigung einer Person“;
• „eine schwere und unumkehrbare Störung der Verwaltung oder des Betriebs kritischer Infrastrukturen“;
• „die Verletzung von Pflichten aus den Unionsrechtsvorschriften zum Schutz der Grundrechte“;
• „schwere Sach- oder Umweltschäden“.

Die Meldung nach Artikel 73 macht der Anbieter (Absatz 1). Der Betreiber informiert nach Artikel 26 Absatz 5 zuerst den Anbieter und dann den Einführer oder Händler und die Marktüberwachungsbehörden. Die Fristen laufen ab dem Zeitpunkt, an dem der Anbieter „oder gegebenenfalls der Betreiber“ von dem Vorfall Kenntnis erlangt hat.

«Spätestens» heißt nicht, dass Sie bis zum letzten Tag warten dürfen. Die Meldung erfolgt unmittelbar, sobald der kausale Zusammenhang oder seine naheliegende Wahrscheinlichkeit feststeht. Beim Tod einer Person erfolgt sie schon, wenn der Zusammenhang vermutet wird.

Überwachen: Artikel 26 Absatz 5 ist nicht Artikel 72

Der Betreiber überwacht den Betrieb seines Systems „anhand der Betriebsanleitung“ und informiert gegebenenfalls den Anbieter (Artikel 26 Absatz 5).

Der Anbieter richtet ein System zur Beobachtung nach dem Inverkehrbringen ein und dokumentiert es (Artikel 72 Absatz 1). Dieses Beobachtungssystem erhebt und analysiert Daten zur Leistung über die gesamte Lebensdauer, auch Daten von Betreibern (Absatz 2). Der Plan dafür ist Teil der technischen Dokumentation nach Anhang IV (Absatz 3).

Kurz: Der Betreiber überwacht seinen eigenen Einsatz und meldet. Der Anbieter beobachtet das Produkt bei allen Kunden und wertet aus. Ihre Meldungen als Betreiber gehören zu den Daten, die der Anbieter nach Artikel 72 auswertet.

Mehr dazu in unserem Beitrag zur kontinuierlichen Überwachung von KI-Systemen.

Anbieter oder Betreiber: Welche Aufgaben muss der Anbieter erledigen?

Die Pflichten des Anbieters stehen in Artikel 16 Buchstaben a bis l. Die Pflichten des Betreibers stehen in Artikel 26. Die Tabelle stellt sie nebeneinander. Beobachtung und Meldung von Vorfällen stehen in den Artikeln 72 und 73; das Qualitätsmanagementsystem nach Artikel 17 umfasst sie.

Eine häufige Prüfungsfrage lautet: Welche Aufgaben muss der Anbieter erledigen? Die Antwort steht in Artikel 16: die Erfüllung der Anforderungen, das Qualitätsmanagementsystem, die Konformitätsbewertung, die EU-Konformitätserklärung, die CE-Kennzeichnung, die Registrierung und die Korrekturmaßnahmen. Das System nach der Betriebsanleitung verwenden, es im Alltag beaufsichtigen, den Betrieb überwachen und die Beschäftigten informieren: Das sind Aufgaben des Betreibers.

Wann werden Sie selbst zum Anbieter?

Nach Artikel 25 Absatz 1 gelten Sie als Anbieter und unterliegen den Pflichten nach Artikel 16, wenn Sie

• ein bereits in Verkehr gebrachtes oder in Betrieb genommenes Hochrisiko-KI-System mit Ihrem Namen oder Ihrer Handelsmarke versehen (Buchstabe a). Verträge können die Pflichten anders aufteilen;
• an einem solchen System eine wesentliche Veränderung so vornehmen, dass es weiterhin ein Hochrisiko-KI-System bleibt (Buchstabe b);
• die Zweckbestimmung eines nicht als hochriskant eingestuften Systems, auch eines KI-Systems mit allgemeinem Verwendungszweck, so verändern, dass es hochriskant wird (Buchstabe c).

Ein Beispiel für Buchstabe c: Sie setzen einen allgemeinen Chat-Assistenten ein, um Bewerbungen zu bewerten. Das System kann dann unter Anhang III Nummer 4 Buchstabe a fallen, und Sie können für diesen Einsatz zum Anbieter werden.

Was das für die technische Dokumentation bedeutet: Anhang-IV-Vorlage und Artikel 11.

Pflichten neben Artikel 26

KI-Kompetenz (Artikel 4). Anbieter und Betreiber „ergreifen Maßnahmen, um die Entwicklung der KI-Kompetenz ihres Personals und anderer Personen zu unterstützen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind“. Eine Pflicht zur KI-Kompetenz gilt seit dem 2. Februar 2025 für alle KI-Systeme; dieser Wortlaut stammt aus der Verordnung (EU) 2026/1744. Ein Niveau ist nicht vorgeschrieben: Die Verordnung verpflichtet Betreiber nicht, „für irgendeine Person ein bestimmtes Niveau an KI-Kompetenz zu garantieren“.

Ihre Maßnahmen halten Sie in unserem kostenlosen Register zur KI-Kompetenz fest.

Grundrechte-Folgenabschätzung (Artikel 27). Pflicht vor der Inbetriebnahme eines Hochrisiko-KI-Systems nach Artikel 6 Absatz 2 (Anhang III). Sie gilt für Einrichtungen des öffentlichen Rechts und für private Einrichtungen, die öffentliche Dienste erbringen. Sie gilt auch für Betreiber von Systemen nach Anhang III Nummer 5 Buchstaben b und c. Das sind Kreditwürdigkeitsprüfung und Bonitätsbewertung sowie Risikobewertung und Preisbildung bei Lebens- und Krankenversicherungen. Ausgenommen sind Systeme nach Anhang III Nummer 2.

Wer prüft in Deutschland?

Das Gesetz zur Marktüberwachung und Innovationsförderung von künstlicher Intelligenz (KI-MIG) ist seit dem 29. Juli 2026 in Kraft. Die Bundesnetzagentur ist damit Marktüberwachungsbehörde, Anlaufstelle und Beschwerdestelle für die KI-Verordnung.

Der KI-Service Desk der Bundesnetzagentur bietet Orientierung und ein Online-Werkzeug für eine erste Einordnung der Risikoklasse. Nach Artikel 74 Absätze 3, 6 und 8 sind für manche Systeme andere Behörden zuständig, etwa die Finanzaufsicht für Systeme, die Finanzinstitute verwenden.

So fangen Sie an

1. Listen Sie Ihre KI-Systeme auf und prüfen Sie für jedes, ob es unter Anhang III fällt. Ein erster Schritt ist unsere kostenlose Selbstbewertung.
2. Fordern Sie für jedes Hochrisiko-System die Betriebsanleitung beim Anbieter an. Ohne sie können Sie die Absätze 1, 5 und 9 nicht erfüllen.
3. Benennen Sie die Aufsichtspersonen und halten Sie ihre Schulungen fest.
4. Legen Sie den Meldeweg fest: wer bei einem Risiko oder einem schwerwiegenden Vorfall wen informiert, mit den Kontaktdaten von Anbieter, Händler und Behörde.
5. Legen Sie die Aufbewahrungsfrist für die Protokolle fest: mindestens sechs Monate, sofern anderes Recht nichts anderes bestimmt. Stimmen Sie die Frist mit Ihrem Löschkonzept ab.

Was LandingRed dafür bietet

In LandingRed gibt es die Seite «Pflichten des Betreibers». Sie zeigt für jedes KI-System, das Sie als Betreiber verwenden, acht der zwölf Absätze von Artikel 26 und die Grundrechte-Folgenabschätzung nach Artikel 27. Für jede Pflicht sehen Sie, ob ein Nachweis vorliegt, teilweise vorliegt oder fehlt. Die Pflichten des Anbieters nach Artikel 16 stehen auf einer eigenen Seite.

Mehr dazu unter KI-Verordnung mit LandingRed, oder starten Sie mit der kostenlosen Selbstbewertung.

Häufig gestellte Fragen

Was ist eine Red-Flag-Checkliste für KI?

Der Begriff steht nicht in der KI-Verordnung. Meist ist eine Liste von Warnzeichen gemeint. Für Betreiber von Hochrisiko-KI ergeben sich die wichtigsten Warnzeichen aus Artikel 26 Absatz 5. Ein Risiko im Sinne von Artikel 79 Absatz 1: informieren und die Verwendung aussetzen. Ein schwerwiegender Vorfall: zuerst den Anbieter informieren.

Ab wann gelten die Betreiberpflichten nach Artikel 26?

Für Hochrisiko-KI-Systeme nach Anhang III ab dem 2. Dezember 2027, für Systeme nach Anhang I ab dem 2. August 2028 (Artikel 113 Buchstabe c in der Fassung der Verordnung (EU) 2026/1744). Die Pflicht zur KI-Kompetenz nach Artikel 4 gilt schon seit dem 2. Februar 2025. Für früher in Verkehr gebrachte Systeme gilt Artikel 111 Absatz 2.

Muss der Betreiber schwerwiegende Vorfälle selbst der Behörde melden?

Der Betreiber informiert die Behörde, die förmliche Meldung nach Artikel 73 macht aber der Anbieter. Nach Artikel 26 Absatz 5 informiert der Betreiber unverzüglich zuerst den Anbieter und dann den Einführer oder Händler und die Marktüberwachungsbehörden. Erreicht er den Anbieter nicht, gilt Artikel 73 für ihn entsprechend.

Welche Aufgaben muss der Anbieter erledigen, nicht der Betreiber?

Die Aufgaben aus Artikel 16. Der Anbieter erfüllt die Anforderungen an das System und betreibt das Qualitätsmanagementsystem. Er führt die Konformitätsbewertung durch, stellt die EU-Konformitätserklärung aus und bringt die CE-Kennzeichnung an. Er registriert das System nach Artikel 49 Absatz 1, ergreift die Korrekturmaßnahmen und sorgt für die Barrierefreiheit. Der Betreiber verwendet das System nach der Betriebsanleitung, beaufsichtigt es, überwacht den Betrieb und bewahrt die Protokolle auf.

Wie lange muss der Betreiber die Protokolle aufbewahren?

Mindestens sechs Monate, soweit die Protokolle seiner Kontrolle unterliegen und das geltende Unionsrecht oder nationale Recht nichts anderes bestimmt (Artikel 26 Absatz 6). Der Zeitraum muss der Zweckbestimmung des Systems angemessen sein. Finanzinstitute, die Anforderungen an die interne Unternehmensführung nach dem Finanzdienstleistungsrecht der Union unterliegen, bewahren sie als Teil der dort vorgeschriebenen Dokumentation auf.

Verwandte Ressourcen

• Kontinuierliche Überwachung von KI-Systemen: Artikel 72 und Artikel 26 Absatz 5
• Technische Dokumentation nach Artikel 11: wer sie nach einem Rollenwechsel erstellt
• Anhang III: Ist Ihr System hochriskant?
• Checkliste zur KI-Verordnung
• LandingRed für die KI-Verordnung: Inventar, Einstufung, Betreiberpflichten

Diese Seite dient der Information. Sie ist keine Rechtsberatung. Zitiert wird die Verordnung (EU) 2024/1689 in der konsolidierten Fassung vom 27. Juli 2026 (CELEX 02024R1689-20260727). Die Angaben zu Deutschland sind auf dem Stand vom 2. November 2026. Rechtsverbindlich ist nur der im Amtsblatt der Europäischen Union veröffentlichte Text.

Geprüft und veröffentlicht unter der redaktionellen Verantwortung von AB Corporate Advisory S.R.L.