EU AI Act Art. 26: Pflichten für Betreiber von KI-Systemen
Wer ein Hochrisiko-KI-System im eigenen Namen und auf eigene Rechnung einsetzt, ist Betreiber und trägt die Pflichten aus Art. 26 EU AI Act: die Verwendung muss der Betriebsanleitung des Anbieters folgen, menschliche Aufsicht muss organisiert, Protokolle mindestens sechs Monate aufbewahrt, Arbeitnehmer vor dem Einsatz informiert und Vorfälle unverzüglich gemeldet werden. Stand: 12. November 2026, Verordnung (EU) 2024/1689 in der Fassung der Verordnung (EU) 2026/1744.
Wer als Betreiber gilt
Art. 3 Nr. 4 definiert den Betreiber als natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet — es sei denn, das System wird im Rahmen einer persönlichen und nicht beruflichen Tätigkeit genutzt. Ein Unternehmen, das einen Bewerbungsfilter, ein Bonitätsprüfungsmodell oder ein System zur Überwachung von Mitarbeitenden einsetzt, ist damit Betreiber.
Die entscheidende Abgrenzung verläuft entlang der Zweckbestimmung: Wer ein fertiges Hochrisiko-System unter dem eigenen Namen anbietet oder die Zweckbestimmung wesentlich ändert, wird nach Art. 25 Abs. 1 selbst zum Anbieter und trägt dann die deutlich umfangreicheren Anbieterpflichten. Der Betrieb eines eingekauften Systems bleibt beim Betreiber.
Ob Ihr System als Hochrisiko-System gilt, entscheidet sich über die Zweckbestimmung und den Einsatzkontext. Die einschlägigen Bereiche stehen in Anhang III, die Einstufung im Überblick in KI Risikoklassifizierung.
Die Pflichten auf einen Blick
Art. 26 enthält keine Sammelverpflichtung, sondern zwölf Absätze. Die folgenden sechs sind diejenigen, die in der Praxis den größten organisatorischen Aufwand auslösen. Die Rechtsgrundlage ist jeweils direkt genannt, damit Sie die Pflicht im Verordnungstext nachschlagen können.
| Pflicht | Was konkret zu tun ist | Rechtsgrundlage |
|---|---|---|
| Betriebsanleitung beachten | Technische und organisatorische Maßnahmen, damit die Nutzung den Anweisungen des Anbieters entspricht | Art. 26 Abs. 1 |
| Menschliche Aufsicht organisieren | Personen mit Kompetenz, Ausbildung und Befugnis benennen und unterstützen | Art. 26 Abs. 2 |
| Eingabedaten prüfen | Soweit Sie die Eingabedaten kontrollieren: zweckentsprechend und ausreichend repräsentativ | Art. 26 Abs. 4 |
| Betrieb überwachen, Vorfälle melden | Betrieb anhand der Betriebsanleitung überwachen; bei Risiko oder schwerwiegendem Vorfall Anbieter und Behörde unverzüglich informieren, Nutzung aussetzen | Art. 26 Abs. 5 |
| Protokolle aufbewahren | Automatisch erzeugte Protokolle mindestens sechs Monate speichern, soweit sie unter Ihrer Kontrolle stehen | Art. 26 Abs. 6 |
| Arbeitnehmer informieren | Vor dem Einsatz am Arbeitsplatz Arbeitnehmervertreter und betroffene Arbeitnehmer unterrichten | Art. 26 Abs. 7 |
Betriebsanleitung beachten: Ihr wichtigster Kontrollpunkt
Art. 26 Abs. 1 verpflichtet Sie, geeignete technische und organisatorische Maßnahmen zu treffen, damit Sie das System entsprechend der beigefügten Betriebsanleitungverwenden. Welche Angaben die Betriebsanleitung mindestens enthalten muss, legt Art. 13 Abs. 3 fest — darunter Zweckbestimmung, Leistungsgrenzen, bekannte oder vorhersehbare Umstände der Nutzung sowie die Maßnahmen zur menschlichen Aufsicht nach Art. 14.
Warum das so genau zählt, zeigt Art. 3 Nr. 12: Die Zweckbestimmung ist die Verwendung, für die ein KI-System laut Anbieter bestimmt ist — und zwar entsprechend den vom Anbieter bereitgestellten Informationen in den Betriebsanleitungen. Eine Verwendung, die von den Angaben in der Betriebsanleitung abweicht, ist damit eine Zweckentfremdung und kein mehr gedeckter Einsatz.
Praktisch heißt das: Die Betriebsanleitung ist das Dokument, an dem sich Ihre gesamte interne Umsetzung ausrichtet. Nutzungsverbote und Randbedingungen daraus sollten in Ihre eigenen Prozesse übernommen werden. Wer die Betriebsanleitung nicht vorliegen hat, kann die Pflicht aus Abs. 1 nicht erfüllen — die Nachfrage beim Anbieter ist der erste Schritt.
Menschliche Aufsicht: wer aufsichtet, muss dürfen
Art. 26 Abs. 2 verlangt, die menschliche Aufsicht natürlichen Personen zu übertragen, die über die erforderliche Kompetenz, Ausbildung und Befugnis verfügen, und ihnen die erforderliche Unterstützung zukommen zu lassen. Das Gesetz verlangt keine bestimmte Stellenbezeichnung und keine Führungskraft — entscheidend ist, dass die Person für die konkrete Aufgabe geeignet ist und tatsächlich eingreifen darf.
Die Aufsichtsziele selbst definiert Art. 14 für das System als Anbieter: Risiken für Gesundheit, Sicherheit oder Grundrechte sollen verhindert oder minimiert werden, die Aufsichtsmaßnahmen müssen zum Risiko, zum Grad der Autonomie und zum Nutzungskontext passen. Dazu gehört auch, den Automatisierungsbias zu vermeiden — also nicht blind auf die Ausgabe des Systems zu vertrauen.
Eingabedaten: die häufigste Überschätzung
Art. 26 Abs. 4 gilt nur, soweit die Eingabedaten unter Ihrer Kontrolle stehen. Dann sorgen Sie dafür, dass die Eingabedaten der Zweckbestimmung des Systems entsprechen und ausreichend repräsentativ sind. Eine repräsentative Grundgesamtheit ist hier nicht gefordert — gefordert ist, dass die Daten zum vorgesehenen Zweck passen.
In der Praxis betrifft das vor allem selbst entwickelte Eingabemasken, Regeln für Datenfreigaben und die Konfiguration, mit der Sie das System füttern. Wenn Sie nur ein fertiges System ohne eigene Datenzufuhr betreiben, greift die Pflicht nicht.
Überwachen, melden, aussetzen
Art. 26 Abs. 5 verpflichtet Sie, den Betrieb des Systems anhand der Betriebsanleitung zu überwachen und den Anbieter gegebenenfalls nach Art. 72 zu informieren. Zwei Schwellen sind zu unterscheiden:
- Risiko: Haben Sie Grund zur Annahme, dass die Verwendung gemäß Betriebsanleitung ein Risiko im Sinne des Art. 79 Abs. 1 bergen kann, informieren Sie unverzüglich Anbieter oder Händler sowie die zuständige Marktüberwachungsbehörde und setzen die Verwendung aus.
- Schwerwiegender Vorfall: Stellen Sie einen schwerwiegenden Vorfall fest, informieren Sie unverzüglich zuerst den Anbieter, dann den Einführer oder Händler und die zuständigen Marktüberwachungsbehörden. Ein schwerwiegender Vorfall ist nach Art. 3 Nr. 49 ein Vorfall oder eine Fehlfunktion bezüglich eines KI-Systems, das direkt oder indirekt eine der folgenden Folgen hat: den Tod oder eine schwere gesundheitliche Schädigung einer Person, eine schwere und unumkehrbare Störung der Verwaltung oder des Betriebs kritischer Infrastrukturen, die Verletzung von Pflichten aus den Unionsrechtsvorschriften zum Schutz der Grundrechte oder schwere Sach- oder Umweltschäden.
Kann der Anbieter nicht erreicht werden, gilt Art. 73 entsprechend. Für Strafverfolgungs- Behörden als Betreiber gilt diese Meldepflicht nicht für sensible operative Daten.
Protokolle: mindestens sechs Monate
Art. 26 Abs. 6 verlangt, die vom System automatisch erzeugten Protokolle für einen der Zweckbestimmung angemessenen Zeitraum von mindestens sechs Monaten aufzubewahren. Zwei Einschränkungen sind wichtig: Es gilt nur, soweit die Protokolle unter Ihrer Kontrolle stehen, und es gilt nur, soweit weder das geltende Unionsrecht — insbesondere das Datenschutzrecht — noch nationales Recht etwas anderes vorsieht.
Die sechs Monate sind eine Mindestangabe, keine Höchstgrenze. Für Systeme, die in der Personalbeurteilung oder im Kreditgeschäft eingesetzt werden, sind längere Fristen aus anderen Rechtsvorschriften möglich. Die Protokolle des Anbieters sind ein anderes Thema: Art. 12 und Art. 19 regeln die Protokollierungspflichten des Anbieters, Art. 26 Abs. 6 betrifft die automatisch erzeugten Protokolle, die in Ihrer Verfügungsgewalt liegen.
Arbeitnehmer informieren: Art. 26 Abs. 7
Art. 26 Abs. 7 ist die Pflicht, die Unternehmen am häufigsten überrascht: Vor der Inbetriebnahme oder Verwendung eines Hochrisiko-KI-Systems am Arbeitsplatz müssen Betreiber, die Arbeitgeber sind, die Arbeitnehmervertreter und die betroffenen Arbeitnehmer darüber informieren, dass sie der Verwendung des Hochrisiko-KI-Systems unterliegen.
Die Information erfolgt gegebenenfalls im Einklang mit den Vorschriften und Gepflogenheiten auf Unionsebene und nationaler Ebene zur Unterrichtung von Arbeitnehmern und ihren Vertretern. In Deutschland bedeutet das: Die reine AI-Act-Information ersetzt die betriebsverfassungsrechtliche Beteiligung nicht. Für die Einführung und Anwendung technischer Einrichtungen, die zur Überwachung von Verhalten oder Leistung bestimmt sind, gilt das Mitbestimmungsrecht nach § 87 Abs. 1 Nr. 6 BetrVG. Ob ein konkretes System eine solche Überwachungseinrichtung ist, hängt von seiner Zweckbestimmung ab.
Weitere Pflichten: Folgenabschätzung, DSFA, Information
Drei Absätze richten sich an bestimmte Betreibergruppen oder an besondere Situationen:
- Grundrechte-Folgenabschätzung (Art. 27): Vor der Inbetriebnahme eines Hochrisiko-KI-Systems nach Art. 6 Abs. 2 — mit Ausnahme der Systeme aus Anhang III Nr. 2 — müssen Einrichtungen des öffentlichen Rechts, private Einrichtungen, die öffentliche Dienste erbringen, sowie Betreiber von Systemen nach Anhang III Nr. 5 Buchst. b und c eine Abschätzung der Auswirkungen auf die Grundrechte durchführen. Ein Hochrisiko-System im Personalbereich ist von dieser Pflicht nicht erfasst; hier greift Art. 26 Abs. 7.
- Datenschutz-Folgenabschätzung (Art. 26 Abs. 9): Betreiber verwenden die nach Art. 13 bereitgestellten Informationen, um ihrer Pflicht zur Durchführung einer Datenschutz-Folgenabschätzung nach Art. 35 DSGVO nachzukommen. Die DSFA-Pflicht selbst kommt aus der DSGVO, nicht aus dem AI Act.
- Information betroffener Personen (Art. 26 Abs. 11): Betreiber von in Anhang III aufgeführten Hochrisiko-KI-Systemen, die natürliche Personen betreffende Entscheidungen treffen oder bei solchen Entscheidungen unterstützen, informieren diese Personen darüber, dass sie dem System unterliegen. Das betrifft zum Beispiel Bonitätsprüfungen oder Bewerbungsfilter.
Weitere Pflichten: EU-Behörden müssen als Betreiber nach Art. 26 Abs. 8 die Registrierung nach Art. 49 in der EU-Datenbank beachten und von der Nutzung absehen, wenn das System dort nicht registriert ist. Art. 26 Abs. 12 verlangt die Zusammenarbeit mit den zuständigen Behörden.
Wann gelten diese Pflichten?
Die Pflichten des Art. 26 stehen in Kapitel III Abschnitt 3. Nach Art. 113 Abs. 3 Buchst. c in der Fassung der Verordnung (EU) 2026/1744 gelten sie
- ab dem 2. Dezember 2027 für KI-Systeme, die gemäß Art. 6 Abs. 2 und Anhang III als hochriskant eingestuft sind, und
- ab dem 2. August 2028 für KI-Systeme, die gemäß Art. 6 Abs. 1 und Anhang I als hochriskant eingestuft sind.
Der Digital Omnibus hat diese Fristen gegenüber dem ursprünglichen Geltungsbeginn des 2. August 2026 verschoben. Art. 26 selbst wurde durch die Verordnung (EU) 2026/1744 nicht geändert. Für bereits in Betrieb genommene Hochrisiko-Systeme gilt Art. 111: Die Verordnung greift dort grundsätzlich nur, wenn das System nach dem Beginn der Anwendung wesentlich in der Konzeption verändert wurde; für von Behörden bestimmte Systeme bleiben die Pflichten bis zum 2. August 2030 zu erfüllen.
Was bei einem Verstoß droht
Art. 99 Abs. 4 Buchst. e nennt die Pflichten der Betreiber gemäß Art. 26 ausdrücklich als sanktionsbewehrt: Bei Verstößen können Geldbußen von bis zu 15.000.000 EUR oder — im Falle von Unternehmen — von bis zu 3 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres verhängt werden, je nachdem, welcher Betrag höher ist. Für kleine und mittlere Unternehmen gilt nach Art. 99 Abs. 6 der jeweils niedrigere Betrag.
In Deutschland regelt das KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG) (in Kraft seit dem 29. Juli 2026) die Zuständigkeiten. Zuständige Marktüberwachungsbehörde ist nach § 2 Abs. 1 KI-MIG im Regelfall die Bundesnetzagentur; für KI-Systeme mit direktem Zusammenhang zu einer regulierten Finanztätigkeit ist es die Bundesanstalt für Finanzdienstleistungsaufsicht.
In welcher Reihenfolge Sie vorgehen sollten
- Systeme identifizieren. Welche Hochrisiko-Systeme nutzen Sie? Die Zweckbestimmung entscheidet, nicht der Name des Produkts. Das KI-Inventar mit Risiko-Klassifizierung liefert diese Liste und die Zuordnung zu Anhang III.
- Betriebsanleitung beschaffen. Fordern Sie sie vom Anbieter an — ohne sie sind Abs. 1, Abs. 4 und Abs. 5 nicht umsetzbar.
- Aufsicht und Protokolle organisieren. Benennen Sie aufsichtsfähige Personen und legen Sie fest, wo die Protokolle liegen und wie lange sie bleiben.
- Beschäftigte und Betriebsrat beteiligen. Setzen Sie Art. 26 Abs. 7 um und prüfen Sie das Mitbestimmungsrecht nach § 87 BetrVG.
- Meldeweg festlegen. Wer informiert Anbieter und Marktüberwachungsbehörde, und wie schnell? Unverzüglich heißt ohne schuldhafte Verzögerung.
Die Dokumentation zum Anbieter finden Sie im Leitfaden Hochrisiko-KI: Alle Anforderungen, die Fristen im Überblick unter EU AI Act 2026: Was gilt ab wann?.
Häufige Fragen
Ab wann gelten die Betreiberpflichten aus Art. 26?
Für Hochrisiko-KI-Systeme nach Anhang III ab dem 2. Dezember 2027, für Systeme nach Anhang I ab dem 2. August 2028. Diese Fristen hat die Verordnung (EU) 2026/1744 (Digital Omnibus) in Art. 113 Abs. 3 Buchst. c festgelegt.
Muss ich als Betreiber auch ein KI-Inventar führen?
Art. 26 verlangt kein KI-Inventar. Die Verordnung schreibt für Betreiber kein Verzeichnis aller KI-Systeme vor. Der AI Act nennt kein KI-Inventar als Pflicht; ein internes Inventar ist aber die praktische Grundlage, um zu erkennen, ob ein System unter Art. 26 fällt.
Muss ich die Betriebsanleitung meinen Mitarbeitenden vorlegen?
Art. 26 Abs. 1 verpflichtet Sie, die Verwendung an die Betriebsanleitung des Anbieters zu halten. Vor dem Einsatz am Arbeitsplatz müssen Sie Arbeitnehmervertreter und betroffene Arbeitnehmer nach Art. 26 Abs. 7 darüber informieren, dass sie dem System unterliegen. Die Betriebsanleitung selbst müssen Sie nicht verteilen.
Wie lange muss ich die Protokolle aufbewahren?
Mindestens sechs Monate, für einen der Zweckbestimmung angemessenen Zeitraum, sofern die Protokolle unter Ihrer Kontrolle stehen und weder das EU-Datenschutzrecht noch nationales Recht etwas anderes vorsieht.
Was passiert, wenn ein Betriebsrat beteiligt ist?
Art. 26 Abs. 7 verweist auf die Unterrichtungs- und Beteiligungspflichten nach Unionsrecht und nationalem Recht. In Deutschland gilt für die Einführung und Anwendung technischer Einrichtungen zur Überwachung das Mitbestimmungsrecht nach § 87 Abs. 1 Nr. 6 BetrVG. Die Informationspflicht nach Art. 26 Abs. 7 ersetzt die betriebsverfassungsrechtliche Beteiligung nicht.
Welche Sanktionen drohen bei einem Verstoß?
Art. 99 Abs. 4 Buchst. e nennt die Pflichten der Betreiber gemäß Art. 26 ausdrücklich: Bei Verstößen drohen Geldbußen von bis zu 15.000.000 EUR oder bis zu 3 % des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres, je nachdem, welcher Betrag höher ist.
Keine Rechtsberatung. Dieser Beitrag fasst den Verordnungstext zusammen; maßgeblich ist allein die im Amtsblatt der EU veröffentlichte Fassung. Für Ihren Einzelfall wenden Sie sich an eine Rechtsanwältin oder einen Rechtsanwalt; Aufsichtsbehörde in Deutschland ist die Bundesnetzagentur.