AI Act: Was sich für Unternehmen mit KI-Agenten ändert

Seit dem 2. August 2026 gilt der AI Act, die europäische Verordnung über künstliche Intelligenz, in den meisten seiner Bestimmungen. Wenige Tage zuvor hat eine Änderung jedoch den anspruchsvollsten Teil verschoben: Hochrisiko-Regeln gelten erst ab dem 2. Dezember 2027, für in Produkte integrierte Systeme ab dem 2. August 2028.

Unternehmen, die KI-Agenten für Daten, Dokumente, Berichte oder Support einsetzen, sind fast immer Betreiber, nicht Anbieter. Das verlangt die Verordnung heute von ihnen.

01Wer einen KI-Agenten nutzt, ist Betreiber

Der AI Act unterscheidet Rollen (Art. 3). Der Anbieter entwickelt ein KI-System oder lässt es entwickeln und bringt es unter eigenem Namen in Verkehr oder nimmt es in Betrieb. Der Betreiber verwendet ein KI-System in eigener Verantwortung im Rahmen einer beruflichen Tätigkeit.

Wer einen Agenten eines Dritten einsetzt, ist also in der Regel Betreiber; wer ein System selbst entwickelt und unter eigenem Namen für den Eigengebrauch in Betrieb nimmt, kann auch Anbieter sein. Was als KI-System gilt, hat die Europäische Kommission in ihren Leitlinien zur Begriffsbestimmung vom Februar 2025 erläutert.

02Der Zeitplan nach dem Digital-Omnibus

Die Verordnung (EU) 2026/1744, die Digital-Omnibus-Verordnung zur KI, ist seit dem 27. Juli 2026 in Kraft und ändert die Verordnung (EU) 2024/1689, also den AI Act. Diese Daten zählen, wenn Sie KI-Agenten einsetzen.

Verbote und KI-Kompetenz

2. Feb. 2025

allgemeine Geltung und Transparenzpflichten

2. Aug. 2026

Hochrisiko, Anwendungen nach Anhang III

2. Dez. 2027

Hochrisiko, Systeme in Produkten nach Anhang I

2. Aug. 2028

Die Pflichten für KI-Modelle mit allgemeinem Verwendungszweck gelten seit dem 2. August 2025 und betreffen die Anbieter dieser Modelle, nicht diejenigen, die sie über einen Agenten nutzen. Dieselben Daten nennt die Seite der Europäischen Kommission.

03KI-Kompetenz: bereits eine Pflicht

Artikel 4 gilt für Anbieter und Betreiber: KI-Kompetenz ist bereits Pflicht, seit dem 2. Februar 2025. Der Omnibus hat ihn neu gefasst: Er verlangt, Maßnahmen zu ergreifen, um sie bei Ihrem Personal und bei Personen zu fördern, die die Systeme in Ihrem Auftrag nutzen, ohne für jede Person ein bestimmtes Niveau garantieren zu müssen.

Laut den Fragen und Antworten der Kommission überwachen die nationalen Marktüberwachungsbehörden die Einhaltung dieser Regeln seit dem 2. August 2026.

04Verbotene Praktiken

Seit dem 2. Februar 2025 verbietet Artikel 5 bestimmte Praktiken im KI-Bereich, auch für diejenigen, die solche Systeme nur verwenden. Für Unternehmen können vor allem diese relevant sein:

• Manipulation: unterschwellige, manipulative oder täuschende Techniken, die einen erheblichen Schaden verursachen oder wahrscheinlich verursachen.
• Schutzbedürftigkeit: Alter, Behinderung oder die soziale oder wirtschaftliche Situation von Personen ausnutzen.
• Soziale Bewertung: Personen nach Verhalten oder persönlichen Merkmalen einstufen, mit ungerechtfertigter Schlechterstellung.
• Emotionen am Arbeitsplatz: sie am Arbeitsplatz und in Bildungseinrichtungen ableiten, außer aus medizinischen oder Sicherheitsgründen.
• Biometrische Kategorisierung: aus biometrischen Daten etwa politische Einstellungen oder die sexuelle Orientierung ableiten.

Ab dem 2. Dezember 2026 verbietet der Omnibus zudem, KI-Systeme zu verwenden, um nicht einvernehmlich erstelltes intimes Material identifizierbarer Personen und Darstellungen von sexuellem Missbrauch von Kindern zu erzeugen. Bei verbotenen Praktiken reichen die Geldbußen bis zu 35 Mio. Euro oder 7 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist; für KMU gilt der niedrigere Betrag (Art. 99). Einzelheiten enthalten die Leitlinien zu verbotenen Praktiken.

05Wann ein Agent zum Hochrisiko-System wird

Im AI Act gilt: Über das Risiko entscheidet die Nutzung, nicht die Technologie. Anhang III listet die Hochrisiko-Anwendungen auf; Unternehmen betreffen vor allem diese:

• Beschäftigung: Einstellung, Filtern von Bewerbungen, Entscheidungen über Beförderung und Kündigung, Aufgabenzuweisung nach Verhalten oder persönlichen Merkmalen, Leistungsüberwachung.
• Kredit und Versicherung: Kreditwürdigkeit natürlicher Personen, außer zur Aufdeckung von Finanzbetrug, sowie Risikobewertung und Preisbildung bei Lebens- und Krankenversicherungen.
• Weitere Bereiche: Biometrie, kritische Infrastruktur, Bildung, grundlegende öffentliche Dienste.

Datenerfassung, das Auslesen von Dokumenten, Berichte und die erste Antwort an Kunden stehen für sich genommen nicht auf der Liste. Ein Agent kann zum Hochrisiko-System werden, wenn seine Arbeit einem dieser Zwecke dient: etwa beim Sortieren von Lebensläufen. Die Leitlinien der Kommission zur Einstufung liegen noch als Entwurf vor.

06Betreiberpflichten bei hohem Risiko

Ab dem 2. Dezember 2027 müssen Sie Artikel 26 einhalten, wenn Sie Hochrisiko-KI-Systeme nach Anhang III verwenden:

• Betriebsanleitung: das System gemäß den Vorgaben des Anbieters verwenden, mit geeigneten technischen und organisatorischen Maßnahmen.
• Menschliche Aufsicht: sie Personen mit der erforderlichen Kompetenz, Ausbildung und Befugnis übertragen.
• Überwachung: den Betrieb überwachen und bei einem Risiko Anbieter und Behörden informieren und die Nutzung aussetzen.
• Protokolle: automatisch erzeugte Protokolle mindestens sechs Monate aufbewahren, soweit sie Ihrer Kontrolle unterliegen.
• Information: Arbeitnehmer und Arbeitnehmervertreter vor dem Einsatz am Arbeitsplatz informieren, ebenso Personen, über die das System entscheidet oder bei Entscheidungen unterstützt.

Einrichtungen des öffentlichen Rechts, private Einrichtungen, die öffentliche Dienste erbringen, und wer Systeme für Kreditwürdigkeit oder Lebens- und Krankenversicherungen nutzt, müssen zudem eine Grundrechte-Folgenabschätzung durchführen (Art. 27). Für Systeme, die vor dem 2. Dezember 2027 bereits auf dem Markt sind, gelten Übergangsregeln (Art. 111).

07Transparenz gegenüber Kunden und Öffentlichkeit

Die Pflichten aus Artikel 50 wurden nicht verschoben: Transparenzpflichten gelten seit dem 2. August 2026.

• Interaktion: Der Anbieter gestaltet Systeme, die mit Personen interagieren, so, dass diese wissen, dass sie mit einem KI-System interagieren, es sei denn, das ist offensichtlich.
• Kennzeichnung: Der Anbieter generativer Systeme kennzeichnet die Ausgaben in einem maschinenlesbaren Format; für vor dem 2. August 2026 in Verkehr gebrachte Systeme gilt als Frist der 2. Dezember 2026.
• Deepfakes und Texte: Der Betreiber legt Deepfakes offen sowie erzeugte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, außer bei menschlicher Überprüfung und redaktioneller Verantwortung.

Wenn ein Agent Ihren Kunden direkt antwortet, klären Sie mit dem Anbieter, wie dies offengelegt wird; haben Sie ihn selbst entwickelt, kann die Pflicht Sie treffen. Einzelheiten enthalten die Leitlinien zu den Transparenzpflichten.

08AI Act und DSGVO

Der AI Act ersetzt die DSGVO nicht; sie gilt weiterhin für personenbezogene Daten, die Agenten verarbeiten (Art. 2 Abs. 7). Bei Hochrisiko-Systemen nutzt der Betreiber die Informationen des Anbieters für die Datenschutz-Folgenabschätzung (Art. 26 Abs. 9), auf die die Grundrechte-Folgenabschätzung verweisen kann.

09Eine Checkliste für den Einstieg

1. 01Erstellen Sie eine Übersicht Ihrer KI-Agenten und -Werkzeuge: Prozesse, Daten, Anbieter.
2. 02Klären Sie Ihre Rolle: Sind Sie für jedes System Betreiber, Anbieter oder beides?
3. 03Stufen Sie die Anwendungen ein: keine verbotenen Praktiken, dann Anhang III und Transparenzpflichten.
4. 04Schulen Sie die Personen, die die Agenten nutzen, passend zu ihrer Rolle.
5. 05Regeln Sie die menschliche Aufsicht: wer was freigibt, mit welcher Befugnis.
6. 06Protokollieren Sie die Aktionen der Agenten und bewahren Sie die Protokolle auf.
7. 07Fordern Sie Unterlagen bei den Anbietern an: Betriebsanleitung, bekannte Grenzen, Umgang mit Daten.

In unseren Projekten für KI-Agenten und Automatisierung arbeiten wir mit menschlicher Freigabe und Nachvollziehbarkeit jeder Aktion, Datenverarbeitung in der Europäischen Union und Agenten in isolierten Umgebungen, mit Zugriffen, die auf das Nötige beschränkt sind. Diese Elemente helfen, die für Hochrisiko-Systeme geforderte menschliche Aufsicht und Protokollierung zu organisieren; eine Konformitätsbescheinigung sind sie nicht. Wo Sie anfangen sollten, lesen Sie im Beitrag welche Prozesse zuerst automatisieren.

Quellen: Verordnung (EU) 2024/1689, Verordnung (EU) 2026/1744, Europäische Kommission, AI Act, KI-Kompetenz, verbotene Praktiken, Begriff des KI-Systems, Hochrisiko-Systeme, Transparenzpflichten.