Der EU AI Act ist in vielen Unternehmen gerade das, was die DSGVO 2017 war: etwas, über das alle reden, das kaum jemand gelesen hat, und das bei vielen ein diffuses Unbehagen auslöst. "Wieder eine EU-Verordnung. Wieder Compliance. Wieder irgendwas, das Anwälte bezahlt."
Ich verstehe den Reflex. Aber ich halte ihn hier für falsch kalibriert, jedenfalls für den typischen Mittelständler, der KI einsetzt statt sie zu entwickeln. Die meisten Betriebe, mit denen ich spreche, sind bei diesem Gesetz deutlich besser aufgestellt, als sie denken. Nicht weil der Act harmlos wäre, sondern weil er risikobasiert funktioniert. Wer seine KI für Büroprozesse, Kundenservice oder Recherche einsetzt, bewegt sich in aller Regel in einer anderen Risikoklasse als ein Unternehmen, das KI-Systeme für Kreditvergabe oder Personalauswahl verkauft.
Das bedeutet nicht, dass nichts zu tun wäre. Eine Pflicht gilt seit Februar 2025 für fast alle, und sie wird gerade noch selten ernst genommen.
Worum es beim AI Act überhaupt geht
Der EU AI Act ist eine Verordnung, keine Richtlinie. Das bedeutet: Sie gilt direkt, ohne dass Deutschland oder Österreich sie erst in nationales Recht übersetzen müsste. Ihr Ziel ist es, KI-Systeme nach dem Risiko zu regulieren, das sie für Menschen erzeugen können. Je höher das Risiko, desto mehr Auflagen.
Wichtig für die Einordnung: Der Act unterscheidet, ob ein Unternehmen ein KI-System entwickelt und in Verkehr bringt, oder ob es ein bestehendes System einsetzt. Die Pflichten für Anbieter sind erheblich umfangreicher. Wer einen fertigen KI-Agenten kauft, ihn einsetzen lässt und selbst keine Software schreibt, ist Betreiber. Die Pflichten als Betreiber sind kürzer, aber sie existieren.
Die wichtigen Fristen
Der Act tritt nicht an einem einzigen Datum in Kraft. Er ist gestaffelt.
Seit Februar 2025 gelten zwei Dinge:
Erstens sind bestimmte KI-Praktiken verboten, die als inakzeptables Risiko eingestuft werden. Dazu gehören zum Beispiel Systeme, die Menschen unbewusst manipulieren, Social-Scoring-Systeme nach chinesischem Vorbild oder biometrische Fernidentifikation in der Öffentlichkeit. Für die meisten Mittelständler ist das keine relevante Kategorie, weil sie keine solchen Systeme einsetzen. Aber es lohnt sich, das kurz zu überprüfen.
Zweitens gilt seit Februar 2025 die KI-Kompetenzpflicht. Dazu gleich mehr, weil das die konkreteste und am häufigsten übersehene Pflicht ist.
Ab dem 2. August 2026 greift die nächste Stufe. Dann gelten unter anderem Transparenzpflichten und Governance-Regeln für Betreiber von KI-Systemen bestimmter Risikoklassen. Wer bis dahin nicht weiß, welche KI-Systeme er einsetzt und in welche Risikoklasse sie fallen, steht unter Druck.
Die vier Risikoklassen, einfach erklärt
Der Act ordnet jede KI-Anwendung in eine von vier Klassen ein.
Verbotene Anwendungen sind Systeme, die grundlegende Rechte verletzen, manipulationsbasiert arbeiten oder Menschen auf inakzeptable Weise bewerten. Solche Systeme dürfen in der EU gar nicht eingesetzt werden.
Hochrisiko ist die Klasse, die die meisten Schlagzeilen produziert und bei der echte Auflagen entstehen: technische Dokumentation, Protokollierung, menschliche Aufsicht, Konformitätsprüfung. Typische Beispiele sind KI zur Auswahl von Bewerbern und Ranking von Lebensläufen, KI für Kreditvergabe und Bonitätsprüfung, Systeme im Gesundheitsbereich oder für sicherheitskritische Infrastruktur.
Begrenztes Risiko: Hier geht es hauptsächlich um Transparenz. Wer einen Chatbot betreibt, muss die Nutzer darüber informieren, dass sie mit einer KI sprechen. Das ist handhabbar.
Minimales Risiko heißt: keine besonderen Pflichten. KI-gestützte Spam-Filter, Empfehlungssysteme für den eigenen Webshop oder Rechtschreibkorrektur fallen typischerweise hier rein.
Wo ein KMU mit KI-Agenten meistens landet
Ein Betrieb, der KI-Agenten für Posteingang, Kundenkommunikation, Buchhaltungsvorbereitung oder interne Recherche einsetzt, bewegt sich nach aktuellem Stand in aller Regel im Bereich begrenztes oder minimales Risiko. Das heißt: keine Konformitätsprüfung, keine technische Zertifizierung, keine aufwendige Dokumentationspflicht aus der Hochrisiko-Kategorie.
Es gibt weiterhin die allgemeine Betreiberpflicht, KI nur bestimmungsgemäß einzusetzen, und die Transparenzpflicht gegenüber Kunden, wenn ein Agent mit ihnen interagiert. Aber wer KI für Büroprozesse nutzt, ist nicht in derselben regulatorischen Liga wie ein Unternehmen, das Kreditwürdigkeit automatisiert bewertet.
Wenn Sie mehr darüber wissen wollen, was ein KI-Agent überhaupt ist und wie er technisch funktioniert, steht das ausführlich in diesem Artikel.
Die Hochrisiko-Fallen, die Sie meiden sollten
Zwei Use-Cases ziehen Mittelständler häufig in Betracht, ohne sich über die Risikoklasse im Klaren zu sein.
Der erste: KI im Bewerbungsprozess. Wer ein System einsetzt, das Lebensläufe automatisiert filtert, rankiert oder bewertet, ist in Hochrisiko. Das gilt auch, wenn das System "nur" vorschlägt und ein Mensch formal entscheidet. Die Aufsichtsbehörden schauen hier auf die tatsächliche Funktion, nicht auf das Organigramm.
Der zweite: KI für Bonitätsprüfung oder Kreditentscheidungen. Auch das ist Hochrisiko, unabhängig davon, ob es sich um Konsumentenkredite oder B2B-Zahlungsziele handelt.
Wer diese Anwendungsfälle plant, sollte sich rechtlich beraten lassen, bevor er etwas einführt. Die Auflagen in Hochrisiko sind real und nicht trivial zu erfüllen.
Wir screenen bei Agentenkollege die geplanten Use-Cases vor dem Onboarding. Anwendungsfälle aus diesen Hochrisiko-Kategorien nehmen wir bewusst nicht an, weil wir die damit verbundene Compliance-Verantwortung nicht tragen, die wir nicht ordentlich erfüllen können.
Die Schulungspflicht ist die konkreteste Pflicht
Hier kommt der Teil, den ich in Gesprächen immer wieder erklären muss, weil er in der öffentlichen Debatte untergeht: Die KI-Kompetenzpflicht gilt seit Februar 2025. Nicht ab August 2026, nicht "irgendwann". Jetzt.
Was steht dahinter? Unternehmen, die KI-Systeme einsetzen, müssen dafür sorgen, dass ihre Mitarbeitenden über ausreichende KI-Kompetenz verfügen. Das ist keine Empfehlung, das ist eine Anforderung des Acts.
"Ausreichend" ist absichtlich nicht scharf definiert. Gemeint ist: Wer mit KI-Systemen arbeitet, soll verstehen, was das System tut, welche Grenzen es hat und wann menschliche Überprüfung nötig ist. Ein Mitarbeiter, der täglich mit einem KI-gestützten Tool arbeitet, ohne je gelernt zu haben, wie man Halluzinationen erkennt oder wann man eine Ausgabe prüfen muss, erfüllt das nicht.
Praktisch bedeutet das: Schulungen dokumentieren. Nicht als Selbstzweck, sondern weil im Streitfall nachgewiesen werden muss, dass das Unternehmen seiner Sorgfaltspflicht nachgekommen ist. Ein einstündiges internes Briefing mit Protokoll ist ein Anfang. Ein schriftlicher Hinweis in der Softwareeinführung allein reicht nicht.
Wer KI-Agenten für sein Team einführt, sollte den Schulungsnachweis von Anfang an mitdenken. Nicht aufwändig, aber strukturiert.
Für den regulatorischen Kontext rund um Datenschutz und Compliance beim KI-Einsatz gibt es einen eigenen Artikel: KI-Agenten DSGVO-konform einsetzen.
KMU-Erleichterungen, die kaum jemand kennt
Der Act hat ein paar Regelungen, die speziell für kleine und mittlere Unternehmen gedacht sind. Die bekannteste ist der bevorzugte Zugang zu Reallaboren, sogenannten Regulatory Sandboxes. Das sind staatlich eingerichtete Testumgebungen, in denen KI-Systeme unter behördlicher Begleitung entwickelt und erprobt werden können, ohne sofort alle Anforderungen erfüllen zu müssen.
Ob das für Ihren konkreten Fall relevant ist, hängt davon ab, ob Sie KI entwickeln oder nur einsetzen. Für den reinen Betreiber ohne eigene KI-Entwicklung ist das Sandbox-Programm weniger direkt interessant.
Gebühren für behördliche Verfahren sind nach Unternehmensgröße gestaffelt. Kleinstunternehmen zahlen weniger als Konzerne. Das ändert nichts an den inhaltlichen Anforderungen, ist aber immerhin eine Anerkennung, dass Compliance-Bürden nicht für alle gleich ausfallen.
Was Sie bis August 2026 tun sollten
Keine erschöpfende Liste, aber das, was ich als sinnvoll und machbar einstufe:
- Bestandsaufnahme der eingesetzten KI-Systeme. Welche Tools im Unternehmen setzen KI ein? Das schließt Produkte mit integrierter KI ein (viele CRM-Systeme, E-Mail-Tools, Analyse-Software haben das mittlerweile). Wer das nicht weiß, kann nicht einordnen.
- Risikoklasse grob prüfen. Für jeden identifizierten Anwendungsfall: Fällt das in Hochrisiko? Bei Bewerbungen und Bonitätsprüfungen: ja, unabhängig vom Tool. Bei Bürokommunikation und Recherche: in aller Regel nein.
- Mitarbeitende schulen und das dokumentieren. Das ist die Pflicht, die seit Februar 2025 gilt und die am einfachsten in eine handhabbare Form zu bringen ist. Ein internes Briefing, ein Protokoll, ein kurzer Leitfaden. Das reicht als Anfang mehr als vieles andere.
- Anbieter-Dokumentation einsammeln. Wer KI-Systeme von Drittanbietern einsetzt, sollte fragen, welche Dokumentation der Anbieter für seine Produkte bereitstellt. Anbieter von KI-Systemen haben eigene Pflichten; als Betreiber profitieren Sie davon, diese Unterlagen zu haben.
- Transparenz gegenüber Kunden klären. Wenn Ihre Kunden mit einem KI-System interagieren, etwa mit einem Chatbot, braucht es einen Hinweis. Das ist keine große Hürde, aber etwas, das man vergisst, wenn man nicht explizit draufschaut.
Das ist keine Vollständigkeitsgarantie, und es ersetzt keine Rechtsberatung für komplexere Situationen. Aber wer diese fünf Punkte bis August 2026 abgearbeitet hat, steht als Mittelständler in einer deutlich besseren Position als der Großteil seiner Branchenkollegen.
Der AI Act ist kein Anlass zur Panik. Er ist ein Anlass, einmal ordentlich hinzuschauen, was man eigentlich an KI im Betrieb hat und wie man damit umgeht. Wer das tut, wird feststellen, dass der Aufwand überschaubar ist. Zumindest, wenn man nicht gerade plant, Bewerbungen oder Kreditentscheidungen zu automatisieren.