EU AI Act: was er für den Mittelstand bedeutet

Für die meisten Unternehmen, die KI einsetzen, bringt der EU AI Act genau zwei Pflichten mit sich.

Sie müssen kenntlich machen, wo KI im Spiel ist. Und Sie müssen dafür sorgen, dass die Menschen, die damit arbeiten, genug darüber wissen.

Mehr wird es erst, wenn Ihr System in einen der acht Bereiche fällt, die die Verordnung als hochriskant einstuft. Dort geht es um Personalauswahl, Kreditwürdigkeit und Versicherungsrisiken, biometrische Erkennung, Bildung und Prüfungen, kritische Infrastruktur wie Strom und Wasser, Strafverfolgung, Migration und Justiz. Wenn Sie KI für Textentwürfe, Kundenanfragen, Dokumentensuche, Terminplanung oder Rechnungszuordnung nutzen, gehören Sie nicht dazu.

Das ist die kurze Antwort. Der Rest dieses Artikels erklärt, woran Sie das im Zweifel selbst erkennen, was gilt, wenn Sie doch dazugehören, und welche Fristen tatsächlich laufen. Eine davon ist näher, als die meisten Beiträge zum Thema vermuten lassen.

Zur Einordnung: Der EU AI Act regelt den Einsatz von KI in Europa. Er ist seit dem 1. August 2024 in Kraft und wird gestaffelt anwendbar, seit dem 2. August 2026 gilt der größte Teil. Anders als bei der DSGVO hängen die Anforderungen nicht davon ab, welche Daten Sie verarbeiten, sondern wofür Sie das System einsetzen. Das klingt nach einer Feinheit und ist der wichtigste Satz für die Praxis.

Es kommt nicht auf die Technik an, sondern auf den Zweck

Nehmen wir ein Modell, das Freitext liest und einer Kategorie zuordnet. Technisch ist das eine einzige Sache. Rechtlich sind es zwei völlig verschiedene.

Setzen Sie es im Rechnungseingang ein, um Belege der richtigen Kostenstelle zuzuordnen, fällt es unter minimales Risiko. Die Verordnung stellt dafür keine Anforderungen. Setzen Sie dasselbe Modell ein, um eingehende Bewerbungen vorzusortieren, sind Sie im Hochrisikobereich, denn Beschäftigung ist einer der Bereiche, die die Verordnung ausdrücklich benennt.

Gleiches Modell, gleicher Code, dieselben Entwickler. Der Unterschied liegt allein darin, worüber entschieden wird.

Die vier Stufen

Die Verordnung kennt vier Stufen. Ganz oben stehen die verbotenen Praktiken aus Artikel 5, darunter die soziale Bewertung von Menschen und das ungezielte Auslesen von Gesichtsbildern aus dem Internet. Darunter das hohe Risiko, um das es gleich ausführlich geht. Darunter das Transparenzrisiko, in das Chatbots und generative Systeme fallen. Und ganz unten das minimale Risiko, für das es keine Regeln gibt: Spamfilter, Suchfunktionen, das meiste, was im Alltag mitläuft.

Entscheidend ist die zweite Stufe, denn dort steckt der ganze Aufwand. Die Verordnung zählt dafür acht Bereiche auf:

• Biometrie: Fernidentifikation, Kategorisierung nach sensiblen Merkmalen, Emotionserkennung. Nicht dazu zählt die reine Identitätsprüfung, etwa beim Entsperren eines Geräts.
• Kritische Infrastruktur: Sicherheitskomponenten in Strom-, Wasser-, Gas- und Wärmeversorgung, Straßenverkehr und digitaler Infrastruktur.
• Bildung: Zugang zu Einrichtungen, Bewertung von Lernleistungen, Prüfungsaufsicht.
• Beschäftigung: Rekrutierung, Bewerbungsanalyse, Bewertung von Kandidaten, Entscheidungen über Beförderung oder Kündigung.
• Zugang zu wesentlichen Dienstleistungen: Prüfung von Leistungsansprüchen, Kreditwürdigkeit, Risikobewertung bei Versicherungen, Notruf und Triage. Betrugserkennung ist ausgenommen.
• Strafverfolgung: Risikobewertung von Personen, Beurteilung von Beweisen, Rückfallprognosen.
• Migration und Grenzkontrolle: Risikobewertung Einreisender, Unterstützung bei Asyl- und Visumanträgen.
• Justiz und demokratische Prozesse: juristische Recherche- und Anwendungshilfen, Systeme zur Beeinflussung von Wahlen.

Lesen Sie diese Liste einmal mit Ihrem eigenen Anwendungsfall im Kopf. In den meisten mittelständischen Unternehmen findet sich nichts davon, und damit ist die Compliance-Diskussion erledigt, bevor sie beginnt. Findet sich doch etwas, dann wissen Sie jetzt, wo Sie genauer hinsehen müssen.

Wer den Zweck ändert, ändert auch seine Rolle

Aus dieser Logik folgt etwas, das in der Praxis regelmäßig übersehen wird.

Maßgeblich ist der bestimmungsgemäße Zweck, also wofür ein System laut Anbieter gedacht ist und wofür Sie es tatsächlich einsetzen. Wenn Sie ein zugekauftes System zweckentfremden, verschiebt sich nicht nur die Einstufung. Es verschiebt sich auch Ihre Rolle.

Artikel 25 nennt drei Fälle, in denen Sie selbst zum Anbieter werden: Sie setzen Ihren Namen oder Ihre Marke auf ein vorhandenes Hochrisiko-System. Sie verändern ein solches System wesentlich. Oder Sie ändern den Zweck eines bisher unkritischen Systems so, dass es dadurch hochriskant wird.

Der dritte Fall ist der, der im Mittelstand tatsächlich vorkommt. Ein Werkzeug wird für die Textklassifikation eingekauft, läuft gut, und ein halbes Jahr später fragt jemand in der Runde, ob man damit nicht auch die eingehenden Bewerbungen vorsortieren könnte. Technisch eine Kleinigkeit, oft eine Nachmittagsaufgabe. Rechtlich der Wechsel vom Betreiber zum Anbieter, mit allen Pflichten, die daran hängen.

Deshalb lohnt es sich, den Zweck bei der Einführung einmal schriftlich festzuhalten. Nicht als Formalie, sondern damit die Frage überhaupt gestellt wird, wenn später jemand eine gute Idee hat.

Anbieter oder Betreiber

Auch hier unterscheidet die Verordnung nicht nach Branche, sondern nach Rolle. Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und unter eigenem Namen auf den Markt bringt. Betreiber ist, wer ein System unter eigener Verantwortung einsetzt.

Ein Beispiel aus dem Alltag: Sie kaufen eine Branchensoftware ein, die eine KI-gestützte Terminplanung enthält. Dann sind Sie Betreiber. Sie lassen eine Kundenplattform bauen, in der ein Assistent Anfragen beantwortet, und liefern diese Plattform unter Ihrem Namen an Ihre Kunden aus. Dann sind Sie Anbieter.

Die Rolle bestimmt den Umfang der Pflichten, und zwar erheblich. Anbieter tragen die Hauptlast, Betreiber deutlich weniger. Viele Unternehmen sind an unterschiedlichen Stellen beides. Welche Rolle bei welchem System gilt, gehört einmal aufgeschrieben, bevor irgendjemand über Aufwand spricht.

Die beiden Pflichten, die fast alle betreffen

Sagen, dass es KI ist

Artikel 50 gilt seit dem 2. August 2026. Er verlangt, dass Menschen erfahren, wenn sie mit einem KI-System sprechen, sofern das nicht ohnehin offensichtlich ist. Er verlangt außerdem, dass künstlich erzeugte Audio-, Bild-, Video- und Textinhalte in maschinenlesbarer Form als solche gekennzeichnet werden. Wer Systeme zur Emotionserkennung oder biometrischen Kategorisierung einsetzt, muss die betroffenen Personen informieren. Wer Deepfakes veröffentlicht, muss offenlegen, dass der Inhalt künstlich erzeugt wurde, wobei für künstlerische, satirische und fiktionale Werke geringere Anforderungen gelten.

Für ein normales Unternehmen heißt das: Der Chatbot braucht einen Hinweis. Der automatisch erzeugte Produkttext braucht eine Kennzeichnung. Das ist Arbeit von Stunden. Sie passiert nur eben nicht von allein, und ein Chatbot ohne Hinweis ist für jeden Besucher sichtbar, der eine Frage stellt.

Für einen Teil dieser Systeme gibt es eine Frist, die bisher wenig Aufmerksamkeit bekommen hat. Wenn Ihr System synthetische Inhalte erzeugt und vor dem 2. August 2026 bereits auf dem Markt war, gilt die maschinenlesbare Kennzeichnung aus Artikel 50 Absatz 2 nicht sofort, sondern ab dem 2. Dezember 2026.

Das betrifft mehr Unternehmen, als es zunächst klingt. Gemeint sind nicht KI-Produkte, sondern gewachsene Anwendungen, denen irgendwann eine Funktion hinzugefügt wurde: ein Assistent im Kundenportal, eine automatische Textvorschlagsfunktion, eine generierte Produktbeschreibung im Shop. Wer so etwas 2025 oder im ersten Halbjahr 2026 eingebaut hat, hat bis Anfang Dezember Zeit und danach nicht mehr.

Maschinenlesbar heißt dabei mehr als ein Hinweis in der Oberfläche. Die Kennzeichnung muss so hinterlegt sein, dass eine Maschine sie auslesen kann, etwa über Metadaten am erzeugten Artefakt. Ein Satz unter dem Textfeld erfüllt die Anforderung an Absatz 2 nicht. Das ist der Punkt, an dem aus einer Formulierungsfrage eine Entwicklungsaufgabe wird, und der Grund, warum sich ein Blick in die eigenen Anwendungen jetzt lohnt und nicht im November.

Die eigenen Leute befähigen

Artikel 4 verlangt von Anbietern und von Betreibern, für ein ausreichendes Maß an KI-Kompetenz beim eigenen Personal zu sorgen. Gemeint sind alle, die diese Systeme in Ihrem Namen bedienen. Welche Form die Schulung hat, schreibt die Verordnung nicht vor. Berücksichtigt werden sollen das Vorwissen der Person, ihre Ausbildung, der Einsatzkontext und die betroffenen Personengruppen.

Diese Pflicht gilt seit dem 2. Februar 2025. Sie wird regelmäßig übersehen, weil sie ohne die Aufmerksamkeit kam, die eine große Frist erzeugt. Sie ist gleichzeitig die am leichtesten zu erfüllende: eine dokumentierte interne Schulung, eine schriftliche Nutzungsregel, ein benannter Ansprechpartner. Wer nichts davon hat, hat auch keinen Nachweis.

Wenn es doch ein Hochrisiko-System ist

Diese Pflichten gelten für die acht Bereiche aus Annex III ab dem 2. Dezember 2027. Der zusätzliche Zeitraum ist ein Vorteil, aber kein Grund zu warten, denn Protokollierung und menschliche Aufsicht sind Architekturfragen und keine Nachrüstung.

Dann greift Artikel 26. Für ein Unternehmen, das ein solches System einsetzt, ohne es selbst gebaut zu haben, steht dort im Kern:

• das System gemäß der Bedienungsanleitung des Anbieters betreiben
• die menschliche Aufsicht durch Personen sicherstellen, die dafür qualifiziert sind
• die Eingabedaten auf Relevanz und Repräsentativität prüfen, soweit Sie über sie bestimmen
• den Betrieb überwachen und Anbieter sowie Behörden bei Risiken oder Vorfällen informieren
• automatisch erzeugte Protokolle mindestens sechs Monate aufbewahren
• die Beschäftigten vor dem Einsatz am Arbeitsplatz informieren
• die betroffenen Personen informieren, wenn Entscheidungen sie betreffen

Nichts davon ist für sich genommen aufwendig. Aber es passiert nur, wenn jemand im Haus dafür zuständig ist, und diese Zuständigkeit ergibt sich nicht von selbst aus dem Kauf einer Software.

Was ein Verstoß kostet, und warum die bekannte Zahl für Sie nicht gilt

Die Verordnung sieht drei Bußgeldstufen vor. Für verbotene Praktiken nach Artikel 5 bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes. Für andere Pflichtverletzungen bis zu 15 Millionen Euro oder 3 Prozent. Für falsche oder irreführende Angaben gegenüber Behörden bis zu 7,5 Millionen Euro oder 1 Prozent.

Diese Zahlen stehen in fast jedem Beitrag zum Thema, meistens gleich in der Überschrift. Was dort selten steht: Für kleine und mittlere Unternehmen einschließlich Start-ups gilt jeweils der niedrigere der beiden Werte, nicht der höhere. Zusätzlich soll bei der Bemessung die wirtschaftliche Tragfähigkeit des Unternehmens berücksichtigt werden. Beides steht ausdrücklich in Artikel 99.

Für ein mittelständisches Unternehmen ist die berühmte Zahl also schlicht die falsche. Das ändert nichts an den Pflichten. Es ändert etwas daran, wie viel Aufregung angemessen ist.

Was wir am Projektanfang klären

Die Verordnung ändert nicht, wie Software gebaut wird. Sie ändert, welche Fragen beantwortet sein müssen, bevor gebaut wird. Wir stellen sie am Anfang, unabhängig davon, was am Ende dabei herauskommt. In den allermeisten Projekten lautet die Antwort nach zehn Minuten minimales Risiko, und dann ist sie dokumentiert und die Sache erledigt.

Die Rollenfrage im Erstgespräch

Ob Sie am Ende Anbieter oder Betreiber sind, entscheidet über fast alles Weitere. Die Frage ist schnell beantwortet, wenn man sie stellt, und teuer, wenn sie erst in der Abnahme auftaucht.

Die Einstufung vor der Architektur

Ob ein System in einen der acht Hochrisiko-Bereiche fällt, hängt vom Einsatzzweck ab. Diese Antwort brauchen wir, bevor die Architektur steht, nicht danach. Protokollierung über sechs Monate lässt sich nachrüsten, aber sie kostet dann ein Vielfaches.

Kennzeichnung als Anforderung, nicht als Korrekturschleife

Der Hinweis, dass hier ein KI-System antwortet, gehört in die Anforderungsliste. Nachträglich eingebaut sieht er auch nachträglich eingebaut aus.

Menschliche Aufsicht als Oberflächenfrage

Ein Mensch prüft das steht schnell in einem Konzept. In der Software braucht es einen Ort, an dem dieser Mensch sieht, was das System vorschlägt, und es ändern kann, ohne den Vorgang zu verlassen. Fehlt dieser Ort, wird aus der Prüfung ein Durchklicken.

Welche Daten das System überhaupt sehen muss

Diese eine Frage entscheidet mehr über die Architektur als jede andere. Ob ein Modell in einem europäischen Rechenzentrum läuft oder auf eigener Infrastruktur, hängt selten vom Modell ab und fast immer davon, was es zu sehen bekommt. Früh gestellt kostet sie ein Gespräch, spät gestellt eine Migration.

Nachweise statt Zusicherungen bei der Abnahme

Welche Modellversion im Einsatz ist, welche Daten verarbeitet werden, wie die Einstufung begründet wurde. Das gehört in die Projektdokumentation, nicht in eine E-Mail.

Wie wir selbst damit umgehen

Wir setzen KI-Werkzeuge in der eigenen Entwicklung ein. Welche das sind, wie mit Kundendaten umgegangen wird und wann eine lokale Lösung statt eines Cloud-Dienstes zum Einsatz kommt, steht auf unserer Seite zu Datenschutz bei KI-gestützter Entwicklung. Wer KI in bestehende Unternehmenssoftware integrieren möchte und die Einstufung von Anfang an mitdenken will, findet den Ablauf unter KI-Integration.

Der Zeitplan zum Nachschlagen

• 1. August 2024: Inkrafttreten. Noch keine Anforderungen anwendbar.
• 2. Februar 2025: Die verbotenen Praktiken aus Artikel 5 und die Pflicht zur KI-Kompetenz aus Artikel 4. Ausgenommen sind die nachträglich ergänzten Verbote zu nicht einvernehmlichen intimen Bildaufnahmen und zu Darstellungen sexuellen Kindesmissbrauchs.
• 2. August 2025: Regeln für Modelle mit allgemeinem Verwendungszweck, die Governance-Struktur, die benannten Stellen und der Sanktionsrahmen.
• 27. Juli 2026: Die Artikel 102 bis 110, die andere EU-Rechtsakte ändern.
• 2. August 2026: Der Großteil der Verordnung. Darunter die Transparenzpflichten aus Artikel 50.
• 2. Dezember 2026: Systeme, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen und vor dem 2. August 2026 auf dem Markt waren, müssen ab jetzt Artikel 50 Absatz 2 erfüllen. Außerdem werden die nachträglich ergänzten Verbote aus Artikel 5 anwendbar.
• 2. August 2027: Modelle mit allgemeinem Verwendungszweck, die vor dem 2. August 2025 auf dem Markt waren, müssen konform sein. Außerdem müssen die Mitgliedstaaten mindestens ein KI-Reallabor betriebsbereit haben.
• 2. Dezember 2027: Die Hochrisiko-Regeln für die acht Bereiche aus Annex III.
• 2. August 2028: Die Hochrisiko-Regeln für KI als Sicherheitsbauteil in Produkten, die ohnehin ein EU-Konformitätsverfahren durchlaufen, etwa Maschinen, Aufzüge, Medizinprodukte oder Spielzeug. Das ist Annex I.
• 2. August 2030: Hochrisiko-Systeme, die von Behörden genutzt werden.
• 31. Dezember 2030: KI-Komponenten in großflächigen EU-IT-Systemen nach Annex X.

Drei Punkte darin sind für ein mittelständisches Unternehmen wahrscheinlich wichtiger als der Rest.

Der erste ist der 2. Dezember 2026, weil er als einziger unmittelbar bevorsteht. Er betrifft Sie, wenn eine Ihrer Anwendungen synthetische Inhalte erzeugt und vor dem 2. August 2026 im Einsatz war. Was dann zu tun ist, steht oben im Abschnitt zur Kennzeichnung.

Der zweite ist der 2. August 2028. Wenn Sie Produkte herstellen, die ohnehin ein EU-Konformitätsverfahren durchlaufen, also Maschinen, Aufzüge, Medizinprodukte, Druckgeräte, Spielzeug und Ähnliches, und wenn darin KI als Sicherheitsbauteil steckt, dann gilt für Sie diese Frist. Für den Maschinenbau ist das die relevante Zeile. Sie liegt weiter in der Zukunft, als die meisten Beiträge zum Thema vermuten lassen.

Der dritte steht gar nicht in der Liste, sondern in Artikel 111: Hochrisiko-Systeme, die bereits vor dem jeweiligen Anwendungsdatum im Einsatz waren, müssen erst dann in Konformität gebracht werden, wenn ihre Auslegung wesentlich geändert wird. Maßgeblich sind dafür der 2. Dezember 2027 für die Bereiche aus Annex III und der 2. August 2028 für Annex I. Wer ein solches System unverändert weiterbetreibt, hat also Zeit. Wer es weiterentwickelt, hat sie nicht, und die nächste größere Ausbaustufe wird damit zum Stichtag. Für Systeme, die von Behörden genutzt werden, gilt stattdessen die Frist bis zum 2. August 2030.

Häufige Fragen

Was ist der Unterschied zwischen DSGVO und EU AI Act?

Die DSGVO regelt den Umgang mit personenbezogenen Daten, unabhängig von der Technologie. Der EU AI Act regelt das Inverkehrbringen und den Einsatz von KI-Systemen, unabhängig davon, ob personenbezogene Daten im Spiel sind. Beide gelten nebeneinander. Ein System kann DSGVO-konform sein und trotzdem gegen den AI Act verstoßen, und umgekehrt.

Brauche ich eine KI-Richtlinie und was gehört hinein?

Vorgeschrieben ist keine bestimmte Form. In der Praxis ist eine schriftliche Richtlinie der einfachste Nachweis für die Pflicht zur KI-Kompetenz. Hinein gehören: welche Werkzeuge freigegeben sind, welche Daten hineingegeben werden dürfen und welche nicht, wer entscheidet, wer im Zweifel gefragt wird und wie neue Werkzeuge geprüft werden.

Wie setze ich KI ein, ohne Daten in die USA zu geben?

Über Modelle in europäischen Rechenzentren oder über Modelle auf eigener Infrastruktur. Beides ist machbar und für viele Anwendungsfälle im Mittelstand leistungsfähig genug. Der Aufwand hängt weniger vom Modell ab als von der Frage, welche Daten das System überhaupt braucht.

Ab wann gilt der EU AI Act für mein Unternehmen?

In Teilen seit dem 2. Februar 2025, im Wesentlichen seit dem 2. August 2026. Die nächste Frist ist der 2. Dezember 2026 für die maschinenlesbare Kennzeichnung bestehender Systeme mit synthetischen Inhalten. Die Hochrisiko-Regeln folgen gestaffelt ab Dezember 2027. Die Liste oben zeigt den vollständigen Ablauf.

Wer berät mittelständische Unternehmen zum EU AI Act?

Für die rechtliche Bewertung Fachanwältinnen und Fachanwälte oder Ihr Datenschutzbeauftragter. Für die Umsetzung im Softwareprojekt, also Einstufung, Kennzeichnung, Protokollierung und Dokumentation, Ihr Softwaredienstleister. Wir klären diese Fragen in jedem KI-Projekt zu Beginn und arbeiten bei der rechtlichen Seite mit dem Datenschutzbeauftragten unserer Kunden zusammen.

Welche Pflichten habe ich, wenn ich KI im Unternehmen einsetze?

Für die meisten Unternehmen zwei: das Personal ausreichend befähigen und kennzeichnen, wenn Menschen mit einem KI-System interagieren oder KI-erzeugte Inhalte erhalten. Weitergehende Pflichten entstehen erst mit der Einstufung als hochriskant.

Hinweis

DEVWARE ist ein Softwaredienstleister und keine Rechtsberatung. Dieser Artikel gibt den Stand vom 7. September 2026 wieder und ersetzt keine Prüfung des Einzelfalls. Für die rechtliche Bewertung Ihres konkreten KI-Einsatzes wenden Sie sich an eine Rechtsanwältin, einen Rechtsanwalt oder an Ihren Datenschutzbeauftragten.

Quellen: Verordnung (EU) 2024/1689 in der jeweils geltenden Fassung, Artikel 4, 5, 6, 25, 26, 50, 99, 111 und 113, dazu Annex I, Annex III und Annex X. Europäische Kommission, Regulatory framework for AI. Übersicht der Anwendungsfristen, artificialintelligenceact.eu.