AI Act: Was Unternehmen beim Einsatz von KI beachten müssen.

Wen der AI Act betrifft.

Die Verordnung (EU) 2024/1689 ist seit 1. August 2024 in Kraft und gilt unmittelbar in allen Mitgliedstaaten. Im Juli 2026 wurde sie durch die Digital-Omnibus-Verordnung zur KI, die Verordnung (EU) 2026/1744, geändert. Ihr amtlicher Kurztitel lautet „Verordnung über künstliche Intelligenz“. Im Deutschen ist KI-Verordnung gebräuchlich, im Alltag AI Act.

Welche Pflichten ein Unternehmen hat, hängt von seiner Rolle ab. Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen in Verkehr bringt oder in Betrieb nimmt. Betreiber ist, wer ein KI-System in eigener Verantwortung beruflich verwendet (Art. 3). Stellt ein Unternehmen seinen Mitarbeitenden einen KI-Assistenten zur Verfügung oder setzt es ein zugekauftes KI-System im Betrieb ein, ist es Betreiber.

Die Rollen können zusammenfallen und wechseln. Wer ein eigenes KI-System entwickelt und nur intern einsetzt, ist nach Auskunft der KI-Servicestelle der RTR Anbieter und Betreiber zugleich. Wer ein Hochrisiko-System mit eigenem Namen oder eigener Marke versieht, es wesentlich verändert oder die Zweckbestimmung eines anderen Systems so ändert, dass es zum Hochrisiko-System wird, gilt als Anbieter und übernimmt dessen Pflichten (Art. 25 Abs. 1).

In der KI-Beratung halten wir zu Beginn fest, wer in Ihrem Vorhaben welches System bereitstellt und wer es einsetzt. Diese Angaben braucht Ihre Rechtsberatung für die Einordnung.

Vier Risikostufen und was sie im Alltag bedeuten.

Im AI Act richten sich die Pflichten nach dem Risiko. Die Verordnung selbst spricht zwar von verbotenen Praktiken, Hochrisiko-KI-Systemen und bestimmten KI-Systemen mit Transparenzpflichten, üblich ist aber die Einteilung in vier Stufen.

Ein System aus den Bereichen des Anhangs III gilt nicht als hochriskant, wenn es kein erhebliches Risiko birgt. Das ist etwa der Fall, wenn es nur eine eng gefasste Verfahrensaufgabe erledigt (Art. 6 Abs. 3). Erstellt es Profile natürlicher Personen, ist es immer hochriskant. Die Leitlinien der Kommission zur Einstufung lagen im November 2026 erst als Entwurf vor.

Ab 2. Dezember 2026 kommen zwei Verbote dazu. Sie betreffen KI-Systeme, die ohne Zustimmung intime oder sexuelle Darstellungen bestimmbarer Personen erzeugen, und Systeme, die Missbrauchsdarstellungen von Kindern erzeugen (Art. 5 Abs. 1 lit. ba und bb).

Die Fristen im Überblick.

Der AI Act wird stufenweise wirksam. Die Transparenzpflichten sind seit 2. August 2026 anwendbar. Die Regeln für Hochrisiko-Systeme hat die Digital-Omnibus-Verordnung im Juli 2026 auf Dezember 2027 und August 2028 verschoben.

Pflichten für Unternehmen, die KI einsetzen.

Für Betreiber lassen sich die Pflichten in drei Gruppen einteilen. Die erste gilt für jedes Unternehmen, das KI beruflich nutzt, die zweite für bestimmte Inhalte und Systeme, die dritte nur in den Hochrisiko-Bereichen.

KI-Kompetenz im Team (Art. 4)

Anbieter und Betreiber ergreifen Maßnahmen, um die Entwicklung der KI-Kompetenz ihres Personals zu unterstützen. Zu berücksichtigen sind dabei Vorkenntnisse, Ausbildung und der Kontext, in dem die Systeme eingesetzt werden. Seit der Änderung vom Juli 2026 hält die Verordnung fest, dass Anbieter und Betreiber für keine Person ein bestimmtes Niveau garantieren müssen.

Wie Unternehmen diese Maßnahmen nachweisen, schreibt die Verordnung nicht vor. Die KI-Servicestelle der RTR empfiehlt, die Maßnahmen zu dokumentieren. Dazu zählt sie eine interne KI-Richtlinie, ein Schulungskonzept sowie je Person Art, Inhalt und Zeitpunkt der Schulung. Ein Zertifikat braucht es laut Kommission nicht. Unternehmen können eine interne Aufzeichnung über Schulungen und andere Maßnahmen führen. Am Anfang steht laut RTR eine Liste der KI-Systeme, die das Unternehmen einsetzt.

Transparenz bei KI-Inhalten (Art. 50)

Seit 2. August 2026 müssen Betreiber offenlegen, wenn sie mit einem KI-System Deepfakes erzeugen oder verändern. Gemeint sind Bilder, Videos oder Tonaufnahmen, die echt wirken, es aber nicht sind. Dasselbe gilt für KI-erzeugte Texte, mit denen die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informiert wird. Für Texte gibt es eine Ausnahme: Hat ein Mensch den Inhalt überprüft und trägt jemand die redaktionelle Verantwortung, entfällt die Pflicht zur Offenlegung. Eine bloße Rechtschreibprüfung reicht dafür laut RTR nicht. Wer Emotionserkennung oder biometrische Kategorisierung einsetzt, muss die betroffenen Personen informieren.

Zwei weitere Pflichten treffen die Anbieter. Für Betreiber sind sie bei der Auswahl eines Systems wichtig. Ein Chatbot muss so gestaltet sein, dass Menschen erkennen, dass sie mit einer KI sprechen. KI-erzeugte Inhalte müssen außerdem maschinenlesbar gekennzeichnet sein. Für Systeme, die vor dem 2. August 2026 am Markt waren, endet die Übergangsfrist dafür am 2. Dezember 2026.

Hochrisiko-Systeme (Art. 26 und 27)

Für Unternehmen, die ein Hochrisiko-System nach Anhang III einsetzen, gelten ab 2. Dezember 2027 eigene Betreiberpflichten. Das System ist nach der Betriebsanleitung zu verwenden, und die Aufsicht muss eine geschulte, dazu befugte Person führen. Die automatisch erzeugten Protokolle sind, soweit der Betreiber sie kontrolliert, mindestens sechs Monate aufzubewahren, sofern anderes Recht, etwa das Datenschutzrecht, nichts anderes bestimmt. Arbeitgeber müssen vorab die Arbeitnehmervertretung und die betroffenen Beschäftigten informieren. Personen, über die ein solches System mitentscheidet, sind darüber zu informieren.

Für Systeme, die schon vor dem 2. Dezember 2027 in Verkehr gebracht oder in Betrieb genommen wurden, gilt die Verordnung nur, wenn sie danach in ihrer Konzeption erheblich verändert werden (Art. 111 Abs. 2). Systeme, die für die Verwendung durch Behörden bestimmt sind, müssen die Anforderungen in jedem Fall bis 2. August 2030 erfüllen.

Art. 27 verlangt eine Grundrechte-Folgenabschätzung von öffentlichen Stellen und von privaten Einrichtungen, die öffentliche Dienste erbringen. Dazu kommen Betreiber von Systemen, mit denen die Kreditwürdigkeit natürlicher Personen geprüft wird oder bei Lebens- und Krankenversicherungen Risiken bewertet und Preise gebildet werden. Für Systeme in kritischer Infrastruktur gilt Art. 27 nicht. Art. 86 ist seit 2. August 2026 anwendbar. Er gibt Betroffenen ein Recht auf Erläuterung, welche Rolle ein Hochrisiko-System nach Anhang III bei einer Entscheidung gespielt hat, die rechtliche oder ähnlich erhebliche Auswirkungen auf sie hat.

Selbstcheck: Was trifft auf Ihr Unternehmen zu?

Kreuzen Sie an, was zutrifft. Der Check zeigt, welche Teile des AI Act Ihr Unternehmen betreffen können. Er dient der ersten Orientierung.

AI Act und DSGVO gelten nebeneinander.

Der AI Act ersetzt das Datenschutzrecht nicht. Verarbeitet ein KI-System personenbezogene Daten, gilt nach Art. 2 Abs. 7 der KI-Verordnung weiterhin die DSGVO. Jede Verarbeitung personenbezogener Daten braucht daher eine Rechtsgrundlage nach Art. 6 DSGVO. Verarbeitet der Anbieter des Modells solche Daten in Ihrem Auftrag, ist mit ihm ein Vertrag zur Auftragsverarbeitung zu schließen (Art. 28 DSGVO).

Bei automatisierten Entscheidungen ist Art. 22 DSGVO zu prüfen. Die österreichische Datenschutzbehörde nennt als Beispiel ein System, das Bewerbungen automatisch aussortiert. Birgt die Verarbeitung voraussichtlich ein hohes Risiko, ist eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO nötig. Bei Hochrisiko-Systemen nutzen Betreiber dafür die Informationen, die der Anbieter nach Art. 13 bereitstellt (Art. 26 Abs. 9 der KI-Verordnung).

Im Alltag wird der Datenschutz häufig bei KI-Assistenten zum Thema, die Mitarbeitende frei nutzen. Die RTR weist darauf hin, dass dabei keine personenbezogenen Daten oder Geschäftsgeheimnisse unrechtmäßig an den Anbieter gelangen dürfen. Die Datenschutzbehörde empfiehlt interne Regeln dazu, welche Daten mit einem KI-System verarbeitet werden dürfen.

Was das für Ihr KI-Projekt bedeutet.

Die meisten Anforderungen lassen sich erfüllen, wenn sie von Anfang an eingeplant sind. In unseren Projekten klären wir vier Punkte, bevor die Entwicklung beginnt.

Diese Unterlagen ersetzen keine rechtliche Prüfung. Ihre Kanzlei oder Ihre Datenschutzbeauftragten können den Einsatz aber auf dieser Grundlage beurteilen. Wann sich KI für eine Aufgabe überhaupt lohnt, beschreibt der Ratgeber KI-Automatisierung.

Welche Geldbußen der AI Act vorsieht.

Art. 99 staffelt die Geldbußen in drei Stufen. Verstöße gegen die Verbote können bis zu 35 Mio. Euro oder 7 % des weltweiten Jahresumsatzes kosten, je nachdem, welcher Betrag höher ist. Für Verstöße gegen die Pflichten der Betreiber von Hochrisiko-Systemen und gegen die Transparenzpflichten reicht der Rahmen bis 15 Mio. Euro oder 3 %. Falsche Auskünfte an Behörden können bis zu 7,5 Mio. Euro oder 1 % kosten. Für KMU gilt jeweils der niedrigere der beiden Werte.

Die Einzelheiten legen die Mitgliedstaaten fest. In Deutschland ist die Bundesnetzagentur seit 29. Juli 2026 Marktüberwachungsbehörde. Österreich hatte bis 10. November 2026 weder eine Marktüberwachungsbehörde benannt noch ein Durchführungsgesetz kundgemacht. Anlaufstelle für Fragen ist die KI-Servicestelle der RTR. Sie informiert, führt aber keine Aufsicht. Für die KI-Kompetenz nach Art. 4 nennt Art. 99 keinen eigenen Bußgeldrahmen. Die Mitgliedstaaten können Verstöße aber nach nationalem Recht ahnden (Art. 99 Abs. 1). Die RTR weist außerdem darauf hin, dass fehlende Schulungen bei einem Schaden dem Unternehmen zugerechnet werden können.