Zum Inhalt springen
Cortexion – zur Startseite

Recht und Datenschutz

Der EU AI Act im eigenen Unternehmen: was jetzt gilt

Der EU AI Act ist seit August 2024 in Kraft, seine Pflichten greifen schrittweise; im Juli 2026 hat die EU ihn mit dem digitalen Omnibus zur KI geändert. Für Betriebe, die KI im Alltag nutzen, zählen vor allem KI-Kompetenz, Transparenz und eine saubere Übersicht.

· aktualisiert am · 9 Min. Lesezeit · von

Das Wichtigste in Kürze

  • Der EU AI Act (Verordnung 2024/1689) teilt KI nach Risiko ein: verbotene Praktiken, Hochrisiko-Systeme, Transparenzpflichten für Chats und erzeugte Inhalte sowie kaum geregelte Anwendungen.
  • Für die meisten Betriebe zählt vor allem Art. 4: Wer KI einsetzt, ergreift Maßnahmen, um die KI-Kompetenz der Menschen zu unterstützen, die damit arbeiten. Seit dem digitalen Omnibus ist das eine Pflicht zur Unterstützung, kein festes Niveau mehr.
  • Hochrisiko-Pflichten greifen etwa bei KI in der Bewerberauswahl oder bei der Prüfung der Kreditwürdigkeit; der digitale Omnibus hat sie auf Dezember 2027 und August 2028 verschoben.
  • Der Fahrplan in acht Schritten beginnt mit einer Übersicht aller genutzten KI, auch der privaten, und endet mit einer lückenlosen Dokumentation.

Der EU AI Act, die Verordnung (EU) 2024/1689, ist seit dem 1. August 2024 in Kraft (Art. 113). Seine Pflichten greifen nicht auf einmal, sondern schrittweise. Für Unternehmen, die KI im Alltag nutzen, also zum Schreiben, Zusammenfassen, Recherchieren oder für eigene kleine Anwendungen, ist das meiste gut zu bewältigen. Wichtig ist, dass Sie wissen, welche Regeln für Sie gelten.

Seit dem 27. Juli 2026 gilt dazu die Verordnung (EU) 2026/1744, der sogenannte digitale Omnibus zur KI. Sie wurde am 24. Juli 2026 im Amtsblatt veröffentlicht und trat am dritten Tag danach in Kraft (Art. 4 der Verordnung 2026/1744). Sie verschiebt Termine, schwächt die Pflicht zur KI-Kompetenz ab und fügt zwei Verbote hinzu.

Dieser Artikel ersetzt keine Rechtsberatung. Er gibt den Stand vom November 2026 wieder; alle Termine und Beträge stammen aus den beiden Verordnungen in der amtlichen Fassung auf EUR-Lex.

Was der EU AI Act ist, in einer Minute

Der AI Act ist ein umfassendes Gesetz für künstliche Intelligenz in der EU. Er folgt dem Risiko: Je höher das Risiko einer Anwendung, desto strenger die Pflichten. Es gibt vier Klassen:

  • Unannehmbares Risiko (verboten): etwa Bewertung des sozialen Verhaltens von Menschen, bestimmte biometrische Erkennung in Echtzeit im öffentlichen Raum, manipulative Systeme.
  • Hohes Risiko (streng geregelt): etwa KI in der Auswahl von Bewerbern, bei der Kreditwürdigkeit, in kritischer Infrastruktur, in der Strafverfolgung oder in der Bildung.
  • Begrenztes Risiko (Transparenzpflichten): etwa Chats mit einer KI und erzeugte Inhalte.
  • Minimales Risiko (kaum geregelt): etwa Spamfilter.

Wichtig ist auch, welche Rolle Sie haben. Wer ein KI-System entwickelt und anbietet, ist Anbieter. Wer es im eigenen Betrieb nutzt, ist Betreiber. Die meisten kleinen und mittleren Unternehmen sind Betreiber, und für Betreiber sind die Pflichten deutlich schlanker.

Die Termine, die zählen

Seit oder abWas giltQuelle
1. August 2024Die Verordnung ist in Kraft, noch ohne Pflichten.Art. 113 VO 2024/1689
2. Februar 2025Allgemeine Bestimmungen, KI-Kompetenz (Art. 4) und Verbote (Art. 5)Art. 113 Buchst. a VO 2024/1689
2. August 2025Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, Aufsicht und BußgelderArt. 113 Buchst. b VO 2024/1689
2. August 2026Der Großteil der übrigen Regeln, auch die Transparenzpflichten (Art. 50)Art. 113 VO 2024/1689
27. Juli 2026Der digitale Omnibus zur KI ist in Kraft, mit der neuen Fassung von Art. 4.Art. 4 VO 2026/1744
2. Dezember 2026Zwei neue Verbote (Art. 5 Abs. 1 Buchst. ba und bb). Anbieter erzeugender KI, die vor dem 2. August 2026 auf den Markt kam, müssen erzeugte Inhalte bis dahin kennzeichnen (Art. 50 Abs. 2).Art. 113 Abs. 3 Buchst. a und Art. 111 Abs. 4, beide in der Fassung der VO 2026/1744
2. Dezember 2027Pflichten für Hochrisiko-Systeme nach Anhang III, etwa Personal, Kredit, BildungArt. 113 Abs. 3 Buchst. c Ziff. i in der Fassung der VO 2026/1744
2. August 2028Pflichten für Hochrisiko-KI in Produkten nach Anhang IArt. 113 Abs. 3 Buchst. c Ziff. ii in der Fassung der VO 2026/1744

Ursprünglich sollten die Hochrisiko-Pflichten ab dem 2. August 2026 gelten. Der digitale Omnibus hat sie verschoben, weil Normen und Leitlinien fehlten und nationale Behörden noch nicht eingerichtet waren (Erwägungsgrund 40 der Verordnung 2026/1744).

Für fast jeden Betrieb wichtig: KI-Kompetenz (Art. 4)

Bis Juli 2026 verlangte Art. 4, dass Anbieter und Betreiber „nach besten Kräften sicherstellen“, dass ihr Personal über ein ausreichendes Maß an KI-Kompetenz verfügt. Seit dem digitalen Omnibus heißt es: Sie „ergreifen Maßnahmen, um die Entwicklung der KI-Kompetenz ihres Personals … zu unterstützen“. Ein bestimmtes Niveau müssen sie ausdrücklich nicht mehr sicherstellen (Art. 4 Abs. 1 in der Fassung der Verordnung 2026/1744). Die Kommission veröffentlicht dazu praktische Beispiele (Art. 4 Abs. 2).

Die Pflicht ist also milder, aber nicht weg. Was heißt das praktisch?

  • Verständnis der eingesetzten KI: Was kann sie, was nicht?
  • Bewusstsein für Risiken: erfundene Aussagen, Verzerrungen, Datenschutz.
  • Wissen über die rechtlichen Grenzen im eigenen Betrieb.
  • Die Fähigkeit, Ergebnisse der KI kritisch zu prüfen.

Die Verordnung schreibt keine Stundenzahl vor. Wichtig ist, dass die Schulung zu Ihrem Einsatz passt und dass Sie sie festhalten: wer wann was gelernt hat. Eine schriftliche KI-Richtlinie ist dafür ein guter Rahmen.

Wann Hochrisiko-Pflichten greifen

Anhang III des AI Act nennt die Hochrisiko-Bereiche. Für den Mittelstand sind vor allem diese wichtig:

  • Personal: Sichtung und Vorsortierung von Bewerbungen, automatisierte Entscheidungen über Beförderung oder Kündigung.
  • Finanzen: Prüfung der Kreditwürdigkeit von Personen.
  • Bildung: Bewertung von Prüfungen, Vergabe von Plätzen.
  • Kritische Infrastruktur: etwa Energie und Wasser.

Wer KI in einem dieser Bereiche einsetzt, braucht ein ganzes Programm: Risikomanagement, Qualität der Daten, technische Dokumentation, Transparenz, menschliche Aufsicht und Genauigkeit, bei Anbietern auch eine Konformitätserklärung. Das ist kein Nebenbei-Projekt. Die meisten Betriebe, die KI zum Schreiben, Recherchieren oder für eigene Arbeitslisten nutzen, sind davon nicht betroffen.

Die Transparenzpflichten (Art. 50)

Auch ohne Hochrisiko-KI gibt es seit dem 2. August 2026 Transparenzpflichten (Art. 50 und Art. 113 der Verordnung 2024/1689):

  • Chats mit einer KI: Menschen müssen erkennen können, dass sie mit einer KI sprechen, außer es ist offensichtlich. Dafür sorgen in erster Linie die Anbieter.
  • Erzeugte Inhalte: Anbieter müssen erzeugte Texte, Bilder, Töne und Videos maschinenlesbar kennzeichnen.
  • Täuschend echte Inhalte: Wer als Betreiber täuschend echte Bilder, Töne oder Videos erzeugt und veröffentlicht, muss offenlegen, dass sie künstlich sind.
  • Erkennung von Gefühlen und biometrische Einordnung: Betroffene müssen informiert werden.

In Cortexion steht unter dem Eingabefeld des Assistenten fest der Satz „Sie sprechen mit einer KI.“ Wenn Sie mit KI Texte für Kunden vorbereiten, legen Sie in Ihrer Richtlinie fest, wann Sie das kenntlich machen.

Fahrplan in acht Schritten

1. Übersicht aller genutzten KI

Schreiben Sie auf, welche KI in Ihrem Unternehmen genutzt wird, auch die privaten Konten Ihrer Beschäftigten (Schatten-KI). Je System: Zweck, welche Daten hineingehen, wen es betrifft, welche Risikoklasse.

2. Einordnen

Ordnen Sie jedes System einer der vier Klassen zu und halten Sie fest, ob Sie Anbieter oder Betreiber sind. Bei Unsicherheit lieber vorsichtig einordnen und Beratung holen.

3. Verbote ausschließen

Stellen Sie sicher, dass Sie nichts Verbotenes nutzen. Ab dem 2. Dezember 2026 kommen zwei Verbote dazu: KI-Systeme, die ohne ausdrückliche Zustimmung realistische intime Bilder, Videos oder Töne einer bestimmbaren Person erzeugen oder manipulieren, und KI-Systeme, die Darstellungen sexuellen Missbrauchs von Kindern erzeugen (Art. 5 Abs. 1 Buchst. ba und bb in der Fassung der Verordnung 2026/1744). Für die Verwendung im Betrieb gilt das Verbot, wenn ein System zu diesem Zweck genutzt wird (Art. 5 Abs. 1a Buchst. b). Für normale Büroarbeit spielt das keine Rolle; in Ihre KI-Richtlinie gehört es trotzdem als klare Grenze.

4. Hochrisiko-Programm aufsetzen, falls nötig

Wenn Sie Hochrisiko-KI einsetzen, planen Sie dafür ein eigenes Projekt über mehrere Monate ein. Die verschobenen Termine geben Ihnen Zeit, aber kein Recht, abzuwarten.

5. Schulungsplan

Schulungen für alle, die mit KI arbeiten, festgehalten mit Teilnahme, verankert in der KI-Richtlinie und regelmäßig aufgefrischt.

6. Transparenz umsetzen

Hinweise auf KI, wo sie nötig sind, Kennzeichnung von erzeugten Inhalten, Anpassung von Datenschutzerklärung und Bedingungen.

7. Zuständigkeiten

Eine Person benennen, die sich um KI kümmert (das kann die oder der Datenschutzbeauftragte sein), Wege für Fragen und Vorfälle festlegen, feste Termine zur Überprüfung.

8. Dokumentation

Halten Sie fest, was Sie tun und warum. Bei einer Anfrage der Behörde müssen Sie zeigen können: was, warum, wie, durch wen. Ein Protokoll in Ihrem KI-Werkzeug hilft dabei.

Was bei Verstößen droht

Die Höchstbeträge stehen in Art. 99 der Verordnung 2024/1689; maßgeblich ist jeweils der höhere der beiden Werte:

  • Verbotene Praktiken: bis 35 Mio. € oder 7 % des weltweiten Jahresumsatzes (Art. 99 Abs. 3).
  • Verstöße gegen die meisten anderen Pflichten, etwa für Betreiber und bei der Transparenz: bis 15 Mio. € oder 3 % (Art. 99 Abs. 4).
  • Falsche oder unvollständige Angaben gegenüber Behörden: bis 7,5 Mio. € oder 1 % (Art. 99 Abs. 5).

Für kleine und mittlere Unternehmen gilt jeweils der niedrigere der beiden Werte (Art. 99 Abs. 6); seit dem digitalen Omnibus auch für kleine Midcap-Unternehmen (Art. 99 Abs. 6a in der Fassung der Verordnung 2026/1744). Die Mitgliedstaaten berücksichtigen bei Sanktionen die Interessen kleiner Unternehmen und ihr wirtschaftliches Überleben (Art. 99 Abs. 1).

Was ein KI-Werkzeug beitragen kann

Die Pflichten aus dem AI Act bleiben bei Ihnen. Ein gutes Werkzeug macht sie leichter. Achten Sie auf:

  • ein Protokoll, wer wann was getan und wer etwas bestätigt hat,
  • Rollen und Rechte, damit Menschen die Aufsicht behalten,
  • Kontrolle darüber, welche Modelle genutzt werden und wo sie rechnen,
  • einen klaren Hinweis, dass man mit einer KI spricht,
  • Freigaben, bevor etwas nach außen geht.

So sieht das in Cortexion aus: Jedes Unternehmen hat ein eigenes Protokoll, das nur ergänzt wird, und eine Versionsgeschichte mit Namen bei jedem Speichern und Live-Schalten. Inhaber und Admins geben Modelle frei oder sperren sie; eine Fahne am Modell zeigt, wo es rechnet. Mit der Einstellung „Nur KI-Modelle in der EU nutzen“ arbeiten nur Modelle von Anbietern mit Sitz in der EU, gerechnet in der EU; ohne diese Einstellung rechnen die Modelle von Anthropic und OpenAI in den USA. Und es gilt: „Sie beschreiben im Chat, was Sie brauchen; die KI erledigt es oder baut Ihnen die App dafür. Live geht nichts ohne Ihre Bestätigung.“ Nach außen handelt die KI nur mit Freigabe oder im Auto-Modus, den Sie jederzeit ausschalten können. Mehr dazu auf der Seite Kontrolle.

Wenn Sie Ihre Übersicht gleich mit einem Werkzeug beginnen möchten, das diese Punkte mitbringt: Sie können Cortexion 14 Tage testen, ohne Zahlungsmittel, mit 30.000 KI-Credits; in der Testphase geht nichts live. Die Pakete stehen unter Preise.

Porträt von Markus Offermann

Geschäftsführer der Cortexion GmbH. Er schreibt über Datenschutz, den EU AI Act, KI-Richtlinien, den Betriebsrat und über Freigaben.