EU AI Act: Was die neue KI-Verordnung für Unternehmen bedeutet

Mit der Verordnung (EU) 2024/1689, bekannt als EU AI Act, schafft die Europäische Union erstmals verbindliche Regeln für den Einsatz Künstlicher Intelligenz (KI). Ziel ist es, Innovation zu fördern, aber gleichzeitig Risiken zu minimieren und einen ethischen, sicheren und transparenten KI-Einsatz sicherzustellen.

Doch welche Vorgaben gelten für Unternehmen? Dieser Artikel erklärt die Kernpunkte der Verordnung, die wichtigsten Fristen und die möglichen Strafen bei Verstößen.

‍

Was regelt der EU AI Act?

Der EU AI Act unterteilt KI-Systeme in vier Risikostufen und legt je nach Einstufung unterschiedliche Anforderungen fest​:

1. Verbotene KI-Praktiken (unzulässig)

Bestimmte KI-Anwendungen sind aus ethischen oder sicherheitsrelevanten Gründen verboten. Dazu gehören:

• Soziale Bewertungssysteme (Social Scoring), die das Verhalten von Personen bewerten.
• Echtzeit-Überwachung im öffentlichen Raum mit biometrischen Identifikationssystemen.
• Manipulative KI, die Menschen unbewusst zu schädlichen Entscheidungen verleitet.
• Emotionserkennung am Arbeitsplatz oder in Schulen.

2. Hochrisiko-KI (strenge Vorgaben)

‍KI-Systeme, die in sicherheitskritischen Bereichen eingesetzt werden, gelten als Hochrisiko-KI. Dazu zählen unter anderem:

• KI-gestützte Bewerberauswahl oder Personalmanagement.
• Automatisierte Kreditvergabe oder Bonitätsprüfungen.
• KI im Gesundheitswesen (z. B. für Diagnosen).
• KI für die öffentliche Sicherheit, wie Strafverfolgung oder Justiz.

Für Hochrisiko-KI gelten strenge Dokumentations- und Transparenzpflichten​.

‍3. Begrenztes Risiko (Transparenzpflichten)

‍Für KI-Systeme mit geringem Risiko, die aber direkt mit Nutzern interagieren, gelten spezielle Kennzeichnungs- und Transparenzvorgaben. Dazu gehören:

• Chatbots und virtuelle Assistenten.
• KI-generierte Inhalte wie Texte, Bilder oder Videos.

4. Minimales Risiko (keine speziellen Auflagen)

‍KI-Systeme ohne wesentliche Risiken (z. B. Spam-Filter oder Empfehlungssysteme) unterliegen keinen zusätzlichen Regulierungen.

‍Welche Verpflichtungen bringt der EU AI Act für Unternehmen?

‍1. Kennzeichnungspflicht für KI-generierte Inhalte

• Ab sofort: Täuschend echte KI-Inhalte (Deepfakes) müssen klar gekennzeichnet werden​.
• Ab August 2026: Alle KI-generierten Inhalte müssen als solche erkennbar sein.

2. Transparenzpflichten für KI-Interaktionen

‍Unternehmen müssen Nutzer informieren, wenn sie mit einer KI interagieren. Das gilt für:

• Chatbots im Kundenservice.
• Automatisierte E-Mails und KI-gestützte Kommunikation.

3. Dokumentationspflicht für Hochrisiko-KI

• Anbieter von Hochrisiko-KI müssen eine technische Dokumentation vorlegen, die den Einsatz, die Trainingsdaten und die Funktionsweise beschreibt​.
• Unternehmen, die Hochrisiko-KI nutzen, müssen sicherstellen, dass eine menschliche Überprüfung von Entscheidungen möglich ist.

‍

Welche Strafen drohen bei Verstößen gegen den EU AI Act?

‍Die Verordnung sieht hohe Geldstrafen vor, um Verstöße effektiv zu sanktionieren​:

• Bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes bei Verstößen gegen verbotene KI-Praktiken.
• Bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes für Verstöße gegen Pflichten für Hochrisiko-KI.
• Bis zu 7,5 Millionen Euro oder 1,5 % des weltweiten Jahresumsatzes bei Missachtung der Transparenzanforderungen.

Die Höhe der Strafe richtet sich nach der Schwere des Verstoßes, der Unternehmensgröße und möglichen Wiederholungstaten.

‍FAQ – Häufig gestellte Fragen zum EU AI Act

‍

Für welche Unternehmen gilt der EU AI Act?‍

Die Verordnung betrifft alle Unternehmen, die KI in der EU entwickeln, vertreiben oder nutzen – unabhängig vom Unternehmenssitz​.

‍Muss ich als Marketingagentur den EU AI Act beachten?‍

Ja, wenn KI für automatisierte Texte, Bilder oder Kundenkommunikation genutzt wird, gelten Transparenzpflichten.

‍Wann tritt der EU AI Act in Kraft?‍

Die Verordnung wurde am 13. Juni 2024 verabschiedet. Bestimmte Vorschriften gelten bereits, weitere folgen bis 2026 und 2027.

‍Welche Maßnahmen sollte mein Unternehmen jetzt ergreifen?

• Prüfen, ob KI im Unternehmen genutzt wird.
• Transparenzrichtlinien für KI-Anwendungen einführen.
• KI-generierte Inhalte und Chatbots klar kennzeichnen.

‍

Fazit: Der EU AI Act bringt klare Regeln für KI

‍Der EU AI Act ist ein Meilenstein in der KI-Regulierung. Unternehmen müssen sich auf neue Transparenz- und Dokumentationspflichten einstellen, um hohe Strafen zu vermeiden.Die KI Company unterstützt Unternehmen bei der rechtskonformen Umsetzung des AI Acts. Kontaktieren Sie uns für eine unverbindliche Beratung.