Viele Unternehmen diskutieren über KI-bezogene Labels. Doch die eigentliche Herausforderung des AI Act liegt oft woanders.
EU AI Act: Die meisten Unternehmen bereiten sich auf die falschen Verpflichtungen vor
Ab dem 2. August 2026 werden die allgemeinen Transparenzpflichten des EU AI Act, insbesondere die in Art. 50 der Verordnung (EU) 2024/1689 vorgesehenen, vollumfänglich anwendbar sein. Die Verordnung selbst ist bereits am 1. August 2024 in Kraft getreten; die Anwendung der verschiedenen regulatorischen Bereiche erfolgt nach einem gestaffelten Zeitplan.
Seitdem erhalten wir immer mehr Fragen von den Marketing-, Vertriebs- und Compliance-Abteilungen:
- Müssen KI-generierte Bilder auf der Website gekennzeichnet werden?
- Müssen KI-generierte Produktillustrationen in einem Katalog eine Kennzeichnung enthalten?
- Muss sämtliches mit KI erstelltes Marketingmaterial entsprechend gekennzeichnet werden?
Die kurze Antwort lautet:
Vielleicht. Aber oft wird die falsche Frage gestellt.
Nach unserer Meinung ist die eigentliche Herausforderung des EU AI Act nicht die Technologie.
Die größte Herausforderung ist die Dokumentation.
Was der AI Act tatsächlich verlangt
Der zentrale Standard: Art. 50 AI Act
Für Unternehmen, die KI-generierte Inhalte im Bereich Marketing und Vertrieb nutzen, ist Art. 50, Absatz 4, der Verordnung (EU) 2024/1689 die maßgebliche Bestimmung. Nach dieser Bestimmung sind die Betreiber eines KI-Systems, das Bild-, Audio- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake darstellen, verpflichtet offenzulegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.
Wichtig: Diese Verpflichtung gilt nicht unbegrenzt. Art. 50, Absatz 4, der Verordnung (EU) 2024/1689 sieht ausdrücklich Ausnahmen vor, insbesondere für offensichtlich künstlerische, kreative, satirische oder fiktive Werke; in diesen Fällen genügt eine angemessene Offenlegung, sofern sie die Präsentation des Werkes nicht beeinträchtigt.
Darüber hinaus legt Art. 50, Absatz 2, der Verordnung (EU) 2024/1689 Verpflichtungen für Anbieter von KI-Systemen fest, die synthetische Inhalte erzeugen: Diese müssen sicherstellen, dass die Ausgaben in einem maschinenlesbaren Format als künstlich erzeugt oder manipuliert erkennbar sind, soweit dies technisch möglich und zumutbar ist.
Ihre Rolle: Betreiber, nicht Anbieter
Die meisten Unternehmen, die KI-Tools für Marketing, Vertrieb oder Kommunikation nutzen, agieren als Betreiber im Sinne der Verordnung und nicht als Anbieter. Die Verpflichtungen unterscheiden sich erheblich. Betreiber haben in der Regel weniger umfassende Transparenz- und Offenlegungspflichten als Anbieter, sind jedoch dennoch konkret.
Es ist wichtig, diese Rolle von der des Importeurs von Hochrisiko-KI-Systemen zu unterscheiden: Jede Person, die solche Systeme auf den Markt bringt, unterliegt gemäß Art. 23 der Verordnung (EU) 2024/1689 umfangreichen Verpflichtungen zur Überprüfung, Dokumentation und Aufbewahrung, insbesondere der Verpflichtung, die EU-Konformitätserklärung gemäß Art. 47 der Verordnung (EU) 2024/1689 zehn Jahre lang bereitzuhalten.
Nicht jede Nutzung von KI löst eine Kennzeichnungspflicht aus.
In der Praxis beobachten wir derzeit zwei Extreme:
Variante 1: Unternehmen ignorieren das Thema völlig.
Variante 2: Unternehmen beginnen vorsorglich, jedes von KI generierte Bild zu kennzeichnen.
Keine dieser beiden Ansätze ist im Allgemeinen sinnvoll.
Die konkrete Bewertung hängt vom Verwendungszweck, der Art des Inhalts und den Umständen des Einzelfalls ab. Entscheidend ist insbesondere die Frage:
- Handelt es sich um Deepfake-Inhalte, die gemäß Art. 50 Absatz 4 der Verordnung (EU) 2024/1689 irreführend sein könnten?
- Oder handelt es sich um rein dekorative Grafiken, die offensichtlich stilisiert sind und nicht den Anschein der Realität erwecken?
- Ist der Inhalt in einen Kontext eingebettet, der bereits erkennen lässt, dass es sich nicht um einen realen Inhalt handelt?
Parallelrechtliches Regime: das UWG nicht vergessen.
Unabhängig vom AI Act verpflichtet das deutsche Recht über den lauteren Wettbewerb zur eigenständigen Vermeidung von irreführenden Darstellungen. Nach § 5 Absatz 1 UWG handelt unlauter, wer eine irreführende geschäftliche Handlung vornimmt, die den Verbraucher oder einen anderen Marktteilnehmer dazu bringen kann, eine geschäftliche Entscheidung zu treffen, die er sonst nicht getroffen hätte.
Nach § 5 Absatz 4 UWG können visuelle Darstellungen ebenfalls irreführende Informationen darstellen, wenn sie dazu geeignet sind, falsche oder irreführende Aussagen zu ersetzen.
Praktische Konsequenz: Jede Person, die in einem Produktkatalog KI-generierte Visualisierungen verwendet, die einen nicht existierenden Zustand des Produkts oder bestimmte nicht existierende Merkmale suggerieren, riskiert nicht nur einen Verstoß gegen den AI Act, sondern auch Unterlassungsklagen und Geldbußen nach dem deutschen Wettbewerbsrecht. Beide Regelungen müssen unabhängig voneinander beachtet werden.
Typische Beispiele aus der Praxis
Website mit KI-generierten Illustrationen
Ein Unternehmen verwendet auf seiner Website Illustrationen, Stimmungsbilder oder grafische Visualisierungen, die von KI generiert wurden.
Die entscheidende Frage ist oft nicht:
„Müssen wir jedes Bild einzeln kennzeichnen?“
sondern eher:
„Sind wir in der Lage, nachvollziehbar zu dokumentieren, welche Inhalte von KI generiert werden, mit welchen Systemen sie erstellt wurden und ob sie im Sinne der Verordnung irreführend sein könnten?“
In vielen Fällen kann eine transparente Erwähnung im Rahmen der Kommunikation der Website relevanter sein als Dutzende von einzelnen Kennzeichnungen, vorausgesetzt, dass dies den Anforderungen des Art. 50 der Verordnung (EU) 2024/1689 im konkreten Anwendungsfall entspricht.
Gedruckter Produktkatalog
Ein Hersteller verwendet Visualisierungen oder von KI generierte Renderings in einem Produktkatalog. Die folgenden grundlegenden Fragen stellen sich zunächst:
- Welche Inhalte wurden tatsächlich von KI generiert?
- Welche Systeme wurden verwendet?
- Könnten die Kunden durch die Präsentation hinsichtlich der Produkteigenschaften, sowohl im Sinne von Art. 50, Absatz 4, der Verordnung (EU) 2024/1689 als auch im Hinblick auf § 5 UWG, in die Irre geführt werden?
- Wie wird die Entscheidungsgrundlage dokumentiert?
In vielen Fällen fehlt diese Dokumentation bereits.
Die häufigste Schwäche: fehlende Nachvollziehbarkeit
Bei Audits und internen Kontrollen zeigt sich regelmäßig, dass:
Unternehmen bereits viele KI-Systeme nutzen, aber nicht zuverlässig nachweisen können:
✅ welche KI-Lösungen verwendet werden
✅ welche Inhalte von KI generiert werden
✅ welche Daten verarbeitet werden
✅ welche Dienstleister beteiligt sind
✅ welche Risiken bewertet wurden
✅ welche Entscheidungen getroffen wurden
Genau hier entstehen die größten Risiken in Bezug auf Governance und Compliance, sowohl im Hinblick auf das AI-Gesetz, die DSGVO als auch das UWG.
Sanktionen: Was sind die Herausforderungen?
Die Verordnung (EU) 2024/1689 sieht erhebliche Sanktionen vor. Verstöße gegen die Transparenzpflichten, beispielsweise die in Art. 50 der Verordnung (EU) 2024/1689 vorgesehenen, können mit Geldstrafen von bis zu 15 Millionen Euro oder 3 % des weltweiten Gesamtjahresumsatzes des vorangegangenen Geschäftsjahres, je nachdem, welcher Betrag höher ist, geahndet werden. Darüber hinaus können mögliche Unterlassungsklagen gemäß § 5 UWG sowie Risiken im Bereich des Datenschutzes hinzukommen.
Unsere Empfehlung
Anstatt hastig Hinweise auf jedes Bild oder jeden Katalog anzubringen, sollten Unternehmen zunächst eine solide Dokumentationsbasis schaffen.
Dies umfasst insbesondere :
- Erfassung der verwendeten KI-Systeme (Klärung der Rolle des Deployers oder Anbieters)
- Dokumentation der Anwendungsfälle und der verarbeiteten Daten
- Bewertung der Risiken und der Transparenzpflichten gemäß Art. 50 der Verordnung (EU) 2024/1689
- Überprüfung der Risiken im Hinblick auf das Wettbewerbsrecht gemäß § 5 UWG
- Nachverfolgbarkeit der Verantwortlichkeiten und Entscheidungen
- Einrichtung eines Governance-Prozesses für KI
Nur auf dieser Grundlage ist es möglich, ernsthaft zu bewerten, welche Transparenz- und Informationspflichten im konkreten Fall tatsächlich bestehen.
Sind Sie sicher, dass Ihre Nutzung von KI bereits gemäß dem AI Act dokumentiert ist?
Derzeit konzentrieren sich viele Unternehmen intensiv auf Kennzeichnungen und Labels. Unsere Erfahrung zeigt jedoch, dass die meisten Organisationen noch nicht über die erforderliche Dokumentation zu ihren KI-Anwendungen verfügen.
TMWP begleitet Unternehmen in den folgenden Bereichen :
- Einhaltung des AI-Gesetzes
- Governance der KI
- Datenschutz und KI
- Übertragungen in Drittländer
- interne Richtlinien und Dokumentation
- Audit der Marketing-, Vertriebs- und Kommunikationsprozesse
👉 Vereinbaren Sie jetzt einen Termin für einen ersten unverbindlichen Austausch und schaffen Sie Transparenz, bevor die Transparenzpflichten überprüft werden.
TMWP EUwise Advisors S.A.S.U.
Goverance. Risk. Compliance.
Rechtlicher Hinweis / Haftungsausschluss
Dieser Artikel dient ausschließlich dazu, allgemeine Informationen bereitzustellen und stellt keine rechtliche Beratung im Sinne des deutschen Rechtsdienstleistungsgesetzes (Rechtsdienstleistungsgesetz, RDG) dar. Die Inhalte wurden sorgfältig erstellt, können jedoch die rechtliche Situation in jedem Einzelfall nicht umfassend widerspiegeln. Insbesondere ersetzt dieser Artikel keine individuelle rechtliche Analyse eines konkreten Falls durch qualifizierte Beraterinnen und Berater.
Die Verordnung (EU) 2024/1689 (EU AI Act) sowie das anwendbare nationale Recht unterliegen einer fortlaufenden Auslegung und Entwicklung durch die Behörden, die Gerichte und die Europäische Kommission. Zum Zeitpunkt der Veröffentlichung dieses Artikels gibt es in wesentlichen Bereichen des AI-Gesetzes noch keine endgültigen administrativen Leitlinien oder Entscheidungen der höchsten Gerichte. Die dargestellten rechtlichen Positionen können sich je nach zukünftigen Entwicklungen ändern.
TMWP EUwise Advisors S.A.S.U. lehnt jede Verantwortung für Entscheidungen ab, die auf der Grundlage dieses Artikels getroffen werden, ohne dass eine individuelle rechtliche Beratung im konkreten Fall eingeholt wurde.
Wir stehen Ihnen für eine auf Ihre konkrete Situation zugeschnittene Bewertung zur Verfügung.