KI-Transparenzpflichten ab August 2026: EU-Kommission veröffentlicht Leitlinien
Die EU-Kommission konkretisiert mit dem Entwurf der Leitlinien zu den Transparenzpflichten nach der KI-Verordnung, wann KI-Inhalte gegenüber Nutzern offengelegt beziehungsweise gekennzeichnet werden müssen. Die Guidelines erläutern Details dazu, welche Praktiken in den einzelnen Kategorien des Art. 50 AI Act erfasst sind, wie die daraus folgenden Pflichten zu verstehen sind und geben Beispiele für die verschiedenen Fälle. Damit kann eine präzisiere Einordnung unter die Transparenzpflichten vorgenommen werden. Sehr hilfreich ist, dass die einzelnen gesetzlichen Bezeichnungen erläutert und in Teilbegriffe zerlegt und definiert werden. Besonders relevant für viele Marktteilnehmer dürften die Erklärungen zum Begriff „Deepfakes“ sein.
Im Folgenden stellen wir fokussiert dar, welche Neuerungen und Präzisierungen die Guidelines in der aktuellen Fassung bringen würden.
| Generelles: – Die Transparenzpflichten gelten im Wesentlichen ab dem 2. August 2026. – Ein rückwirkendes Labelling für Outputs (auch Deepfakes), die zuvor erstellt/verfügbar gemacht wurden, ist jedoch nicht nötig. – Pflichten können kumulativ gelten – ein Unternehmen kann gleichzeitig mehrere Rollen (Anbieter/Betreiber) erfüllen, so dass beispielsweise Pflichten aus Art. 50 Abs. 2 und 4 KI-VO greifen würden. – Reines Bereithalten oder Weiterleiten von KI-Content (z.B. durch Online-Plattformen) macht noch nicht zum Betreiber. – Ausnahmen im Rahmen des Art. 50 KI-VO werden eher eng ausgelegt – ein rein persönliche/nicht-professionelle Nutzung kann die Pflichten nur ausschließen, wenn nicht kriminelle Aktivitäten oder Deepfakes mit öffentlichem Interesse vorliegen. – Die Information muss spätestens beim ersten Kontakt mit KI bzw. Output klar erkennbar sein. – Drohende Bußgelder betragen bis zu 15 Mio. EUR oder 3 % des weltweiten Jahresumsatzes (je nachdem, was höher ist). Ein Code of Practice (CoP) zur Markierung und Kennzeichnungen von KI-Inhalten befindet sich parallel in der Fertigstellung. Dem ist bereits ein Intensiver Austausch mit dem AI Office der EU vorausgegangen, an dem wir aktiv teilgenommen haben. Der CoP wird unter anderem genauere Angaben dazu enthalten, wie die nötigen Kennzeichnungen technisch und organisatorisch umgesetzt werden sollen. Die Guidelines geben Hinweise zu den Vorteilen der Unterzeichnung eines solchen vom AI Office anerkannten CoP und den potentiellen Nachteilen, mit denen Anbieter und Betreiber rechnen müssen, die diesen nicht unterzeichnen. |
Direkte Interaktion mit Menschen (Anbieterpflicht) – Art. 50 Abs. 1 KI-VO
Ein KI-Einsatz muss für den Nutzer verständlich offengelegt werden – unter Berücksichtigung des Kontexts. Es wird eine Kombination mehrerer Hinweistechniken empfohlen.
Erfasst sind: Voice Assistants, Chatbots/Conversational Agents (in Customer Support, E-Commerce, Finance, Healthcare, Bildung etc.), AI Companions, Bots in sozialen Netzwerken, humanoide Roboter/Cobots, robotische Companion Pets, AI-Avatare (z.B. in VR), Coding Agents – die Pflichten gelten auch für KI-Agenten, wenn eine Interaktion mit Menschen wahrscheinlich ist.
Nicht erfasst (weil keine direkte Interaktion): klassische Industrieroboter im geschlossenen Setting, algorithmische Empfehlungssysteme, Spam-Filter, automatische Übersetzungs-/Transkriptionstools, biometrische Authentifizierung, reine Backend-Entscheidungsunterstützung, predictive maintenance.
Ausnahmen von der Kennzeichnung bestehen bei „offensichtlicher KI-Natur“: Wenn ein durchschnittlich informierter Nutzer ohne Weiteres erkennt, dass es sich um KI handelt, entfällt die Pflicht. Beispiele: KI-Coding-Assistenten für Profi-Entwickler, KI für geschulte Mediziner zur Diagnoseunterstützung, NPCs in Videospielen.
Nicht offensichtliche KI (und damit eine Kennzeichnungspflicht) bestünde bei: einem KI-Companion-Pet, das einem echten Tier täuschend ähnelt; KI-Avataren in VR oder Chatbots in Online-Plattformen/Helpdesks, deren Antworten als neutral oder menschlich wahrgenommen werden können.
Klargestellt wird auch, dass – unabhängig davon, ob die KI-Natur „offensichtlich“ ist – zusätzliche Pflichten, wie aus dem Wettbewerbs- und Verbraucherrecht, bestehen können (dort kann der Einsatz von KI zum Beispiel als wesentliche Eigenschaft gelten, über die zu informieren ist).
Synthetische Inhalte – Bild, Video, Audio, Text (Anbieterpflicht) – Art. 50 Abs. 2 KI-VO
Es muss eine maschinenlesbare Markierung vorgenommen und die Erkennbarkeit für den Betrachter sichergestellt werden. Die Markierung muss dafür effektiv, verlässlich, robust und interoperabel sein. Markierungen können auf KI-Modell- oder KI-Systemenebene eingebaut werden, Anbieter können sich dafür auch Markierungslösungen von Upstream-Modellanbietern bedienen. Da es (noch) keine einzelne Technik gibt, die alle Kriterien erfüllt, ist einstweilen eine Kombination von mehreren Techniken nötig.
Erfasst sind KI-Systeme, die synthetische Inhalte (in Form von Audio, Bild, Video oder Text) generieren oder manipulieren können.
Nicht erfasst (weil keine synthetischen Inhalte) sind: bloße Reproduktionen bestehender Inhalte (Playlists, Ranking-Empfehlungen), Aufnahme von Umgebungsdaten (wie eine GPS-Daten-Aufzeichnung in Fahrzeugen), Maschine-zu-Maschine-Kommunikation und Source Code, B2B-/interne industrielle Funktionen, ephemere Echtzeit-Inhalte, die unmittelbar konsumiert und nicht gespeichert/weiterverbreitet werden (z.B. in Videospielen), sofern die Nutzer sich der KI bewusst sind.
Ausnahmen von der Kennzeichnung sind: Assistenzfunktionen für Standard-Editierungen, sofern Inhalt oder Inputdaten nicht wesentlich geändert werden. Beispiele dafür sind: Grammatikprüfung, Formatumwandlung, geringes Zuschneiden, kleine Farbanpassung, rote Augen entfernen, Drehen, Rescaling, technische Kompression, Rauschunterdrückung, leichtes Schärfen, leichtes Aufhellen/Abdunkeln, Entfernen von Sensorflecken/Staub, leichte Videostabilisierung, kleine Anpassungen der Wiedergabegeschwindigkeit, kleinere Horizont-Korrekturen. Ebenfalls ausgenommen sind Assistenztechnologien für Menschen mit Behinderung, die den Sinn des Inputs nicht verändern.
Eine Markierung ist nötig bei: KI-Übersetzungen/-Zusammenfassungen mit zusätzlichem Inhalt, Entfernen von Hintergründen, Verpixeln von Gesichtern, extremem Licht-/Farbanpassungen, Hinzufügen von Objekten oder Informationen, die im Original nicht vorhanden waren; Veränderungen von Körperform oder Hautfarbe; Erzeugung von extremen Silhouetten aus korrekt belichtetem Bildern; Konvertierungen von Schwarz-Weiß zu Farbe oder Erstellung von Composite-Bildern/-Videos.
Auch ein Labeling von KI-Inhalten heilt keine sonstige Rechtswidrigkeit. Eine solche kann sich aus diversen Vorgaben, insbesondere dem Datenschutz, DSA, Urheber- und Strafrecht ergeben.
Emotionserkennung & biometrische Kategorisierung (Betreiberpflicht) – Art. 50 Abs. 3 KI-VO
Betroffene Personen müssen vorab informiert werden, wenn ein KI-System Emotionen erkennt oder Personen biometrisch kategorisiert.
Beispiele können sein: Ein zentrales Pop-up vor einem Computerspiel mit Gesichts-Emotionsaufzeichnung; Hinweis vor einem Ausstellungsraum mit Alterserkennung per Kamera.
In der Praxis kann eine Integration in datenschutzrechtlicher Einwilligungsprozesse möglich sein.
Deepfakes und bestimmte Texte (Betreiberpflicht) – Art. 50 Abs. 4 KI-VO
Für Deepfakes und bestimmte Texte gilt: Betreiber müssen offen legen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.
„Deepfakes“ zeichnen sich aus durch:
- Eine hohe Ähnlichkeit (nicht zwingend Identität) mit
- mit existierenden – im Sinne von realistischen –
- Personen / Objekten / Orten / Einrichtungen / Ereignissen,
- die fälschlicherweise als authentisch oder wahrhaftig wirken (aus Sicht der möglichen Betrachter).
Beispiele für Deepfakes nach den Guidelines sind:
- ein mittels KI manipuliertes Bild von zwei Profifußballern vor einem Gebäude, das einem Fußballstadion ähnelt
- ein mittels KI generierter Audiobeitrag, bei dem die Stimmen der Stammmoderatoren sowie eines Gastes geklont wurden, die über aktuelle Nachrichtenereignisse diskutieren
- ein mittels KI generiertes Video einer Person, die einem Politiker ähnelt und vor einem Publikum eine Rede hält
- KI-generiertes Video mit einer KI-generierten Darstellung eines prominenten Influencers in einem Werbe- oder Promotionskontext
Beispiele, die keine Deepfakes nach den Guidelines sind:
- KI-generiertes Bild einer Szene, in der eine Sphinx über den Eiffelturm fliegt
- KI-generiertes Video von Mäusen, die sich in menschlicher Sprache über die beste Käsesorte streiten, als Teil einer Werbekampagne für einen Käsehersteller
- KI-bearbeitete Radiosendung, bei der technische Audioparameter angepasst werden (z. B. Normalisierung der Lautstärke, Rauschunterdrückung, Audiokompression), ohne die tatsächlich gesprochenen Worte der Sprecher oder deren Sprechweise zu verändern
- KI-generierter Cartoon eines bereits existierenden Bildes, das ein historisches Ereignis darstellt
Sonderfall: Darstellung von Subjekten, die es nicht gibt.
Wie oben gezeigt, müssen sich Deepfakes auf „existierende“ Subjekte beziehen. Der Begriff „existierend“ wird dabei so verstanden, dass realistische Subjekte gezeigt werden, also etwas/jemand das/der existieren kann oder hätte können. Damit scheint es nicht zwingend nötig, dass es das Subjekt tatsächlich gibt. Letztlich wird daraus nicht völlig klar, was das etwa für Darstellungen in Werbeinhalten bedeutet, die zum Beispiel KI-Models, fiktive Produkte oder KI-Locations zeigen, die es (so) nicht gibt. Nach dem Wortlaut der Guidelines, der Bezugnahme aus realistische Subjekte, könnten solche Inhalte tatsächlich als Deepfake erfasst sein. Nicht völlig ausgeschlossen scheint aber weiterhin, dass aufgrund des Zwecks der Regelung doch nur Manipulationen von Subjekten erfasst sein sollen, die es tatsächlich gibt, etwa Menschen oder Gegenstände, die wirklich existieren. Klar ausgeschlossen vom Begriff „existierend“ werden nach den Guidelines als nicht realistisch jedenfalls nur Darstellungen, die etwa den Naturgesetzen widersprechen, wie etwa fliegende Menschen, Drachen oder autofahrende Elefanten.
Für Inhalte, die danach Deepfakes wären, bliebe als Rettung nur: Die verringerten Kennzeichnungsanforderungen die nach Art. 50 Abs. 4 KI-VO für bestimmten Kategorien gelten können (nämlich für kreative, satirische, fiktionale oder analoge Werke). Deepfakes in imaginären Settings könnten als fiktionale Werke gelten. Beispiele für fiktionale Werke sind nach den Guidelines aber eher Special Effects in Filmen, Verjüngung von Schauspielern, Replicas toter Personen. Keine fiktionalen Werke wären dagegen nach den Guidelines z.B. Videos mit simulierten Verbrauchern, die ein Produkt nutzen und so Werbung für den Kauf machen. Solange es keine Klarstellung in diesem Punkt gibt, sollten Darstellungen von Subjekten, die es so nicht gibt, sorgfältig geprüft werden. Auch im Hinblick auf andere gesetzliche Vorgaben, wie das Wettbewerbsrecht, kann eine vorsorgliche Kennzeichnung mitunter zu empfehlen sein.
Querschnittsrecht: Auch hier gelten Vorgaben wie Datenschutz (DSGVO), DSA (Art. 35 Abs. 1 lit. k), IP- und Persönlichkeitsrechte unabhängig vom KI-Label.
Texte zur Information der Öffentlichkeit sind ebenfalls nach Art. 50 Abs. 4 KI-VO zu kennzeichnen.
Erfasst davon sind zum Beispiel: EineKI-generierte Zusammenfassung eines Zeitungsartikels auf einer Website, ein manipuliertes akademisches Paper, eine generierte Wetterwarnung eines Instituts oder KI-manipulierten Corporate Reports auf der Website einer börsennotierten Firma als Investorinformationen.
Nicht erfasst sind: Novellen, Gedichte, Firmenwerbung (ohne Gesundheits-/Verbraucherschutz-/Nachhaltigkeitsangaben), Nachrichten-Zusammenfassung eines Chatbots (nur dem promptenden Nutzer zugänglich).
Eine Ausnahme von der Kennzeichnungspflicht für erfasste Texte besteht nur, wenn menschliche Prüfung und Übernahme redaktioneller Verantwortung (kumulativ) vorliegen.
