EU-Kennzeichnungspflicht für KI-Inhalte bringt neue Transparenzregeln

Ab August 2026 gelten in der Europäischen Union neue Regeln für die Kennzeichnung von Inhalten, die mit künstlicher Intelligenz erstellt oder verändert wurden. Mit dem AI Act werden Anbieter generativer KI-Systeme verpflichtet, maschinenlesbare Markierungen einzuführen und für mehr Transparenz gegenüber Nutzern zu sorgen. Die Vorgaben betreffen Unternehmen und Plattformen und sollen es leichter machen, echte und künstlich erzeugte Inhalte zu unterscheiden. Nach Artikel 50 des AI Act gilt die Transparenzpflicht für viele KI-Systeme, die Audio, Bilder, Videos oder Texte generieren oder verändern.

Neue Transparenzpflichten und Übergangsfristen

Ab dem 2. August 2026 müssen KI-generierte Inhalte in der EU klar als solche gekennzeichnet werden. Für KI-Systeme, die schon vor diesem Stichtag im Umlauf sind, gibt es eine Übergangsfrist bis zum 2. Dezember 2026, um die Anforderungen an maschinenlesbare Markierungen zu erfüllen. Die Vorgaben verlangen, dass maschinenlesbare Markierungen eingesetzt werden, damit Plattformen und Behörden KI-Inhalte automatisch erkennen können. Ziel ist es, die Herkunft von Texten, Bildern, Videos und Audiodateien nachvollziehbar zu machen und Manipulationen wie Deepfakes frühzeitig zu erkennen. Die Bundesnetzagentur unterstützt Unternehmen bei der technischen Umsetzung und betont, dass sowohl sichtbare als auch maschinenlesbare Hinweise nötig sind.

Die Kennzeichnungspflicht gilt vor allem dann, wenn Inhalte täuschend echt wirken oder ohne redaktionelle Kontrolle veröffentlicht werden. Bei Texten zu Themen von öffentlichem Interesse ist eine Kennzeichnung nötig, wenn keine menschliche Prüfung stattgefunden hat. Nutzerinnen und Nutzer müssen außerdem direkt erkennen können, ob sie mit einer KI interagieren oder ob Inhalte künstlich erzeugt oder verändert wurden. Die Regelungen betreffen auch Deepfake-Technologien, bei denen Bild-, Audio- oder Videomaterial künstlich erstellt oder verändert wird.

Technische Lösungen und Symbole für KI-Inhalte

Die EU-Kommission stellt drei freiwillige Symbole bereit, um die Art der KI-Beteiligung an Inhalten sichtbar zu machen: Das "Basic AI Icon" zeigt allgemein den Einsatz von KI an, "Fully AI-Generated" kennzeichnet vollständig künstlich erzeugte Inhalte, und "Partially AI-Modified" steht für teilweise KI-basierte Veränderungen. Die Nutzung dieser Icons ist freiwillig, die gesetzlichen Transparenzpflichten bleiben aber verbindlich.

Die Anforderungen an maschinenlesbare Markierungen gehen über sichtbare Hinweise hinaus und ermöglichen es Plattformen sowie Aufsichtsbehörden, KI-generierte Inhalte automatisiert zu erkennen und zu verfolgen.Bundesnetzagentur, Fachreferat Digitale Dienste

Technisch werden Metadaten und digitale Wasserzeichen genutzt, um KI-Inhalte maschinenlesbar zu markieren. Diese Markierungen helfen Plattformen, automatisch zwischen echten und KI-generierten Inhalten zu unterscheiden. Die Hinweise müssen je nach Medium sichtbar oder hörbar sein und Anforderungen an die Barrierefreiheit erfüllen. Bei Bildern empfiehlt der EU-Verhaltenskodex eine direkte Platzierung am Motiv, bei Videos und Audiodateien eine Einblendung oder akustische Kennzeichnung zu Beginn des Inhalts. Chatbots müssen schon zu Beginn des Gesprächs offenlegen, dass Antworten von einer KI stammen. Unternehmen wie Anthropic haben angekündigt, maschinenlesbare Wasserzeichen in alle von Claude generierten Inhalte einzubauen, um die EU-Anforderungen zu erfüllen.

Grenzen der Kennzeichnung und Verantwortung der Nutzer

Nicht jeder KI-Einsatz muss offengelegt werden. Wird ein KI-generierter Text von einer Redaktion geprüft und verantwortet, entfällt die Kennzeichnungspflicht. Auch bei unterstützenden Funktionen, die Inhalte nicht wesentlich verändern - etwa bei der automatischen Optimierung von Smartphone-Fotos - ist keine Markierung vorgeschrieben. Die private Nutzung bleibt von den Vorgaben unberührt.

Die Kennzeichnung informiert nur über den Entstehungsprozess eines Inhalts, nicht über dessen Wahrheitsgehalt. Nutzerinnen und Nutzer müssen weiterhin Quelle, Absender und Kontext prüfen. Der TÜV-Verband empfiehlt fünf Schritte zur Überprüfung von Bildern, Videos und Texten: Originalquelle suchen, Absender kontrollieren, Datum und Kontext prüfen, unabhängige Bestätigung einholen und bei Zweifeln auf eine Weiterverbreitung verzichten. Einzelne Auffälligkeiten wie unnatürliche Bewegungen oder fehlerhafte Bilddetails können Hinweise auf KI-Manipulation liefern, sind aber kein sicherer Beweis. Erst mehrere Indizien zusammen ermöglichen eine fundierte Einschätzung.

Einheitliche Standards und europäische Umsetzung

Der TÜV-Verband sieht in den neuen Kennzeichnungspflichten einen wichtigen Schritt, um Orientierung und Vertrauen im Umgang mit KI-Inhalten zu schaffen. Entscheidend bleibt aber eine europaweit abgestimmte und praxistaugliche Umsetzung. Unterschiedliche Begriffe und Symbole könnten neue Unsicherheiten schaffen. Die Bundesnetzagentur bietet mit dem KI-Service Desk Unterstützung bei der Umsetzung der europäischen Vorgaben an.

Wie gut die technischen und regulatorischen Maßnahmen im Alltag funktionieren, wird sich in den kommenden Jahren zeigen. Klar ist: Die Fähigkeit, KI-Inhalte zuverlässig zu erkennen und einzuordnen, wird für Unternehmen, Medien und Gesellschaft immer wichtiger. Einheitliche Standards und transparente Kennzeichnungen sind dafür notwendig, reichen aber allein nicht aus. Entscheidend bleibt die kritische Prüfung von Quelle, Kontext und Absender - auch im Zeitalter maschinell erzeugter Inhalte.

Der Begriff "maschinenlesbare Markierung" bezeichnet technische Hinweise, die in digitale Inhalte eingebettet werden und von Software automatisch ausgelesen werden können. Dazu zählen Metadaten und digitale Wasserzeichen, die für Menschen meist nicht sichtbar sind, aber Plattformen und Behörden helfen, KI-generierte Inhalte zu erkennen. Diese Markierungen sind ein zentrales Instrument der neuen EU-Regulierung, um Transparenz und Nachvollziehbarkeit im digitalen Raum zu stärken.