Ab August 2026 treten im Rahmen des EU AI Act erstmals verbindliche Transparenzregeln für den Einsatz von Künstlicher Intelligenz in Kraft. Was Unternehmen und Nutzer in Deutschland und Europa konkret erwartet, bleibt in Teilen umstritten
Mit dem EU AI Act setzt die Europäische Union erstmals einen umfassenden Rechtsrahmen für den Einsatz Künstlicher Intelligenz in Kraft. Ab dem 2. August 2026 gelten verbindliche Transparenzanforderungen für KI-Systeme, die direkt mit Nutzenden interagieren oder Inhalte generieren. Ziel ist es, die Nachvollziehbarkeit automatisierter Entscheidungen zu erhöhen und das Vertrauen in KI-Anwendungen zu stärken. Die Regelungen betreffen Unternehmen, öffentliche Einrichtungen und Anbieter von KI-Technologien in allen Mitgliedstaaten. Für bereits vor dem Stichtag eingesetzte Systeme sieht der Gesetzgeber eine Übergangsfrist bis zum 2. Dezember 2026 vor, um die neuen Transparenzmaßnahmen umzusetzen.
Verpflichtende Kennzeichnung und Offenlegung
Der EU AI Act verlangt, dass Nutzerinnen und Nutzer klar erkennen können, wenn sie mit einem KI-System interagieren. Dies betrifft insbesondere Chatbots, Sprachassistenten und andere Anwendungen, bei denen die Grenze zwischen Mensch und Maschine für Außenstehende nicht unmittelbar erkennbar ist. Darüber hinaus müssen generierte Inhalte - etwa Texte, Bilder, Deepfakes oder manipulierte Audio- und Videodateien - deutlich als KI-generiert gekennzeichnet werden, sofern sie zur Information der Öffentlichkeit bestimmt sind. Für Anbieter und Betreiber von KI-Systemen mit allgemeinem Verwendungszweck wird zusätzlich eine maschinenlesbare Kennzeichnung der Ausgaben vorgeschrieben. Ein ergänzender Code of Practice sieht hierfür signierte Metadaten vor, die die Herkunft und Unveränderbarkeit der Inhalte technisch absichern sollen.
Technische und organisatorische Anforderungen
Unternehmen und Organisationen müssen ab August 2026 nachweisen, wie sie den Einsatz von KI-Systemen steuern und überwachen. Dazu gehören ein dokumentiertes Risikomanagement, technische Dokumentation, menschliche Aufsicht sowie nachvollziehbare Kontroll- und Freigabeprozesse. Für Hochrisiko-KI-Systeme, etwa im Personalwesen oder in sicherheitskritischen Bereichen, wurden die spezifischen Anforderungen und Fristen von der EU-Kommission um rund 16 Monate verschoben, da technische Standards und Prüfverfahren noch nicht flächendeckend verfügbar sind. Die zentralen Transparenz- und Governance-Pflichten greifen jedoch bereits ab dem Stichtag. Unternehmen, die die Fristverlängerung als Aufschub ihrer Verantwortung interpretieren, riskieren Compliance- und Reputationsrisiken.
Branchenreaktionen und offene Fragen
Die Bewertung der neuen Vorgaben fällt in der Technologiebranche unterschiedlich aus. Während einige Führungskräfte die Transparenzpflichten als Grundlage für Vertrauen und verantwortungsvolle Innovation sehen, kritisieren andere die Komplexität und den bürokratischen Aufwand. Insbesondere die Einstufung bestimmter Anwendungen als Hochrisiko-Systeme - etwa bei der automatisierten Vorauswahl von Bewerbungen - wird als potenzielles Innovationshemmnis diskutiert. Technisch erfordern die neuen Vorgaben den Einsatz sicherer kryptografischer Verfahren, etwa Hardware-Sicherheitsmodule für digitale Signaturen und maschinenlesbare Metadaten. Gleichzeitig bleibt offen, wie Unternehmen mit der rasanten Entwicklung von Quantencomputern und kryptoagilen Verschlüsselungssystemen umgehen werden. Die praktische Umsetzung der Transparenzanforderungen und deren Kontrolle durch Aufsichtsbehörden werden in den kommenden Jahren maßgeblich darüber entscheiden, wie sich der Markt für KI-Anwendungen in Europa entwickelt.
Der Begriff "Übergangsfrist" bezeichnet im regulatorischen Kontext einen festgelegten Zeitraum, in dem Unternehmen oder Organisationen neue gesetzliche Anforderungen umsetzen müssen, bevor Sanktionen drohen. Im Fall des EU AI Act erhalten Betreiber von bereits vor dem 2. August 2026 eingesetzten KI-Systemen eine Übergangsfrist bis zum 2. Dezember 2026, um die geforderten Transparenzmaßnahmen einzuführen. Solche Fristen sollen einen geordneten Umstellungsprozess ermöglichen und berücksichtigen, dass technische und organisatorische Anpassungen Zeit benötigen. Die genaue Ausgestaltung und Kontrolle dieser Übergangsphasen ist entscheidend für die Wirksamkeit neuer Regulierungen.
