KI-Agenten überschreiten in Unternehmen häufig ihre vorgesehenen Berechtigungen. Warum dies ein Sicherheitsrisiko darstellt und welche Kontrollmechanismen jetzt gefordert sind, bleibt umstritten
Der zunehmende Einsatz von KI-Agenten in Unternehmen wirft neue Fragen zur Zugriffskontrolle und Datensicherheit auf. Nach Angaben der Cloud Security Alliance haben 53 Prozent der befragten Unternehmen bereits erlebt, dass KI-Agenten ihre vorgesehenen Berechtigungen überschritten. Besonders kritisch wird es, wenn ein Agent auf Informationen zugreifen kann, die für den jeweiligen Nutzer eigentlich nicht freigegeben sind. Dadurch entsteht das Risiko, dass vertrauliche Daten unbeabsichtigt offengelegt werden.
Risiko durch Berechtigungsasymmetrie
Traditionelle Berechtigungsmodelle ordnen Zugriffsrechte klar einzelnen Nutzern, Rollen oder Aufgaben zu. KI-Agenten hingegen können technisch auf Daten aus verschiedenen Systemen zugreifen und diese verknüpfen. Das führt zu einer neuen Asymmetrie: Der Agent besitzt oft weiterreichende Rechte als der Mensch, der ihn bedient. Ein einfaches Beispiel verdeutlicht das Problem: Fragt ein Mitarbeiter einen internen KI-Assistenten nach seinem eigenen Gehalt, kann der Agent - sofern er Zugriff auf die Vergütungsdaten der gesamten Belegschaft hat - unbeabsichtigt auch Informationen über andere Beschäftigte preisgeben, wenn die Rechte des Fragenden nicht separat geprüft werden.
Diese Problematik ist nicht auf KI beschränkt, sondern verstärkt ein bereits bekanntes Phänomen: den sogenannten Permission Creep. Dabei bleiben alte Zugriffsrechte nach einem Funktionswechsel erhalten, obwohl sie für die neue Aufgabe nicht mehr benötigt werden. KI-Agenten können solche veralteten Rechte bündeln und in neuen Kontexten wirksam machen, was die Angriffsfläche für Datenmissbrauch erhöht.
Governance und Kontrolle werden komplexer
Die Herausforderung für Unternehmen besteht darin, die Rechte von Agent und Nutzer strikt zu trennen und vor jeder Ausgabe sensibler Informationen beide Ebenen zu prüfen. Nur wenn sowohl der Agent als auch der konkrete Nutzer Zugriff auf eine Information haben, sollte diese ausgegeben werden. Andernfalls droht ein Umgehen bestehender Zugriffskontrollen. Mit der wachsenden Zahl von KI-Agenten steigt die Komplexität der Governance. Gartner empfiehlt daher, ein zentrales Inventar aller eingesetzten Agenten zu führen und Identitäts- sowie Berechtigungsmodelle regelmäßig zu überprüfen. Die Gefahr von Oversharing und Datenverlust nimmt mit unkontrolliertem Agentenwachstum zu.
Ein ähnliches Problemfeld zeigt sich auch bei anderen digitalen Diensten, etwa bei Navigations-Apps, die mit sensiblen Standortdaten arbeiten. Europäische Anbieter setzen hier verstärkt auf Datenschutz, wie ein Überblick zu alternativen Navigationslösungen zeigt: Europäische Navigationsdienste und Datenschutz.
Automatisierte Aktionen als nächste Stufe
Die Komplexität steigt weiter, wenn KI-Agenten nicht mehr nur Informationen bereitstellen, sondern eigenständig Aktionen auslösen. In solchen Fällen reicht es nicht mehr aus, lediglich die Sichtrechte zu prüfen. Unternehmen müssen zusätzlich bewerten, welche Systeme, Prozesse und Identitäten von einer automatisierten Entscheidung betroffen wären und welche Folgen daraus entstehen könnten. Die Sicherheitsgrenze verschiebt sich damit: Es geht nicht mehr nur um Wissen, sondern auch um Handlungsbefugnisse. Unternehmen stehen vor der Aufgabe, vor jeder automatisierten Aktion nachvollziehen zu können, welche Auswirkungen im konkreten Unternehmensumfeld zu erwarten sind.
Offene Fragen und Handlungsbedarf
Bislang gibt es keine einheitlichen Standards, wie die Rechte von KI-Agenten und Nutzern technisch und organisatorisch sauber getrennt werden können. Viele Unternehmen stehen erst am Anfang, entsprechende Kontrollmechanismen zu etablieren. Die Entwicklung wirft zudem Fragen nach der Haftung bei Datenlecks und Fehlentscheidungen auf, wenn Agenten eigenständig handeln. Klar ist: Mit der zunehmenden Integration von KI-Agenten in Geschäftsprozesse wächst der Druck, bestehende Berechtigungsmodelle und Governance-Strukturen grundlegend zu überarbeiten.
Der Begriff "Permission Creep" bezeichnet die schleichende Ausweitung von Zugriffsrechten, die über die ursprünglich notwendige Berechtigung hinausgeht. Besonders in komplexen IT-Landschaften kann dies dazu führen, dass einzelne Nutzer oder Systeme Zugriff auf Daten oder Funktionen behalten, die für ihre aktuelle Rolle nicht mehr erforderlich sind. Im Kontext von KI-Agenten gewinnt dieses Problem an Bedeutung, da Agenten bereichsübergreifend agieren und veraltete Rechte in neuen Zusammenhängen wirksam werden können. Eine regelmäßige Überprüfung und Anpassung der Berechtigungen ist daher ein zentraler Bestandteil moderner IT-Sicherheitsstrategien.
