Ein Forschungsteam aus KUL und Finnland stellt ein KI-Modell vor, das erstmals klare Rollen und Verantwortlichkeiten für den Einsatz von Algorithmen in sensiblen Bereichen wie Sozialleistungen festlegt.
Wer künftig mit einer algorithmischen Entscheidung konfrontiert ist, soll wissen, wer dafür die Verantwortung trägt. Ein neues KI-Modell, entwickelt von Soziologen der KUL und einer Forscherin der University of Eastern Finland, setzt genau hier an: Es weist erstmals systematisch Zuständigkeiten für den Einsatz künstlicher Intelligenz in komplexen Systemen zu und benennt für jede Stufe des Prozesses konkrete Verantwortliche.
Verantwortungslücken bei KI-Systemen
Das Forschungsteam reagiert damit auf ein zentrales Problem vieler KI-Anwendungen: Wenn mehrere Institutionen - etwa Behörden, Unternehmen oder internationale Organisationen - gemeinsam Systeme betreiben, bleibt oft unklar, wer im Ernstfall haftet oder zur Rechenschaft gezogen werden kann. Das neue Modell soll verhindern, dass sich Akteure hinter der Komplexität verstecken und Verantwortung verschwimmt. Stattdessen werden Rollen wie Regierungen, Tech-Konzerne, Expertengremien, zivilgesellschaftliche Gruppen und Bürgerinnen und Bürger mit klaren Aufgaben und Pflichten definiert.
Die Beteiligung dieser Gruppen wird durch acht Grundprinzipien strukturiert: Menschenwürde, Gemeinwohl, universelle Bestimmung der Güter, soziale Gerechtigkeit, Solidarität, Subsidiarität, gemeinsame Verantwortung sowie Transparenz und Rechenschaftspflicht. Diese Prinzipien sollen als Leitplanken dienen, damit die Entwicklung und der Einsatz von KI-Technologien an menschenrechtlichen und gesellschaftlichen Standards ausgerichtet werden.
Praxisbeispiel Sozialleistungen
Im europäischen Rechtsrahmen ist es untersagt, Entscheidungen mit rechtlicher Wirkung ausschließlich automatisiert zu treffen. Die DSGVO (Art. 22) verlangt zudem, dass Betroffene über die Logik der Entscheidung informiert werden und ein Recht auf menschliche Überprüfung und Widerspruch erhalten.
Die Anforderungen an Transparenz und Nachvollziehbarkeit sind damit deutlich höher als bei vielen bisherigen KI-Anwendungen im öffentlichen Sektor. Die Forscher betonen, dass die Einbindung unabhängiger Prüfstellen und die Möglichkeit zur Beschwerde zentrale Voraussetzungen für eine faire und menschenrechtskonforme Nutzung von Algorithmen sind.
Abgrenzung zu bisherigen Ansätzen
Im Unterschied zu vielen bestehenden Modellen, die Verantwortlichkeiten oft nur abstrakt oder auf Organisationsebene regeln, verlangt der neue Ansatz eine explizite Benennung von Personen oder Gremien, die für einzelne Entscheidungen oder Systemfunktionen haften. So soll verhindert werden, dass Verantwortlichkeiten im institutionellen Geflecht verloren gehen. Die Autoren sehen darin einen wichtigen Schritt, um Vertrauen in KI-Systeme zu stärken und Missbrauch vorzubeugen.
Die Diskussion um Bewertung und Kontrolle agentischer KI-Systeme ist nicht neu. Bereits in einem früheren Beitrag wurde darauf hingewiesen, dass klassische Leistungsbenchmarks für komplexe KI-Anwendungen nicht mehr ausreichen und neue Bewertungs- und Kontrollmechanismen nötig sind.
Offene Fragen und Regulierung
Ob das vorgeschlagene Modell in der Praxis breite Anwendung findet, ist offen. Die Umsetzung erfordert nicht nur technische Anpassungen, sondern auch institutionelle Veränderungen und möglicherweise neue gesetzliche Vorgaben. Besonders die klare Zuweisung von Verantwortlichkeiten könnte auf Widerstand stoßen, wenn etablierte Strukturen infrage gestellt werden. Die Forscher sehen in der Orientierung an menschenrechtlichen Prinzipien jedoch einen notwendigen Schritt, um Vertrauen in KI-Systeme zu sichern und gesellschaftliche Akzeptanz zu fördern.
Die Entwicklung des Modells zeigt, dass die Diskussion um faire und sichere KI längst über technische Fragen hinausgeht. Entscheidend wird sein, ob Regierungen und Unternehmen bereit sind, die vorgeschlagenen Prinzipien verbindlich zu übernehmen und sich unabhängiger Kontrolle zu stellen. Ohne diese Bereitschaft bleibt das Risiko, dass KI-Systeme intransparent bleiben und Verantwortung im System verloren geht. Die Forderung nach klaren Verantwortlichkeiten ist damit nicht nur ein technisches, sondern vor allem ein politisches und gesellschaftliches Thema.
Künstliche Intelligenz wird zunehmend in Entscheidungsprozessen eingesetzt, die direkte Auswirkungen auf das Leben von Menschen haben. Verantwortlichkeit bedeutet dabei die klare Zuweisung von Pflichten und Haftung an bestimmte Personen oder Institutionen. In komplexen KI-Systemen ist diese Zuweisung oft schwierig, weil viele Akteure beteiligt sind. Das vorgestellte Modell versucht, diese Lücke zu schließen, indem es Rollen und Prinzipien verbindlich definiert. Für die praktische Umsetzung sind jedoch nicht nur technische, sondern auch rechtliche und organisatorische Anpassungen nötig.
Die europäische Gesetzgebung setzt mit dem AI Act und der DSGVO klare Rahmenbedingungen für den Einsatz von KI in sensiblen Bereichen. Die Europäische Kommission hat mit dem European AI Office eine zentrale Aufsichtsstelle geschaffen, die die Einhaltung von Gesundheits-, Sicherheits- und Grundrechtsstandards überwacht und Sanktionen gegen Anbieter durchsetzen kann. Damit wird die Verantwortung in der KI-Wertschöpfungskette, von Entwicklern über Betreiber bis zu Importeuren, erstmals verbindlich geregelt.
