Eine aktuelle Studie der Princeton University legt nahe, dass Large Language Models wie ChatGPT bei der Auswahl von Bewerberinnen und Bewerbern stärkere Stereotype entwickeln als Menschen. Was das für Unternehmen und den Einsatz von KI im Recruiting bedeutet, bleibt umstritten
Der Einsatz von künstlicher Intelligenz in der Personalauswahl nimmt international zu. Immer häufiger prüfen Systeme auf Basis von Large Language Models (LLMs) wie ChatGPT Bewerbungsunterlagen, bevor Personalverantwortliche sie überhaupt sehen. Eine neue Studie der Princeton University wirft nun die Frage auf, ob diese Technologie tatsächlich zu mehr Fairness führt oder bestehende Diskriminierung sogar verstärkt.
Ergebnisse der Studie im Überblick
Laut der veröffentlichten Untersuchung analysierten die Forschenden, wie LLMs Bewerberprofile bewerten und mit welchen Stereotypen sie dabei arbeiten. Die Studie verglich die Entscheidungen von KI-Modellen mit denen menschlicher Personalverantwortlicher. Das zentrale Ergebnis: Die getesteten LLMs tendierten dazu, Bewerberinnen und Bewerber stärker nach stereotypen Merkmalen zu beurteilen als Menschen. Die Modelle griffen dabei nicht nur auf Vorurteile aus den Trainingsdaten zurück, sondern entwickelten im Verlauf der Nutzung zusätzliche Muster, die zu einer weiteren Verfestigung von Stereotypen führten.
Technische Hintergründe und methodische Grenzen
Die Studie untersuchte verschiedene LLMs, darunter auch ChatGPT, und simulierte typische Auswahlprozesse im Recruiting. Dabei wurde analysiert, wie die Modelle auf wiederkehrende Bewerberprofile reagieren und ob sie im Zeitverlauf eigene Bewertungsmuster ausbilden. Die Forschenden beobachteten, dass agentische KI-Systeme - also Modelle, die aus vergangenen Interaktionen lernen - dazu neigen, einmal gelernte Stereotype zu verstärken. Allerdings bleibt offen, wie stark diese Effekte in realen Unternehmensumgebungen auftreten, da die Studie unter kontrollierten Laborbedingungen durchgeführt wurde. Die Übertragbarkeit auf den praktischen Einsatz ist daher begrenzt.
Folgen für Unternehmen und Regulierung
Für Unternehmen, die KI-basierte Systeme im Recruiting einsetzen, ergeben sich daraus neue Herausforderungen. Die Gefahr, dass automatisierte Vorfilterungen zu systematischen Benachteiligungen führen, ist nicht auszuschließen. Regulatorisch ist die Frage relevant, inwieweit Unternehmen für diskriminierende Entscheidungen von KI-Systemen haftbar gemacht werden können. In der Europäischen Union sind entsprechende Regelungen im Rahmen des AI Act in Vorbereitung, die Transparenz und Nachvollziehbarkeit von KI-Entscheidungen fordern. Unternehmen müssen daher prüfen, wie sie den Einsatz von LLMs im Recruiting dokumentieren und kontrollieren können.
Offene Fragen und Ausblick
Die Studie der Princeton University liefert wichtige Hinweise auf mögliche Risiken beim Einsatz von LLMs in der Personalauswahl. Unklar bleibt jedoch, wie sich diese Effekte in groß angelegten, realen Auswahlverfahren auswirken und ob gezielte technische oder organisatorische Maßnahmen die Stereotypisierung wirksam begrenzen können. Weitere unabhängige Untersuchungen sind notwendig, um die tatsächlichen Folgen für Bewerberinnen und Bewerber sowie für Unternehmen in Deutschland und Europa zu bewerten.
Large Language Models (LLMs) sind KI-Systeme, die auf umfangreichen Textdaten trainiert werden und in der Lage sind, menschenähnliche Sprache zu generieren und zu verstehen. Im Recruiting werden sie zunehmend eingesetzt, um Bewerbungen zu analysieren und Vorentscheidungen zu treffen. Agentische KI bezeichnet dabei Systeme, die aus eigenen Erfahrungen lernen und ihr Verhalten anpassen. Die Transparenz und Nachvollziehbarkeit solcher Modelle ist eine zentrale Herausforderung für Unternehmen und Regulierungsbehörden.
