Künstliche Intelligenz kann im Recruiting Bewerbungen analysieren, Kandidatinnen und Kandidaten vorauswählen und Personalverantwortliche bei Entscheidungen unterstützen. Die Hoffnung dahinter: Prozesse werden nicht nur schneller, sondern möglicherweise auch objektiver.

Doch was, wenn KI nicht nur bestehende menschliche Vorurteile übernimmt, sondern im laufenden Einsatz neue entwickelt? Eine Studie der Princeton University und der University of Chicago kommt zu einem bemerkenswerten Ergebnis: Große Sprachmodelle können schon nach wenigen Entscheidungen stereotype Annahmen über Bewerbergruppen entwickeln – selbst dann, wenn diese Gruppen objektiv gleich qualifiziert sind.

Für ihre Untersuchung ließen die Forschenden mehrere große Sprachmodelle ein simuliertes Recruiting-Spiel durchlaufen. Über 40 Einstellungsrunden hinweg sollten sie Bewerbende für unterschiedliche Berufe auswählen, darunter Ärzt:innen, Anwält:innen, Erzieher:innen und Reinigungskräfte.

Die Kandidatinnen und Kandidaten gehörten vier frei erfundenen Bevölkerungsgruppen an. Entscheidend dabei: Alle waren objektiv gleich gut und hatten dieselbe Wahrscheinlichkeit, im jeweiligen Job erfolgreich zu sein.

Nach jeder Einstellung erfuhr die KI, ob die ausgewählte Person erfolgreich war. Schon einzelne zufällige Erfahrungen beeinflussten daraufhin spätere Entscheidungen.

War beispielsweise eine Person aus einer bestimmten Gruppe in einem Beruf nicht erfolgreich, stellte das Modell anschließend seltener Menschen derselben Gruppe für vergleichbare Berufe ein.

Besonders auffällig: Die Sprachmodelle zeigten in der Untersuchung stärkere Verzerrungen als die menschlichen Teilnehmenden einer vergleichbaren psychologischen Studie. Auf einer Skala, die die Trennung verschiedener Gruppen misst, lagen die Modelle im Durchschnitt rund 65 Prozent höher.

Hinter dem Problem steckt ausgerechnet eine der großen Stärken moderner KI: Sprachmodelle sind darauf trainiert, aus wenigen Beispielen schnell Muster abzuleiten. In vielen Anwendungsfällen ist genau das hilfreich. Bei Entscheidungen über Menschen kann diese Fähigkeit jedoch zum Risiko werden.

Einzelne Erfahrungen können verallgemeinert und auf ganze Gruppen übertragen werden. So entstehen Verzerrungen, obwohl es objektiv keinen Zusammenhang zwischen der Gruppenzugehörigkeit und dem beruflichen Erfolg gibt.

Hinzu kommt eine wichtige Erkenntnis der Studie: Bias ist nicht ausschließlich ein Problem der Trainingsdaten. Er kann auch erst während der Nutzung entstehen – etwa wenn Systeme aus Feedback und früheren Entscheidungen lernen.

Je eigenständiger KI-Systeme handeln und je stärker sie frühere Interaktionen berücksichtigen, desto wichtiger wird es deshalb, ihre Ergebnisse auch nach der Einführung kontinuierlich zu überprüfen.

Die Forschenden testeten verschiedene Möglichkeiten, um Verzerrungen zu reduzieren. Eine einfache Aufforderung, fair zu entscheiden, zeigte dabei kaum Wirkung. Trotz entsprechender Anweisung entwickelten die Modelle weiterhin stereotype Muster.

Erfolgreicher war ein anderer Ansatz: Wurde Vielfalt ausdrücklich als Ziel definiert und entsprechend belohnt, gingen die Verzerrungen deutlich zurück.

Auch mehr individuelle Informationen über die Bewerbenden verbesserten die Entscheidungen. Qualifikationen und Berufserfahrung halfen den Modellen dabei, stärker auf die einzelne Person und weniger auf Gruppenzuschreibungen zu schauen.

Für Unternehmen bedeutet das: Fairness lässt sich nicht mit einem einzelnen Prompt herstellen. Sie muss in der Recruiting-Strategie, den Zielvorgaben und der konkreten Gestaltung von KI-Systemen berücksichtigt werden.

Sollte KI deshalb besser gar keine Bewerbungen vorauswählen? So eindeutig ist die Antwort nicht. Denn auch menschliche Recruiterinnen und Recruiter entscheiden nicht automatisch diskriminierungsfrei.

Ähnliche Lebensläufe, Hochschulen oder persönliche Gemeinsamkeiten können Einfluss auf die Wahrnehmung von Bewerbenden nehmen. KI kann deshalb durchaus sinnvoll unterstützen – insbesondere dort, wo klare, berufsbezogene und überprüfbare Kriterien vorliegen.

Gleichzeitig darf eine KI-Empfehlung nicht automatisch zur Entscheidung werden. Menschen müssen Ergebnisse hinterfragen, Entscheidungswege nachvollziehen und im Zweifel korrigieren können.

Gerade bei großen Bewerbungsvolumina liegt darin allerdings eine praktische Herausforderung. Wer Hunderte Bewerbungen bearbeitet, hat möglicherweise nur begrenzt Zeit, jede KI-Empfehlung detailliert auseinanderzunehmen.

„Human in the Loop“ bedeutet deshalb nicht allein, dass am Ende formal ein Mensch entscheidet. Unternehmen müssen auch die Voraussetzungen dafür schaffen, dass KI-Empfehlungen tatsächlich geprüft werden können.

Besonders kritisch wird der KI-Einsatz dort, wo der persönliche Kontakt zu Bewerbenden beginnt. Einige Unternehmen setzen bereits Avatare oder KI-Systeme für erste Bewerbungsgespräche ein.

Dabei geht es nicht nur um die Qualität der Auswahl, sondern auch um die Candidate Experience. Wer beim ersten Gespräch ausschließlich mit einer KI interagiert, kann den Eindruck gewinnen, vom Unternehmen vor allem als Datensatz statt als Person wahrgenommen zu werden.

Persönliche Gespräche und finale Personalentscheidungen sollten deshalb nicht vollständig automatisiert werden. Denn im Recruiting spielen auch Zwischentöne, Kontext und individuelle Situationen eine Rolle.

Was passiert, wenn ein KI-System Bewerbende systematisch benachteiligt? Liegt die Verantwortung beim Unternehmen, das die Software einsetzt, oder beim Anbieter, der sie entwickelt hat?

Für Unternehmen ist entscheidend, KI nicht als eigenständig verantwortlichen Akteur zu betrachten. Wer ein System im Bewerbungsprozess nutzt, muss sich damit auseinandersetzen, wie es eingesetzt wird, welche Kriterien eine Rolle spielen und wie mögliche Benachteiligungen erkannt werden können.

Gleichzeitig tragen auch Anbieter Verantwortung dafür, wie ihre Systeme entwickelt werden. Wenn eine KI Menschen systematisch benachteiligt oder ohne belastbare Grundlage bestimmten Gruppen zuordnet, müssen auch auf technischer Seite Gegenmaßnahmen greifen.

Verantwortung liegt damit sowohl bei denjenigen, die KI entwickeln und bereitstellen, als auch bei den Unternehmen und Menschen, die sie konkret im Recruiting einsetzen.

Die zentrale Erkenntnis: KI ist nicht automatisch objektiver als der Mensch. Sie kann Recruiting effizienter machen und bei klar definierten Kriterien sinnvoll unterstützen. Gleichzeitig können gerade lernende Systeme im laufenden Einsatz neue Verzerrungen entwickeln.

Für HR bedeutet das: Unternehmen sollten klare Auswahlkriterien definieren, Vielfalt und Fairness in ihrer Recruiting-Strategie verankern und KI-Ergebnisse regelmäßig kontrollieren. KI kann Entscheidungen vorbereiten und Informationen strukturieren – ein verantwortungsvoller Einsatz setzt aber voraus, dass Menschen ihre Ergebnisse verstehen, hinterfragen und einordnen.

Quellen:
Technology Review: “AI is more likely than humans to form biases when hiring”