Talenty · Fachartikel
Verzerrungen in Einstellungsprozessen mit KI erkennen und reduzieren
Unbewusste Vorurteile können Bewerber benachteiligen und geeignete Personen ausschließen. Die Quelle verweist auf eine um 35% höhere Wahrscheinlichkeit besserer Geschäftsergebnisse bei vielfältigen Belegschaften. Der Artikel beschreibt, wie KI fairere Verfahren unterstützen kann, wenn Daten, Bewertungen und Ergebnisse regelmäßig geprüft werden.
Fachartikel von Talenty.ai · Originalquelle ansehen ↗
KI & Technologie
10. Januar 2025
7 Min. Lesezeit
Nico Dorn
CEO & CTO bei Talenty.ai
Das Problem:
Die Quelle nennt Studien, in denen identische Lebensläufe je nach zugeschriebener ethnischer Herkunft oder Geschlecht bis zu 50% unterschiedliche Rückmeldequoten erhielten. Sie beschreibt mögliche Verzerrungen von der Kandidatensuche bis zur abschließenden Auswahl.
Unbewusste Vorurteile zeigen sich in verschiedenen Mustern. Wer diese Muster erkennt, kann konkrete Verfahren zur Verringerung von Verzerrungen entwickeln.
Bevorzugung ähnlicher Personen
Bei der Auswahl werden Kandidaten bevorzugt, deren Hintergrund, Interessen oder Kommunikationsstil den eigenen ähneln.
Bestätigungsfehler
Informationen, die den ersten Eindruck bestätigen, erhalten mehr Gewicht. Widersprüchliche Belege werden dagegen übergangen.
Halo-Effekt
Eine einzelne positive Eigenschaft, etwa eine angesehene Ausbildung, prägt die gesamte Bewertung. Andere wichtige Faktoren erhalten dadurch zu wenig Gewicht.
Unklare Vorstellungen von kultureller Passung
Ähnlichkeit wird mit "Passung" verwechselt. Menschen mit anderen Denkweisen oder einem anderen Hintergrund werden dadurch seltener berücksichtigt.
KI kann Hinweise auf Verzerrungen aufzeigen, die bei der manuellen Prüfung übersehen werden. Der Artikel beschreibt drei Einsatzbereiche; ihr Nutzen hängt von den Daten, den Kriterien und der laufenden Kontrolle ab.
Anonymisierte Lebenslaufsichtung
Bei der beschriebenen anonymisierten Vorauswahl entfernt die KI vor der menschlichen Prüfung Informationen, die Rückschlüsse auf eine Person erlauben. Dazu zählen Namen, Adressen, Abschlussjahre und weitere demografische Angaben.
Auswirkung:
Die Quelle berichtet bei anonymisierter Vorauswahl von 30% vielfältigeren Bewerbergruppen in der Interviewphase und einer Verbesserung der Qualitätskennzahlen um 25%.
Strukturierte Bewertungskriterien
Festgelegte Kriterien sollen dafür sorgen, dass alle Bewerber nach demselben Maßstab bewertet werden. Gewichte und Standards müssen dafür vorab dokumentiert und Änderungen während des Verfahrens kontrolliert werden.
- Kompetenzen anhand der Stellenanforderungen gewichten und bewerten.
- Erfahrungen auf ihre Relevanz für die Aufgaben prüfen, statt nur Berufsjahre zu zählen.
- Arbeitsproben anhand festgelegter Kriterien auswerten.
Sprache auf Verzerrungen prüfen
KI kann Stellenbeschreibungen und Rückmeldungen zu Interviews auf voreingenommene Sprache prüfen. Solche Formulierungen können Bewerber mit unterschiedlichen Hintergründen abschrecken oder auf Verzerrungen in der Bewertung hinweisen.
Im Artikel als problematisch genannte Formulierungen:
- "Aggressiv" oder "dominant"
- "Cultural Fit" ohne Definition
- "Muttersprachler"
- "Berufsanfänger"
Im Artikel vorgeschlagene Alternativen:
- "Ergebnisorientiert" oder "strategisch"
- "Werteausrichtung" mit Spezifika
- "Exzellente Kommunikationsfähigkeiten"
- "3+ Jahre Erfahrung"
KI kann Verzerrungen aus den Trainingsdaten übernehmen. Historische Einstellungsentscheidungen eignen sich deshalb nicht ungeprüft als Maßstab für künftige Empfehlungen.
Das in der Quelle beschriebene Amazon-Beispiel:
Der Artikel berichtet, dass Amazon ein Recruiting-Werkzeug aufgab, nachdem eine Benachteiligung von Frauen festgestellt worden war. Das System war mit Lebensläufen aus 10 Jahren trainiert worden, die überwiegend von Männern stammten. Laut Quelle wertete es Begriffe wie „Frauen“ negativ, etwa in „Kapitänin des Frauen-Schachclubs“.
Historische Entscheidungen müssen auf Verzerrungen geprüft werden, bevor sie als Trainingsgrundlage dienen.
Prüfen Sie Ihre Trainingsdaten
Prüfen Sie historische Einstellungsdaten vor dem KI-Einsatz auf wiederkehrende Verzerrungen. Entfernen Sie entsprechend verzerrte Dateneinträge oder passen Sie deren Gewichtung an.
Fragen Sie: Wer wurde eingestellt? Wer wurde abgelehnt? Gab es demografische Muster bei den Ergebnissen?
Empfehlungen regelmäßig auf Verzerrungen prüfen
Der Artikel empfiehlt monatliche Prüfungen der KI-Empfehlungen auf ungleiche Auswirkungen und nennt dafür die 80%-Regel aus dem EEOC-Kontext als Vergleichsmaßstab.
Liegt die Auswahlquote einer Gruppe unter 80% der Quote einer anderen Gruppe, empfiehlt die Quelle eine Untersuchung der Ursache.
Unterschiedliche Perspektiven im Entwicklungsteam
Unterschiedliche Perspektiven im Entwicklungsteam helfen, mögliche Verzerrungen bei Gestaltung und Prüfung der Systeme zu erkennen.
Erklärbare KI
Empfehlungen sollten nachvollziehbare Begründungen enthalten, damit Verantwortliche Auswahl- und Ablehnungsgründe prüfen können.
Menschliche Aufsicht
Geschulte Verantwortliche sollen die Empfehlungen prüfen und die endgültige Einstellungsentscheidung selbst treffen.
Der Artikel nennt diese Kennzahlen für die Überprüfung der Maßnahmen:
Vielfalt der Bewerbergruppen
Erfassen Sie in jeder Einstellungsphase, wie sich die Bewerbergruppen zusammensetzen.
Ungleiche Auswirkungen
Vergleichen Sie die Auswahlquoten der verschiedenen Gruppen miteinander.
Einstellungsqualität
Arbeitsleistung verschiedener Gruppen nach der Einstellung vergleichen.
Wirtschaftliche Zusammenhänge laut Quelle
Der Artikel nennt für Unternehmen mit überdurchschnittlicher Vielfalt folgende Studienergebnisse:
- 19% höhere Innovationsumsätze (BCG)
- 35% höhere finanzielle Renditen (McKinsey)
- 70% höhere Chance, neue Märkte zu erobern (Harvard)
- 2,3x höherer Cashflow pro Mitarbeiter über 3 Jahre (Josh Bersin)
KI ist nicht automatisch vorurteilsfrei. Der Artikel empfiehlt klare Kriterien, menschliche Aufsicht und laufende Prüfungen. Einheitliche Verfahren sollen mit fachlichem Urteil und unterschiedlichen Perspektiven verbunden werden, damit mehr geeignete Bewerber eine faire Chance erhalten.
Themen: Vielfalt und Teilhabe (DEI) · KI-Ethik · rechtliche Anforderungen
Über den Autor
Nico Dorn
Nico Dorn wird im Autorenprofil als CEO und CTO von Talenty.ai beschrieben. Die Quelle nennt einen Abschluss in Informatik und seine Verantwortung für die technische Entwicklung sowie die Integration von KI-Funktionen.
Besprechen Sie, welche Kriterien für Ihre Stellen relevant sind und wie Ihr Team Bewertungen und mögliche Verzerrungen prüfen kann.
Weiterführende Inhalte
Talenty für Ihren Recruiting-Prozess ansehen
Besprechen Sie Kandidatensuche, Ansprache und Vorauswahl für Ihre Stellen. In der Demo sehen Sie die passenden Funktionen und die Verbindung zu Talky.