Fairness oder Vorurteil – Künstliche Intelligenz bei der Jobbewerbung

Künstliche Intelligenz wird vermehrt im Bewerbungsprozess eingesetzt. Die Technologie soll die Auswahl von Bewerbenden objektiver und schneller gestalten und vermeiden, dass Entscheidungen basierend auf persönlichem Geschmack getroffen werden. KI gilt als Technologie der Zukunft und immer mehr Unternehmen bieten Lösungen für den Recruiting-Prozess an, aber verhindert die Technologie tatsächlich Voreingenommenheit im Bewerbungsprozess? Der Bayrische Rundfunk hat sich mit dieser Frage beschäftigt und mit der Software eines Münchner Start-ups verschiedene Versuche durchgeführt – mit überraschenden Resultaten.

Die Software des Start-ups ist auf das bekannte Big Five Modell zur Persönlichkeitsanalyse ausgelegt. Es beschreibt Personen anhand von Ausprägungen in fünf verschiedenen Dimensionen: Offenheit, Gewissenhaftigkeit, Extraversion, Verträglichkeit und Neurotizismus. In einem simulierten Online-Interview testete der Bayrische Rundfunk äussere Merkmale von Bewerbenden wie das Tragen einer Brille. Und tatsächlich ergaben sich je nach äusserem Auftreten der Testperson signifikante Unterschiede in der Bewertung durch die KI. Trotz gleichem Inhalt des Interviews schätzt die Software eine Brillenträger:in beispielsweise deutlich weniger gewissenhaft ein. Mit Kopftuch wird die Testperson als offener, gewissenhafter und weniger neurotisch eingestuft im Vergleich zum Originalvideo.

Nicht nur das Auftreten einer Person beeinflusst die KI, sogar der Hintergrund im Video macht einen entscheidenden Unterschied. Kandidat:innen, bei denen ein Bücherregal im Video zu sehen ist, gelten laut der Software als offener, gewissenhafter und extrovertierter als solche mit weissem Hintergrund.

Obwohl Künstliche Intelligenz viele Vorteile mit sich bringt, zeigt dieser Versuch, dass sich Stereotype und subjektives Empfinden durch KI nicht eliminieren lassen. Zudem macht es die Technologie unmöglich genau zu verstehen, welche Faktoren sich wie genau auf das Resultat auswirken.

Noch sind solche Softwares im Recruiting noch nicht weit verbreitet in Europa, das Interesse dafür besteht jedoch – hauptsächlich bei grossen Firmen. Künstliche Intelligenz bietet nicht nur die Chance, den Bewerbungsprozess zu verkürzen und Ressourcen zu sparen, sondern nimmt Unternehmen auch Entscheidungen ab wie das Auswählen der richtigen Mitarbeiter:innen. Wie das Experiment zeigt hat die Technologie jedoch Schwachstellen, die nicht nur berücksichtigt werden müssen sondern auch passende Regulierung erfordern.