Wenn Avatare über Ablehnung entscheiden: Studie zu Wahrnehmung von Fairness bei KI-Interviews

Algorithmen und animierte Avatare finden zunehmend Einzug in Auswahlverfahren. Eine internationale Studie der Technischen Universität München und der Universität Lund mit rund 220 Teilnehmenden aus Deutschland, Großbritannien und den USA zeigt, dass Bewerbende einem avatargestützten Vorstellungsgespräch zunächst großes Vertrauen entgegenbringen. Nach einer standardisierten Absage änderte sich die Wahrnehmung: Viele Befragte hielten die Entscheidung nun für unfair, wobei das Urteil vom Aussehen der Avatare abhing.

Aufbau der Untersuchung

Für das Experiment führten Teilnehmende ein kurzes simuliertes Gespräch für eine fiktive Stelle im Kunden-Support. Die Gesprächspartner waren fotorealistische Avatare, die auf Antworten reagierten und Rückfragen stellten. Die Forschenden setzten vier Varianten ein: weiblich oder männlich sowie mit heller oder dunkler Hautfarbe. Parallel wurde die Blickbewegung der Versuchspersonen aufgezeichnet. Nach dem Interview füllten die Teilnehmenden einen Fragebogen aus. Anschließend erhielten alle eine Absage und wurden erneut befragt.

Vertrauen vor der Entscheidung, Kritik danach

Vor der Rückmeldung zeigte sich ein durchgängig hohes Vertrauen in die Künstliche Intelligenz, unabhängig davon, ob Geschlecht oder Hautfarbe zwischen Testperson und Avatar übereinstimmten. Die Aufzeichnungen der Blickverfolgung ergaben jedoch Unterschiede: Das Gesicht des Avatars wurde intensiver betrachtet, wenn dessen Hautfarbe sich von der eigenen unterschied.

Nach der Mitteilung einer Absage veränderte sich die Einschätzung. Teilnehmende neigten vermehrt dazu, die Entscheidung als ungerecht zu bewerten. Dabei spielte die visuelle Ähnlichkeit mit dem Avatar eine Rolle. Wenn die Hautfarbe des Avatars von der eigenen abwich, vermuteten die Betroffenen eher, dass eine Voreingenommenheit zugrunde lag. Am stärksten negative Bewertungen der Fairness kamen jedoch von Personen, die mit dem Avatar in genau einem Merkmal übereinstimmten, also etwa beim Geschlecht oder bei der Hautfarbe. Diese Gruppe beurteilt die Entscheidung negativer als diejenigen, die in beiden Merkmalen übereinstimmten oder in beiden Merkmalen unterschiedlich waren.

Soziale Effekte überschreiten technische Fragen

Die Studienautorinnen und Autoren betonen, dass Diskussionen über Fairness bei KI sich bisher vor allem auf Programmierung und Datengrundlagen konzentriert haben. Enkelejda Kasneci von der Technischen Universität München weist darauf hin, dass das Aussehen von Avataren unbewusst Reaktionen auslöst, auch wenn Nutzerinnen und Nutzer wissen, dass sie mit einer Maschine sprechen. „Schon das menschliche Erscheinungsbild einer KI verwandelt das Gespräch in eine soziale Interaktion“, schreibt Kasneci in einer Stellungnahme.

Für das Recruiting bedeutet das, dass technische Korrektheit allein nicht ausreicht. Kasneci fordert, soziale Verhaltensmuster bei der Gestaltung von KI stärker zu berücksichtigen, damit Auswahlverfahren von allen Beteiligten als legitim anerkannt werden.

Folgen für Unternehmen

Die Studie legt nahe, dass Arbeitgeber bei der Einführung von avatargestützten Auswahlinstrumenten nicht nur algorithmische Verzerrungen prüfen sollten, sondern auch die Wahrnehmung der Bewerbenden. Wahrgenommene Unfairness kann das Vertrauen in den Auswahlprozess und in die Organisation beeinträchtigen. Welche konkreten Anpassungen sinnvoll sind, bleibt weiterer Forschung und der praktischen Erprobung vorbehalten.

Quelle anzeigen