Interview mit Hilke Schellmann: Das kann alles schiefgehen, wenn KI Bewerber bewertet
Interview mit Hilke Schellmann
Das kann alles schiefgehen, wenn KI Bewerber bewertet
Die Journalistin Hilke Schellmann hat recherchiert, wie Künstliche Intelligenz das Recruiting in den USA verändert. Im Interview erklärt sie, wieso Algorithmen bei Entscheidungen oft danebenliegen.
// Set the width of the caption to the width of the image ?>
impulse: Haben Sie vor Ihren Recherchen selbst Erfahrungen mit KI in Bewerbungsprozessen gemacht? Hilke Schellmann: Ich beobachte da ein Gefälle zwischen den Generationen: Von meinen Studierenden an der New York University hatten die meisten zum Beispiel schon Bewerbungsgespräche für Nebenjobs über HireVue. Das ist eine Software für automatisierte Gespräche, die zum Beispiel viel im Einzelhandel oder in der Gastronomie genutzt wird. Arbeitnehmer über 30 hingegen haben oft noch keine Erfahrungen. Oft wissen Beschäftigte gar nicht, dass ihre Bewerbung von KI bewertet oder analysiert wird.
Sie warnen vor Benachteiligung durch die Technologie.
Ein Problem ist, wie die KIs trainiert werden: mit den Lebensläufen der Menschen, die auf derselben Position arbeiten oder gearbeitet haben. Daraus soll der Algorithmus dann lernen, welche Kriterien in der Firma erfolgreich machen. Ein Algorithmus hat aber keine Erfahrungen in der Arbeitswelt und ob die Gemeinsamkeiten tatsächlich relevant dafür sind, den Job gut zu machen, oder ob sie nur statistisch relevant sind.
Können Sie ein Beispiel dafür nennen?
Ein Anwalt, mit dem ich für mein Buch gesprochen habe, hat zum Beispiel herausgefunden, dass ein KI-System, das Lebensläufe auswertet, mehr Punkte vergeben hat, wenn das Wort Baseball vorkam. Wer hingegen Softball als Sport angegeben hat, bekam weniger Punkte. In Deutschland kennen Sie das vielleicht nicht, aber in den USA ist das ganz klar eine Geschlechterdiskriminierung.
Sie möchten weiterlesen?
Anmelden
impulse-Mitglieder können nach dem Anmelden auf alle -Inhalte zugreifen.
impulse: Haben Sie vor Ihren Recherchen selbst Erfahrungen mit KI in Bewerbungsprozessen gemacht?
Hilke Schellmann: Ich beobachte da ein Gefälle zwischen den Generationen: Von meinen Studierenden an der New York University hatten die meisten zum Beispiel schon Bewerbungsgespräche für Nebenjobs über HireVue. Das ist eine Software für automatisierte Gespräche, die zum Beispiel viel im Einzelhandel oder in der Gastronomie genutzt wird. Arbeitnehmer über 30 hingegen haben oft noch keine Erfahrungen. Oft wissen Beschäftigte gar nicht, dass ihre Bewerbung von KI bewertet oder analysiert wird.
Sie warnen vor Benachteiligung durch die Technologie.
Ein Problem ist, wie die KIs trainiert werden: mit den Lebensläufen der Menschen, die auf derselben Position arbeiten oder gearbeitet haben. Daraus soll der Algorithmus dann lernen, welche Kriterien in der Firma erfolgreich machen. Ein Algorithmus hat aber keine Erfahrungen in der Arbeitswelt und ob die Gemeinsamkeiten tatsächlich relevant dafür sind, den Job gut zu machen, oder ob sie nur statistisch relevant sind.
Können Sie ein Beispiel dafür nennen?
Ein Anwalt, mit dem ich für mein Buch gesprochen habe, hat zum Beispiel herausgefunden, dass ein KI-System, das Lebensläufe auswertet, mehr Punkte vergeben hat, wenn das Wort Baseball vorkam. Wer hingegen Softball als Sport angegeben hat, bekam weniger Punkte. In Deutschland kennen Sie das vielleicht nicht, aber in den USA ist das ganz klar eine Geschlechterdiskriminierung.
.paywall-shader {
position: relative;
top: -250px;
height: 250px;
background: linear-gradient(to bottom, rgba(255, 255, 255, 0) 0%, rgba(255, 255, 255, 1) 90%);
margin: 0 0 -250px 0;
padding: 0;
border: none;
clear: both;
}
Sie möchten weiterlesen?
Anmelden
impulse-Mitglieder können nach dem Anmelden auf alle -Inhalte zugreifen.
Jetzt anmelden
impulse-Mitglied werden
impulse-Magazin
alle -Inhalte
digitales Unternehmer-Forum
exklusive Mitglieder-Events
und vieles mehr …
Jetzt Mitglied werden
impulse-Mitglieder erhalten Zugang zu impulse Plus, indem sie sich einloggen. Falls Sie nicht wissen, welche E-Mail-Adresse Sie hierfür bei impulse hinterlegt haben: Wir helfen Ihnen gern – eine kurze Nachricht genügt.
Kundenbetreuung kontaktieren
Unternehmerinnen und Unternehmer, die bisher nicht impulse-Mitglied sind, können unser digitales Angebot mit dem impulse-Gastzugang 30 Tage kostenlos testen.
Mehr Infos zum Gastzugang
Nein. Sobald Sie sich einmalig mit Ihrem Kundenlogin auf der Website angemeldet haben, bleiben Sie 180 Tage angemeldet und können auf alle impulse-Plus-Inhalte zugreifen.
Unternehmerinnen und Unternehmer, die bisher nicht impulse-Mitglied sind, können unser digitales Angebot mit dem impulse-Gastzugang 30 Tage kostenlos testen.
Eine erneute Anmeldung ist in dieser Zeit nur nötig, wenn …
... Sie die Website auf einem anderen Gerät aufrufen.
... Sie die Website mit einem anderen Browser aufrufen.
... Sie die Cookies in Ihrem Browser löschen.
... Sie sich über den „Abmelden“-Link unter „Mein impulse“ abgemeldet haben.
Sie verlieren den Zugang zu impulse Plus, wenn Sie nicht mehr impulse-Mitglied sind.