Ethikpreis | «Ich wollte zeigen, dass KI auch fair sein kann»

Céline, du wurdest mit dem Ethikpreis der Katholischen Kirche im Kanton Zürich ausgezeichnet – herzliche Gratulation! Was bedeutet dir diese Auszeichnung persönlich, und warum liegt dir das Thema Ethik in der Künstlichen Intelligenz besonders am Herzen?

Die Auszeichnung bedeutet mir sehr viel und bestätigt, dass Ethik in der KI ein wichtiges Thema ist. KI fasziniert mich, gerade weil sie unseren Alltag prägt. Besonders im sensiblen Bereich wie HR wollte ich Chancen und Risiken sichtbar machen und zeigen, dass Innovation nur mit Verantwortung funktioniert.

Du hast im Rahmen deiner Thesis im Bachelor Betriebsökonomie an der HWZ untersucht, welche Risiken KI-Programme im Rekrutierungsprozess mit sich bringen können. Was sind aus deiner Sicht die gravierendsten Gefahren für internationale Unternehmen?

Die grösste Gefahr sehe ich in der unbewussten Reproduktion von Diskriminierung durch voreingenommene Daten. Wenn ein KI-System mit historischen Daten trainiert wird, die bereits gewisse Aspekte von Diskriminierung enthalten, etwa in Bezug auf Geschlecht, Alter oder Herkunft, kann das System diese Muster unbewusst fortführen. Das kann zur Folge haben, dass qualifizierte Bewerbende systematisch benachteiligt werden. Internationale Unternehmen setzen sich dadurch einem erhöhten Risiko aus, gegen Antidiskriminierungsgesetze in verschiedenen Ländern zu verstossen. Zudem kann ein solcher Vorfall öffentlich bekannt werden und dem Unternehmen erheblichen Imageschaden zufügen.

In deiner Arbeit beschreibst du konkrete Massnahmen zur Vermeidung von Diskriminierung durch KI im Rekrutierungsprozess – welche erscheinen dir am wirksamsten und weshalb?

Die Kombination aus sauber trainierten Algorithmen und klaren Richtlinien im Bereich zu KI-Tools im Unternehmen. Nur beides zusammen schützt zuverlässig vor Diskriminierung.

«Sauber trainiert» bedeutet, dass die Algorithmen mit qualitativ hochwertigen, ausgewogenen und möglichst vorurteilsfreien Daten trainiert werden. Dabei ist es wichtig, dass die Trainingsdaten die gesellschaftliche Vielfalt realistisch abbilden und keine verzerrten Muster enthalten, die zu Diskriminierung führen könnten.

Gab es während den Gesprächen mit den Expert:innen überraschende Aussagen oder Perspektiven, die du nicht erwartet hättest?

Ja, die Black-Box-Problematik – das Phänomen, dass bei komplexen KI-Modellen oft nicht nachvollziehbar ist, wie genau eine Entscheidung zustande kommt – war mir theoretisch bekannt, aber mir wurde erst in den Gesprächen klar, wie stark sie in der Praxis verbreitet ist. Oft wissen selbst die Entwickler:innen nicht genau, wie ihre Algorithmen entscheiden. Diese mangelnde Transparenz wird besonders kritisch, wenn es um faire und nachvollziehbare Entscheidungen im Rekrutierungsprozess geht.

Du schlägst auch Sensibilisierungsprogramme für die Nutzung von KI-Tools vor – wie könnten solche Programme konkret aussehen, insbesondere für global agierende Unternehmen mit vielfältigen Teams?

Praxisnahe, interdisziplinäre Workshops können helfen, gegenseitiges Verständnis aufzubauen. Entwickler:innen lernen, wie typische HR-Rekrutierungsprozesse ablaufen, welche rechtlichen Anforderungen bestehen und wie wichtig Fairness in der Auswahl ist. Gleichzeitig erhalten HR-Fachpersonen Einblicke in die Funktionsweise der KI-Tools, wie Trainingsdaten wirken, wie sich Bias einschleichen kann und welche Kontrollmechanismen möglich sind. Durch diesen Austausch wird sichergestellt, dass alle Beteiligten ein gemeinsames Verständnis entwickeln, um KI verantwortungsvoll und diskriminierungsfrei einzusetzen.

Dana Sindermann, Laudatorin; Seraina Keller, Preisträgerin; Lioba Wachter, Preisträgerin; Hanspeter Schmitt, Laudator; Céline Mach, Preisträgerin; Susanne Brauer, Laudatorin; Sophie Hartmann, Freundin des abwesenden Preisträgers Tim Eimecke; Daniel Otth, Synodalrat; Adrienne Hochuli, Laudatorin (v.l.n.r.)

Im Vorwort deiner Bachelor Thesis erwähnst du deine eigenen Erfahrungen mit Diskriminierung. Inwiefern hat dich das bei deiner Themenwahl beeinflusst?

Ich bin auch im Alltag schon Vorurteilen begegnet. Das hat mein Interesse geweckt, ob solche Muster sich auch in der KI widerspiegeln. So entstand die Idee, das Thema im HR-Kontext zu vertiefen.

Du hast selbst im Bereich Human Resources gearbeitet – glaubt du, dass KI künftig HR-Aufgaben übernehmen kann, oder wo ziehst du die Grenze zwischen Mensch und Maschine?

KI kann Routineaufgaben übernehmen. Jedoch bleibt die menschliche Intuition und Empathie unersetzbar – gerade das macht den HR-Bereich letztlich aus. In dieser Hinsicht kann die KI das nicht ersetzen.

Wie hat dich das Studium der Betriebsökonomie an der HWZ – insbesondere mit der Vertiefung «International Business» – auf die Themenwahl und Ausarbeitung der Thesis vorbereitet?

Durch den Praxisbezug und die internationale Ausrichtung, hat es mir enorm geholfen, globale ethische Fragen im HR-Kontext zu bearbeiten.

Du hast den Bachelor abgeschlossen, einen Preis in der Tasche und tiefes Know-how im Gepäck – wäre das nicht der perfekte Moment, selbst als KI-Aufklärerin im HR durchzustarten?

Spannende Idee! 😊 KI im Bereich HR fasziniert mich immer noch und da gibt’s für mich noch viel zu entdecken. Mal schauen, was die Zukunft bringt.

Wir wünschen dir viel Erfolg, Céline!