Aktuell | 9. Juli 2025

Ethikpreis | «Ich wollte zeigen, dass KI auch fair sein kann»

Für ihre Bachelor Thesis über Diskriminierung durch KI im Bewerbungsprozess internationaler Unternehmen erhielt Céline Mach, Absolventin Bachelor Betriebsökonomie HWZ, den Ethikpreis der Katholischen Kirche im Kanton Zürich. Im Gespräch erklärt sie, wie KI verantwortungsvoll eingesetzt werden kann und warum gerade HR-Profis das Thema nicht ignorieren dürfen.

Headerbild Ethikpreis Céline Mach

Fotos: Sibylle Rath / zhkath.ch

Céline, du wurdest mit dem Ethikpreis der Katholischen Kirche im Kanton Zürich ausgezeichnet – herzliche Gratulation! Was bedeutet dir diese Auszeichnung persönlich, und warum liegt dir das Thema Ethik in der Künstlichen Intelligenz besonders am Herzen?

Die Auszeichnung bedeutet mir sehr viel und bestätigt, dass Ethik in der KI ein wichtiges Thema ist. KI fasziniert mich, gerade weil sie unseren Alltag prägt. Besonders im sensiblen Bereich wie HR wollte ich Chancen und Risiken sichtbar machen und zeigen, dass Innovation nur mit Verantwortung funktioniert.

Du hast im Rahmen deiner Thesis im Bachelor Betriebsökonomie an der HWZ untersucht, welche Risiken KI-Programme im Rekrutierungsprozess mit sich bringen können. Was sind aus deiner Sicht die gravierendsten Gefahren für internationale Unternehmen?

Die grösste Gefahr sehe ich in der unbewussten Reproduktion von Diskriminierung durch voreingenommene Daten. Wenn ein KI-System mit historischen Daten trainiert wird, die bereits gewisse Aspekte von Diskriminierung enthalten, etwa in Bezug auf Geschlecht, Alter oder Herkunft, kann das System diese Muster unbewusst fortführen. Das kann zur Folge haben, dass qualifizierte Bewerbende systematisch benachteiligt werden. Internationale Unternehmen setzen sich dadurch einem erhöhten Risiko aus, gegen Antidiskriminierungsgesetze in verschiedenen Ländern zu verstossen. Zudem kann ein solcher Vorfall öffentlich bekannt werden und dem Unternehmen erheblichen Imageschaden zufügen.

In deiner Arbeit beschreibst du konkrete Massnahmen zur Vermeidung von Diskriminierung durch KI im Rekrutierungsprozess – welche erscheinen dir am wirksamsten und weshalb?

Die Kombination aus sauber trainierten Algorithmen und klaren Richtlinien im Bereich zu KI-Tools im Unternehmen. Nur beides zusammen schützt zuverlässig vor Diskriminierung.

«Sauber trainiert» bedeutet, dass die Algorithmen mit qualitativ hochwertigen, ausgewogenen und möglichst vorurteilsfreien Daten trainiert werden. Dabei ist es wichtig, dass die Trainingsdaten die gesellschaftliche Vielfalt realistisch abbilden und keine verzerrten Muster enthalten, die zu Diskriminierung führen könnten.

Ein Beispiel für eine klare Richtlinie: Jedes KI-gestützte Rekrutierungstool muss vor dem Einsatz eine Fairness-Prüfung durchlaufen. Dazu gehört, dass alle verwendeten Algorithmen regelmässig auf diskriminierende Tendenzen getestet werden, zum Beispiel durch simulierte Bewerbungen mit identischen Qualifikationen, aber unterschiedlichen demografischen Merkmalen. Zusätzlich ist festgelegt, dass nur KI-Tools verwendet werden dürfen, die diese Prüfung dokumentiert bestanden haben.
Céline Mach, Absolventin Bachelor Betriebsökonomie HWZ

Gab es während den Gesprächen mit den Expert:innen überraschende Aussagen oder Perspektiven, die du nicht erwartet hättest?

Ja, die Black-Box-Problematik – das Phänomen, dass bei komplexen KI-Modellen oft nicht nachvollziehbar ist, wie genau eine Entscheidung zustande kommt – war mir theoretisch bekannt, aber mir wurde erst in den Gesprächen klar, wie stark sie in der Praxis verbreitet ist. Oft wissen selbst die Entwickler:innen nicht genau, wie ihre Algorithmen entscheiden. Diese mangelnde Transparenz wird besonders kritisch, wenn es um faire und nachvollziehbare Entscheidungen im Rekrutierungsprozess geht.

Du schlägst auch Sensibilisierungsprogramme für die Nutzung von KI-Tools vor – wie könnten solche Programme konkret aussehen, insbesondere für global agierende Unternehmen mit vielfältigen Teams?

Praxisnahe, interdisziplinäre Workshops können helfen, gegenseitiges Verständnis aufzubauen. Entwickler:innen lernen, wie typische HR-Rekrutierungsprozesse ablaufen, welche rechtlichen Anforderungen bestehen und wie wichtig Fairness in der Auswahl ist. Gleichzeitig erhalten HR-Fachpersonen Einblicke in die Funktionsweise der KI-Tools, wie Trainingsdaten wirken, wie sich Bias einschleichen kann und welche Kontrollmechanismen möglich sind. Durch diesen Austausch wird sichergestellt, dass alle Beteiligten ein gemeinsames Verständnis entwickeln, um KI verantwortungsvoll und diskriminierungsfrei einzusetzen.

Gruppenfoto Ethikpreis2024

Dana Sindermann, Laudatorin; Seraina Keller, Preisträgerin; Lioba Wachter, Preisträgerin; Hanspeter Schmitt, Laudator; Céline Mach, Preisträgerin; Susanne Brauer, Laudatorin; Sophie Hartmann, Freundin des abwesenden Preisträgers Tim Eimecke; Daniel Otth, Synodalrat; Adrienne Hochuli, Laudatorin (v.l.n.r.)

Im Vorwort deiner Bachelor Thesis erwähnst du deine eigenen Erfahrungen mit Diskriminierung. Inwiefern hat dich das bei deiner Themenwahl beeinflusst?

Ich bin auch im Alltag schon Vorurteilen begegnet. Das hat mein Interesse geweckt, ob solche Muster sich auch in der KI widerspiegeln. So entstand die Idee, das Thema im HR-Kontext zu vertiefen.

Du hast selbst im Bereich Human Resources gearbeitet – glaubt du, dass KI künftig HR-Aufgaben übernehmen kann, oder wo ziehst du die Grenze zwischen Mensch und Maschine?

KI kann Routineaufgaben übernehmen. Jedoch bleibt die menschliche Intuition und Empathie unersetzbar – gerade das macht den HR-Bereich letztlich aus. In dieser Hinsicht kann die KI das nicht ersetzen.

Wie hat dich das Studium der Betriebsökonomie an der HWZ – insbesondere mit der Vertiefung «International Business» – auf die Themenwahl und Ausarbeitung der Thesis vorbereitet?

Durch den Praxisbezug und die internationale Ausrichtung, hat es mir enorm geholfen, globale ethische Fragen im HR-Kontext zu bearbeiten.

Du hast den Bachelor abgeschlossen, einen Preis in der Tasche und tiefes Know-how im Gepäck – wäre das nicht der perfekte Moment, selbst als KI-Aufklärerin im HR durchzustarten?

Spannende Idee! 😊 KI im Bereich HR fasziniert mich immer noch und da gibt’s für mich noch viel zu entdecken. Mal schauen, was die Zukunft bringt.

Wir wünschen dir viel Erfolg, Céline!

Ethikpreis der Katholischen Kirche im Kanton Zürich

Die Katholische Kirche im Kanton Zürich verleiht jedes Jahr den Ethikpreis an Abschluss- und Diplomarbeiten von Studierenden in Fachhochschulen oder im Nachdiplomstudium. Die Preisgelder liegen zwischen CHF 1'000 und 5'000.

Es wurden schon mehrere HWZ-Absolvierende mit dem Ethikpreis ausgezeichnet:

Hier geht's zur Nachberichterstattung der katholischen Kirche des Kantons Zürich.