Ethikpreis | Diese Thesis überzeugte die Jury

Joya, du hast im Sommer den Ethikpreis der katholischen Kirche im Kanton Zürich erhalten und sogleich den ersten Platz belegt. Herzlichen Glückwunsch dazu! Ich nehme an, die Freude war gross?

Herzlichen Dank für die Glückwünsche! Die Freude ist immer noch riesig. Es ist schön, nochmals eine besondere Anerkennung für eine Arbeit zu erhalten, wo man so viel Energie reingesteckt hat.

In deiner Masterarbeit hast du dich mit den ethischen Chancen und Herausforderungen einer auf künstlicher Intelligenz basierenden digitalen Psychotherapie auseinandergesetzt. Was ist dein Bezug zu diesem Thema?

Mein Bezug war rein privater Natur. Einerseits war psychische Gesundheit ein Thema, das in meinem privaten Umfeld sehr präsent war und diskutiert wurde. Andererseits interessierte mich die Schnittstelle zwischen Technologie und Ethik. Deshalb habe ich mich für den CAS Digital Ethics entschieden. Ich wollte verstehen, wie ethische Prinzipien in diesem Kontext angewendet werden können und welche Herausforderungen damit verbunden sind.

Du hast in deiner Arbeit die ethischen Grundsätze bei digitalen Psychotherapie-Angeboten auf KI Basis eruiert und untersucht. Wie ich gelesen habe, handelt es sich zurzeit vor allem von Beitreiber:innen aus dem Ausland. Was ist dabei herausgekommen?

Die Ergebnisse meiner Analyse zeigten, dass die Mehrheit der ethischen Aspekte in den digitalen Therapie-Angeboten bereits berücksichtigt werden, wenn auch nicht immer vollständig. Dies ist vor allem auf die Einhaltung der Datenschutz-Grundverordnung (DSGVO) und standardisierte Zustimmungen zu Nutzungsbedingungen und Datenschutzrichtlinien zurückzuführen. Studien zur Wirksamkeit der Angebote und die Expertise der Produktentwickler tragen ebenfalls zur Sicherheit der Nutzer:innen bei. Allerdings stellt sich die ethische Frage, ob die Standardpraktiken in Bezug auf die Haftung bei Gesundheits-Apps ausreichend sind, da in der klassischen Therapie eine ähnliche Sorgfaltspflicht gilt. Besonders auffällig ist, dass keine der untersuchten Apps vollständige Transparenz in Bezug auf Technologie, Algorithmen, Datenquellen und Wissenserwerb bietet. Dies ist problematisch, da die Autonomie der Nutzer:innen und das Vertrauen in das System ein gewisses Mass an Verständnis erfordern. Um beurteilen zu können, ob das System fair und sicher ist, müssen Nutzer:innen die Technologie und Datenquellen verstehen, was digitale Kompetenz erfordert. Insgesamt zeigt die Untersuchung, dass es noch erhebliches Potenzial zur Verbesserung gibt. Eine der Hauptaufgaben besteht darin sicherzustellen, dass KI-Systeme die Bedürfnisse und das Wohlbefinden der Patienten angemessen berücksichtigen und ethische Standards klar definiert werden.

Das klingt interessant. Anschliessend hast du dich mit Expertinnen und Experten ausgetauscht und dabei die ethischen Chancen und Herausforderungen daraus abgeleitet. Welches sind die grössten?

Die grösste Chance liegt klar darin, dass diese Technologien das Potenzial haben, die mentale Gesundheitsversorgung zu verbessern und die Verteilung dieser Versorgung zu erweitern. Dies ist besonders wichtig, da sie Menschen erreichen kann, die aufgrund von räumlichen, physischen oder ressourcenbezogenen Einschränkungen keinen Zugang zur herkömmlichen psychotherapeutischen Versorgung haben. Die digitalen Angebote können somit die Gleichheit fördern und dazu beitragen, dass die allgemeine Bevölkerungsgesundheit und die Gesundheitskompetenz gesteigert werden. Sie können auch dazu beitragen, das Stigma im Zusammenhang mit psychischen Erkrankungen zu reduzieren und den Zugang zur Psychotherapie zu erleichtern.

Allerdings gibt es auch ethische Herausforderungen. Datenschutz und der Schutz vor Diskriminierung und Schäden sind von zentraler Bedeutung. Es besteht die Gefahr von Bias in den Daten und Algorithmen. Zudem ist es wichtig, Technologiepaternalismus zu vermeiden und die Autonomie der Menschen zu schützen. Die Verantwortlichkeiten der Unternehmen müssen hier klar definiert werden, um die Sicherheit der Patientinnen und Patienten zu gewährleisten. Die wirtschaftlichen Ziele der Unternehmen sollten dem Wohl der Bevölkerung dienen.

Was hat dich bei deiner Arbeit am meisten überrascht?

Am meisten hat mich die Diskrepanz zwischen der rasanten technologischen Entwicklung und der gleichzeitigen ethischen Reflexion darüber überrascht. Die Technologie entwickelt sich in einem atemberaubenden Tempo und wird schnell von Nutzer:innen angewendet. Besonders deutlich wird dies aktuell auf dem Markt mit den neuen KI-Tools. Diese Geschwindigkeit wirft die Frage auf, wie die Vielzahl an ethischen Aspekten in dieser Entwicklung ausreichend berücksichtigt werden können.

Was passiert nun mit deiner Master Thesis? Möchtest du dich persönlich in diesem Bereich vertiefen?

Ich hoffe natürlich, dass nochmals ganz viele Menschen Interesse daran haben, diese zu lesen und mehr über das Thema zu erfahren. Ich freue mich auch immer auf Kontaktaufnahmen und interessante Gespräche dazu. Persönlich interessiert mich das Thema immer noch sehr, aber mehr in seiner Allgemeinheit und nicht unbedingt nur auf Psychotherapie-Angebote.

Du hast deine Master Thesis im Rahmen deines MAS Digital Business geschrieben, einem MAS, der modular aufgebaut ist. Das heisst, du konntest zwischen zwölf verschiedenen CAS auswählen. Wusstest du von Anfang an, welche drei Themenbereiche dich interessieren?

Ja, ich wusste relativ schnell, welche CAS ich machen wollte. Die ersten beiden waren «Digital Leadership» und «Disruptiv Technologies». Eigentlich hätten diese für meinen MAS-Abschluss gereicht, da ich bereits einen CAS an der FHNW absolviert hatte. Der CAS Digital Ethics wurde zu dieser Zeit neu lanciert, und weil mich das Thema so interessiert hat, habe ich mich dazu entschieden, eine extra Runde zu drehen und diesen noch anzuhängen, anstatt einen der anderen wegzulassen.

Was hat dich am Thema Digitale Ethik besonders gereizt?

Das Thema hat mich vor allem gereizt, da ich mir noch nicht viel darunter vorstellen konnte. Es ist auch ganz klar ein Thema, das uns alle betrifft, auch wenn wir geschäftlich vielleicht nicht mit diesen Technologien in Berührung kommen.

Ich nehme an, dieser CAS hat dich letztendlich auch zu deiner Masterarbeit inspiriert? 

Ja, das war auch meine Hoffnung. Denn bis dahin hatte ich noch keine Ahnung, worüber ich schreiben wollte. Die Inhalte und Diskussionen in diesem Kurs haben mir einen Einblick in die ethischen Dimensionen der digitalen Technologie gegeben und meine Leidenschaft für das Thema entfacht. So habe ich nicht nur mein Thema gefunden, sondern auch meine Mentorin für diese Arbeit.

Du hast nicht nur den MAS bei uns an der HWZ absolviert, sondern hast bereits den Bachelor in Business Communications bei uns gemacht. Da du den ersten CAS des MAS an einer Fachhochschule absolviert hast, war es für dich nicht von Anfang an klar, dass du wieder an die HWZ zurückkehren möchtest, nehme ich an...

Genau, den ersten CAS habe ich an einer anderen Fachhochschule absolviert. Es war also nicht von Anfang an klar, dass ich an die HWZ zurückkehre, jedoch auch nicht, dass ich einen MAS machen will.