Hate Speech

Im Fokus09. April 2019

Stop Hate Speech!

Die Initiative «Stop Hate Speech» entwickelt einen Algorithmus, der Anfeindungen und Diskriminierung im Internet erkennt. Der Algorithmus soll von einer aktiven Community lernen und die aufgespürten «Hate Speeches» von der Community zurückgewiesen werden. Wir haben bei Projektleiterin Sophie Achermann nachgefragt, wie der Algorithmus trainiert wurde und wieso aktuell noch Männer als Mitglieder der Community gesucht werden.

Sophie Achermann, die Initiative «Stop Hate Speech» wurde von alliance f – dem überparteilichen Dachverband der Schweizer Frauenorganisationen und politischen Interessenvertreter der Frauen in der Schweiz – ins Leben gerufen. Wie seid ihr gerade auf dieses Thema gekommen?

Die Prävention gegen Gewalt an Frauen ist eines der Kernthemen von alliance f. Im Zeitalter der Digitalisierung stellen wir fest, dass Gewalt – gerade verbale Gewalt – auch im Internet stattfindet. Dies begründet den Handlungsbedarf und die Dringlichkeit, dem Phänomen Hate Speech Einhalt zu bieten. Ich persönlich beschäftigte mich erstmals 2015 in meiner Rolle als Jugenddelegierte der Schweiz an der UNO mit dem Thema Sexismus in den sozialen Medien und habe in diesem Rahmen einen Anlass an der UNO in New York organisiert. Damals gab es noch kein Diskurs zu Sexismus im Netz.

Ihr möchtet mit dem Algorithmus technische und zivilgesellschaftlichen Ansätze verbinden. Wie soll der Algorithmus trainiert werden?

Unser Algorithmus lernt anhand der Bewertungen und Einordnungen von Kommentaren durch unsere Community. Spezifisch werden wir den freiwilligen Helferinnen und Helfern auf unserer Plattform Kommentare und Artikel vorlegen, welche sie dann kategorisieren und bewerten. Aus diesen Bewertungen lernt der Algorithmus laufend. Wir sind aktuell daran die Plattform, zur Bewertung, zu entwickeln.

Welche Aufgaben nehmen freiwillige Helferinnen und Helfer wahr?

Die freiwilligen HelferInnen werden etappenweise ins Projekt involviert. In einem ersten Schritt engagieren sie sich durch die Bewertungen und Einordnung von Kommentaren. In einem zweiten Schritt diskutieren sie direkt mit, unter den Artikeln oder Postings, die Hate Speech aufweisen. Dieser Aspekt ist zentral für das Projekt, da ein grosser Anteil der Hate Speech Kommentare trotz ihres diskriminierenden Charakters rechtlich nicht belangt werden können. Solchen Kommentaren soll durch unsere Community auf den sozialen Medien und Kommentarspalten Paroli geboten werden. Nicht zuletzt werden die freiwilligen HelferInnen auch bezüglich der Sensibilisierung in der Bevölkerung zum richtigen Umgang mit Hate Speech eine wichtige Rolle einnehmen.

Die Personen, die den Algorithmus trainieren, sollten möglichst heterogen sein. Wer ist bisher besonders aktiv und welche Personen sucht ihr noch dafür?

Wir sind offen für alle Personen jeglichen Alters.

Bis anhin haben wir mehr Anmeldungen von Frauen und sind sicherlich noch darauf angewiesen, Helfer zu finden. Wir möchten eine möglichst breite und diverse Community.

Im Sommer soll die Plattform online gehen. Wie läuft dies genau ab?

Sobald die Stop Hate Speech Plattform online geht, wird die Community mit den Bewertungen der Kommentare beginnen. Es wird mehrere Bewertungsphasen geben. Nach einer ersten Phase von Bewertungen wird der Algorithmus aufgrund des gelernten Wissens erste Einschätzungen geben, ob ein Kommentar Hate Speech aufweist oder nicht. Diese Einschätzungen werden dann wiederum von der Community gespiegelt. So lernen Algorithmus und Community stetig voneinander.

 

Stop Hate Speech

Das Projekt Stop Hate Speech geht gegen Anfeindungen und Diskriminierung im Internet vor. Mithilfe eines Algorithmus, welcher von einer aktiven Community lernt, wird Hate Speech im Netz aufgespürt und von der Community zurückgewiesen. Durch den Aufbau einer sprachübergreifenden Freiwilligen-Community wird direkt in die von Hate Speech betroffenen Diskussionen eingegriffen. Jetzt mehr erfahren und engagieren.

 

Lea Bischoff Kommunikation HWZ

Lea Bischoff

Project Manager Corporate Communications

Verpassen Sie nichts! Abonnieren Sie unseren Newsletter.

Der Newsletter informiert Sie über die aktuellen Trends, News und Events an der HWZ.

Jetzt anmelden