PORTFOLIO

Freie Meinungsbildung und eine offene Debatte gehören zu den Kernwerten einer freien Gesellschaft. Dafür braucht es harte und gleichzeitig sachliche Diskussionen. Die Sozialen Medien und Kommentarfunktionen auf News-Plattformen haben aber die Hemmschwelle für Anfeindungen im Internet gesenkt. Überdurchschnittlich oft sind davon Frauen und Jugendliche betroffen.
Das Projekt 'Stop Hate Speech' leistet Pionierarbeit bei diesem neuen Phänomen. Es verbindet technische und zivilgesellschaftliche Ansätze mit den Erkenntnisssen aus der Wissenschaft. Mithilfe eines Algorithmus, welcher von einer aktiven Community lernt, wird Hate Speech im Netz aufgespürt, von einer aktiven Community zurückgewiesen, und gleichzeitig laufend der Algorithmus noch besser trainiert im Erkennen von Hate Speech.
Mit Unterstützung der Wissenschaft werden verschiedene Gegenrede-Strategien (sogenannte Counter-Speech-Strategien) auf ihre Wirksamkeit erforscht. Daraus enststeht ein Toolkit, - eine Software - welche von Verlagshäuser für die Online-Kommentspalten eingesetzt werden kann. Die Software gibt den Kommentarschreiber/innen ein sofortiges Feedback, sollte ihr Kommentar beleidigend oder abwertend sein, und ermuntert sie, ihren Worte den Anstandsregeln der Plattform anzupassen. 'Stop Hate Speech' bekämpft das ungelösten, globalen, gesellschaftlichen Problem der Hassrede im Internet lokal und innovativ und verbessert so die Medienkompetenz der Bevölkerung.

Der innovative Ansatz des Projektes liegt in der Verbindung der Stärken von technischen und zivilgesellschaftlichen Ansätzen sowie der Wissenschaft.
Das Ziel besteht darin, der zu entwickelnde Algorithmus mit den Forschungsresultaten über Counter-Speech-Strategien zu einem Toolkit - einer Software as a service (SaaS) - Lösung für Verlagshäuser - zu kombinieren. Das gesellschaftliche Problem von Hate Speech wird somit mit verschiedenen Lösungswegen angegangen, welche sich alle wechselseitig ergänzen. Durch die eine Implementation des Toolkits in die Kommentarspalten der Verlagshäuser, wird einerseits ein Multiplikatoreneffekt geschaffen, anderseits werden die Kommentarschreiber/innen in ihrer Medienkompetenz gestärkt und somit das Problem an der Wurzel gepackt.

Im Laufe des Projekts wurde ein treffsicherer Algorithmus entwickelt, der in der Lage ist, deutsche und französische Hasskommentare präzise zu erkennen. Über 300'000 Kommentare wurden von 2'200 Mitgliedern unserer Community sowie von studentischen Hilfskräften bewertet und sind in die Entwicklung des Algorithmus eingeflossen. In einem randomisierten Experiment über die Wirksamkeit Gegenrede-Strategien konnten Forscher der ETH Zürich und Universität Zürich – in Zusammenarbeit mit dem Projekt Stop Hate Speech - die Wirksamkeit von Empathie in der Online-Debatte nachweisen.
In den letzten drei Jahren und insbesondere dank unseres Algorithmus haben wir wertvolle Daten und Erkenntnisse über Online Diskurs und Hate Speech gesammelt, die wir über unsere neue, in Kürze erscheinende Plattform mit Organisationen, Journalisten und der Zivilgesellschaft teilen können.
Per März 2023 wird das Projekt in der neu gegründeten Public Discourse Foundation weitergeführt, die von Sophie Achermann in der Funktion der Geschaftleiterin mitgegründet wurde.

Empathy-based counterspeech can reduce racist hate speech in a social media field experiment||https://www.pnas.org/doi/10.1073/pnas.2116310118€€, PNAS, 2.11.2021