ABSTRACT Purpose: This short paper describes the dashboard design process for online hate speech monitoring for multiple languages and platforms. Methodology/approach: A case study approach was adopted in which the authors followed a research & development project for a multilingual and multiplatform online dashboard monitoring online hate speech. The case under study is the project for the European Observatory of Online Hate (EOOH). Results: We outline the process taken for design and prototype development for which a design thinking approach was followed, including multiple potential user groups of the dashboard. The paper presents this process's outcome and the dashboard's initial use. The identified issues, such as obfuscation of the context or identity of user accounts of social media posts limiting the dashboard's usability while providing a trade-off in privacy protection, may contribute to the discourse on privacy and data protection in (big data) social media analysis for practitioners. Research limitations/implications: The results are from a single case study. Still, they may be relevant for other online hate speech detection and monitoring projects involving big data analysis and human annotation. Practical implications: The study emphasises the need to involve diverse user groups and a multidisciplinary team in developing a dashboard for online hate speech. The context in which potential online hate is disseminated and the network of accounts distributing or interacting with that hate speech seems relevant for analysis by a part of the user groups of the dashboard. International Information Management Association
LINK
De hoge percentages van het aantal mensen dat te maken krijgt met online haat of bedreigingen, liegen er namelijk niet om. De sociale norm dat online discriminatie onacceptabel en niet oké is, lijkt nauwelijks aanwezig. Van augustus 2019 tot en met augustus 2022 heeft het project #DatMeenJeNiet van Movisie, Hogeschool Inholland en Diversity Media geprobeerd om een steentje bij te dragen aan het veranderen van deze norm. Dit is het eindrapport van de onderzoeken die zijn uitgevoerd binnen dit project.
DOCUMENT
Content moderation is commonly used by social media platforms to curb the spread of hateful content. Yet, little is known about how users perceive this practice and which factors may influence their perceptions. Publicly denouncing content moderation—for example, portraying it as a limitation to free speech or as a form of political targeting—may play an important role in this context. Evaluations of moderation may also depend on interpersonal mechanisms triggered by perceived user characteristics. In this study, we disentangle these different factors by examining how the gender, perceived similarity, and social influence of a user publicly complaining about a content-removal decision influence evaluations of moderation. In an experiment (n = 1,586) conducted in the United States, the Netherlands, and Portugal, participants witnessed the moderation of a hateful post, followed by a publicly posted complaint about moderation by the affected user. Evaluations of the fairness, legitimacy, and bias of the moderation decision were measured, as well as perceived similarity and social influence as mediators. The results indicate that arguments about freedom of speech significantly lower the perceived fairness of content moderation. Factors such as social influence of the moderated user impacted outcomes differently depending on the moderated user’s gender. We discuss implications of these findings for content-moderation practices.
DOCUMENT
Naast de grote voordelen van social media, zijn er ook risico’s. Jongeren moeten zich veilig kunnen voelen in het digitale domein. Daarom is het belangrijk dat ze leren wat de impact is van hatelijke, discriminerende en schadelijke berichten op social media en wat ze ertegen kunnen doen.Doel Doel van dit project is jongeren bewust maken van de negatieve effecten van online hate speech via video workshops en hen te leren om hate speech te herkennen en daar adequaat mee om te gaan. Resultaten Het project levert de volgende resultaten op: Lesstof en workshops over hate speech Een interactieve game over hate speech Een doorlopende leerlijn (praktijk – VWO, alle niveaus en leerjaren) over hate speech Looptijd 01 december 2019 - 30 juni 2022 Aanpak Na het uitvoeren van onderzoek naar online hate speech, wordt er lesmateriaal en een workshop ontwikkeld. Na het draaien van een pilot worden de workshops breed uitgerold bij in totaal zo’n 6000 leerlingen. Met behulp van learning analytics, observaties en interviews meten we het effect van de workshops. Cofinanciering Dit project wordt gefinancierd door het Ministerie van Justitie & Veiligheid.
Naast de grote voordelen van social media, zijn er ook risico’s. Jongeren moeten zich veilig kunnen voelen in het digitale domein. Daarom is het belangrijk dat ze leren wat de impact is van hatelijke, discriminerende en schadelijke berichten op social media en wat ze ertegen kunnen doen.
Binnen dit Europees project zal met samenwerkingspartners uit Nederland, België en Slowakije samengewerkt worden aan een systeem voor het detecteren van online hate speech in de verschillende Europese talen. Het project richt zich op het ontwikkelen en opzetten van een monitor van online hatespeech en desinformatie: de European Observatory of Online Hate . De inzichten worden verwerkt in informatie dashboards, rapportages en bijeenkomsten voor relevante stakeholders op het gebied van beleidzaken, veiligheid en sociaal werk.Doel Met dit project wordt een Europees onderzoekscentrum naar onlinehaatspraak en desinformatie opgezet: European Observatory of Online Hate (EOOH). De opgedane inzichten moeten experts helpen om onder andere online radicalisering vroegtijdig te detecteren in de 24 landstalen van de Europese Unie. Bij dit project wordt een netwerk aan experts opgebouwd om de observaties om te zette naar inzichten en concreet beleid. Resultaten Dit project richt zich op de volgende doelen: Inzicht in online verspreiding hate speech en desinformatie Versterken samenwerking en kennisuitwisseling met stakeholders in de praktijk in de publieke en private sector. Bewustwordingscampagnes i.h.b. gericht op jongeren ResultatenHet project heeft al geleid tot verschillende resultaten waaronder de volgende blogs: Facebook revelations and the fundamental problems of platform monopolies Moderation after the deed always comes too late Meer resultaten waaronder andere blogs en nieuwsbrieven zijn te vinden op: eooh.eu Looptijd 01 januari 2021 - 01 juli 2023 Aanpak Ontwikkelen van Explainabale AI technologie voor online hate speech detectie en monitoring en een lexicon in 24 EU talen. Bij de European Observatory of Online Hate (EOOH) worden meer dan 50 experts en organisaties betrokken, van AI onderzoekers, sociaal werk deskundigen, Europese politiediensten, mensenrechtenorganisaties tot beleidsmakers. Doorwerking van het onderzoek Inzichten in verspreiding en adequate counter narratieven en interventies voor online social werk onderwijs. Inzichten voor de beroepspraktijk voor AI onderzoek, sociaal werk deskundigen, Europese politiediensten, mensenrechtenorganisaties en beleidsmakers.
