O projeto kNOwHATE, coordenado por Rita Guerra, investigadora do CIS-Iscte, divulgou resultados preliminares de uma análise detalhada sobre o discurso de ódio em plataformas digitais em Portugal. Com base em 24.739 comentários relativos a 88 vídeos no YouTube e 29.846 tweets extraídos a partir de 2.775 conversações extraídas do Twitter/X, os dados revelam padrões consistentes com outros estudos nacionais e internacionais.
Através de uma abordagem participativa, as entidades parceiras do projeto sugeriram vídeos do YT para análise que foram posteriormente utilizados para procurar conteúdos semelhantes através do sistema de recomendação do YouTube. Entre os critérios de seleção, a equipa do kNOwHATE salienta o facto de serem conteúdos de autores portugueses com potencial para gerar discurso de ódio contra comunidades-alvo, com pelo menos 100 comentários e 1.000 visualizações. Quanto ao X (antigo Twitter), foi utilizada uma abordagem lexical para procurar conteúdo potencialmente relevante e adotados alguns critérios de seleção (ex., o primeiro tweet estava geo-localizado em Portugal, publicação ocorrida entre 2021 e 2022).
Numa primeira fase, as análises dos milhares de comentários analisados e codificados por uma equipa de anotadores focaram-se em identificar a prevalência de discurso de ódio, direto e indireto, discurso ofensivo, e contradiscurso. Rita Guerra, coordenadora do projeto, explica as diferenças entre estes tipos de discurso: “O discurso de ódio direto difunde, incita, promove ou justifica explicitamente o ódio, a exclusão e/ou a violência/agressão contra um grupo social ou uma pessoa devido à sua pertença grupal; é um discurso explicitamente preconceituoso e inflamatório, que normalmente contém linguagem ofensiva, abusiva ou depreciativa. O discurso de ódio indireto faz exatamente a mesma coisa, mas neste caso a mensagem não é explícita, podendo ser velada ou mascarada através de uma diversidade de estratégias, como o humor, ironia, ou até elogios estereotípicos. Por estas razões, o seu significado tem de ser inferido. O contra-discurso é uma resposta direta ao discurso de ódio com o objetivo de o combater”.
Os dados preliminares do projeto indicam que, em ambas as redes, o discurso de ódio indireto foi mais prevalente do que o discurso de ódio direto nas diferentes comunidades analisadas. Tal como esperado, o discurso de ódio direto e indireto apresentaram características e expressões diferentes, por exemplo o discurso de ódio direto foi mais frequentemente expresso através da mobilização da ameaça e da desumanização das comunidades alvo, enquanto o discurso de ódio indireto mobilizou mais frequentemente estratégias de negação do ódio e de inversão de papéis. Foram ainda analisadas as emoções presentes nos diferentes tipos de discurso de ódio: no discurso de ódio direto o ódio foi a emoção mais frequente, seguido da raiva; já no discurso de ódio indireto o padrão foi o inverso, sendo a raiva a emoção mais prevalente, seguida do ódio.
De acordo com a equipa de investigação, estes resultados sugerem a existência de múltiplos "discursos de ódio" com características psicossociais e linguísticas diferenciadas, variando consoante as comunidades visadas. Por exemplo, a raiva foi mais prevalente no discurso de ódio contra as comunidades LGBTI+, e o ódio foi mais prevalente no discurso contra as comunidades Ciganas/Roma e Migrantes. Apesar destas nuances, há elementos comuns nos discursos de ódio contra todas estas comunidades, como por exemplo a utilização de estereótipos e a desumanização.
Numa nota mais positiva, nem tudo parece estar perdido. Em ambas as redes foi ainda analisado o contra-discurso, tendo este sido pouco frequente no Youtube mas destacando-se como o discurso mais prevalente no Twitter/X. No geral, os resultados mostram um padrão semelhante em ambas as redes, sendo o contradiscurso caracterizado maioritariamente pelo recurso a contra-estereótipos (ex., “Olá já procuraste alguma vez te informar com factos verídicos acerca dos subsídios declarados para a comunidade cigana? Penso que não mas tens vários sites que o podem provar a tua gigantesca burrice disfarçada de preconceito étnico. Se precisares até eu posso te mandar alguns”, à empatia (“Geralmente em vez de tentar explicar o q é o género ou sexo, prefiro ir só pelo argumento, deixem as pessoas ser o que lhes faz feliz, se não estiverem a magoar ninguém” e à referência a identidades inclusivas (“Somos a raça humana e temos de saber viver juntos neste mundo. Em vez de nos focarmos nas nossas diferenças, vamo-nos focar no que temos em Comum”).
No geral, os resultados obtidos com a anotação de dezenas de milhares de comentários e tweets sugerem claramente que a compreensão do discurso de ódio obriga a abordagens contextuais, culturalmente sensíveis, que considerem as nuances contextuais e linguísticas que por agora ainda escapam aos algoritmos. Por isso mesmo, estes dados são úteis para informar o desenvolvimento de algoritmos mais sensíveis a estas pistas contextuais e culturais. Parte da equipa do projeto trabalhou efetivamente em modelos computacionais que possam melhorar os algoritmos de deteção atuais. Rita Guerra está confiante que este projeto servirá como primeiro passo para melhorar a compreensão deste fenómeno complexo, que por sua vez poderá contribuir para uma melhoria na deteção automática do discurso de ódio online em Portugal, bem como para uma maior sensibilização sobre este fenómeno e as formas de o combater.
"Estes resultados preliminares destacam a complexidade e a variedade do discurso de ódio online. É crucial entender estas dinâmicas para desenvolver estratégias eficazes de combate ao ódio e promoção de um ambiente digital mais seguro e inclusivo.", explica a coordenadora do projeto. Para além de oferecerem uma visão integrada e culturalmente sensível sobre a prevalência e a natureza do discurso de ódio nas redes sociais, estes resultados do projeto kNOwHATE sublinham a importância de iniciativas de contradiscurso para mitigar os impactos negativos sobre as comunidades afetadas.
Estes e outros dados vão ser discutidos presencialmente no Iscte na Conferência Final no dia 9 de Julho de 2024. Sabe mais aqui
Financiado pela União Europeia
Financiado pela União Europeia. As visões e opiniões expressas são, no entanto, apenas do(s) autor(es) e não refletem necessariamente as da União Européia ou do Projeto Knowhate. Nem a União Europeia nem o Projeto Knowhate podem ser responsabilizados por eles.
Texto de Pedro Simão Mendes, comunicador de ciência do CIS-Iscte