Base de Comentários de Discurso de Ódio contra Mulheres MINA-BR: da Concepção aos Ataques por Robôs

Favoritar este trabalho
Como citar esse trabalho?
Detalhes
  • Tipo de apresentação: Trabalho
  • Eixo temático: EXATAS
  • Palavras chaves: base de dados; discurso de ódio; misoginia;
  • 1 Unicamp
  • 2 Universidade Estadual de Campinas

Base de Comentários de Discurso de Ódio contra Mulheres MINA-BR: da Concepção aos Ataques por Robôs

HANNAH DE OLIVEIRA PLATH

UNICAMP

Resumo

As redes sociais criaram um espaço onde as pessoas podem se manifestar publicamente de forma anônima sem precisarem, tipicamente, se responsabilizarem por suas intervenções, tornando essas plataformas um ambiente propício à proliferação de discurso de ódio. O desenvolvimento de algoritmos capazes de detectar automaticamente esse tipo de discurso é importante para combater essa forma de violência e melhorar a regulamentação desses espaços. Este trabalho foca no discurso de ódio contra mulher e descreve o processo de construção da primeira base de dados de comentários extraídos da Internet em português brasileiro, rotulada por voluntários que analisaram a presença, ou não, de discurso de ódio, nos comentários selecionados. A base MINA-BR já tem viabilizado o treinamento e avaliação dos primeiros modelos classificadores de discurso de ódio, com 6002 comentários extraídos da Internet, dos quais 2135 já foram rotulados e 16,26\% foram classificados como discurso de ódio. O artigo descreve a metodologia de construção dessa base desde a sua concepção até um ataque por bots, ou robôs, sofrido pelo projeto durante a fase de rotulação da base.

Apoio/Financiamento da Pesquisa: PIBIC/CNPq

Questões (3 tópicos)

Compartilhe suas ideias ou dúvidas com os autores!

Sabia que o maior estímulo no desenvolvimento científico e cultural é a curiosidade? Deixe seus questionamentos ou sugestões para o autor!

Faça login para interagir

Tem uma dúvida ou sugestão? Compartilhe seu feedback com os autores!

Autor

Paula Dornhofer Paro Costa

Olá Vitoria, obrigada pelo interesse. Você também é da área de Computação?

Autor

HANNAH DE OLIVEIRA PLATH

Muito obrigada pelo comentário! Fico muito feliz que você tenha se interessado pela pesquisa. Se vocês tiver qualquer dúvida, sugestão ou se apenas quiser saber mais sobre o projeto pode me chamar :) 

VITORIA VENTURA

Sou da Geologia, mas me interesso sobre o assunto. No começo do ano havia lido bastante sobre a Bia, a inteligência artificial do Bradesco que responde as mensagens de assédio. Ver o projeto me ajudou a entender como podem ter sido reconhecidas e classificadas quais as mensagens de assédio. 

Autor

HANNAH DE OLIVEIRA PLATH

Olá, Vinicius!

Fico feliz que você tenha gostado do projeto e agradeço pelo interesse.

Para treinar nossos modelos, nós utilizamos algoritmos de machine learning e técnicas de representação de texto típicos da área de NLP. Para representar o texto, por exemplo, usamos o modelo de Bag of Words e para seu treinamento, utilizamos algoritmos clássicos da área como SVM e Random Forest e também testamos alguns algoritmos mais modernos como o BERT.

Vinicius Jameli

Entendi!! Linguagem natural é algo realmente complicado de lidar, e testar diferentes métodos é importantíssimo.

Obrigado pela atenção, Hannah. Abraços \o/

Autor

HANNAH DE OLIVEIRA PLATH

Muito obrigada pelo interesse!

No momento estamos acabando de rotular a base de dados e não temos ainda planos de expandir o banco para outras redes.