Na terça-feira (12/05), o Facebook anunciou medidas na detecção de memes “de ódio” presentes na plataforma.

Um termo criado pelo escritor Richard Dawkins, o meme era inicialmente considerado como uma simples ideia e conceito. Atualmente, eles são conhecidos de forma mais específica como ideias virais, difundidas através da internet e redes sociais, na forma de imagens combinadas a textos ou vídeos. Apesar de muitos deles serem uma ferramenta de humor, expressão, e até mesmo marketing, muitos memes são utilizados na propagação de discursos de ódio e perpetuação de preconceitos.

Qual é a real necessidade de analisar conteúdo online?

A partir dessa reflexão, é natural que surja a questão: “Qual é a real necessidade de analisar conteúdo online?”, e a resposta é simples. O próprio Facebook entendeu essa necessidade após os ataques a duas mesquitas na Nova Zelândia, que foram transmitidos ao vivo pelos atiradores a partir da rede social. 

Desde o assassinato de pelo menos 49 fiéis nos dois atentados, governos e redes sociais como o Facebook, entenderam a necessidade de se analisar o conteúdo online, banir e interromper qualquer comportamento de ódio organizado. Há também criminosos internautas que cometem fraudes, roubando dados bancários e pessoais de consumidores. Por isso, indivíduos precisam estar atentos aos sites que acessam e sempre buscar a ajuda de sites confiáveis para jogadores brasileiros, no caso de estarmos falando de sites de entretenimento, ou mesmo antes de comprar um produto através da internet, caso a plataforma seja ecommerce, verificar sempre a opinião de outros usuários.

Já com os memes de ódio, a medida do Facebook é outra. Após serem identificados na plataforma, o meme de ódio será removido. Somente nos três primeiros meses de 2020, o Facebook removeu aproximadamente 9,6 milhões de postagens por violarem políticas de “discurso de ódio”. 4,7 milhões dessas peças de conteúdo foram ligadas ao ódio organizado.

Dificuldades na detecção de memes de ódio

Segundo o Facebook, a maior dificuldade na detecção dos memes de ódio reside no fato de que eles são uma combinação de imagens com texto em diferentes linguagens, ou seja, são um tipo de discurso de ódio multimodal, mais difícil de ser identificado pelos algoritmos.

De acordo com a professora da Universidade Estadual do Kansas Heather Woods, pesquisadora na área de conteúdo extremista e memes, “os memes são notoriamente complexos, não apenas porque são multimodais, adicionando imagem e texto, como observa o Facebook, mas porque são contextuais. [...] Imagino que as nuances e a especificidade contextual dos memes continuem sendo um desafio para o Facebook e outras plataformas que buscam eliminar o discurso de ódio”.

Apesar disso, a rede social vem juntando esforços e produzindo iniciativas para identificar e interromper grande parte do memes de ódio.

Como os memes de ódio serão identificados pelo Facebook

O principal método de identificação dos chamados memes de ódio será feito a partir de uma inteligência artificial criada pelo Facebook, ligada a um banco de dados de mais de 10.000 memes já existentes.

Para obter um maior escopo nessa iniciativa, a maior rede social mundial decidiu compartilhar o banco de dados com pesquisadores em Inteligência Artificial, promovendo um “desafio de memes de ódio” com o objetivo de incentivar o desenvolvimento de algoritmos mais desenvolvidos e avançados, que sejam capazes de encontrar esse tipo de mídia. O prêmio total do desafio chega a US$ 100.000.

Com a atual crise no mundo que afeta até mesmo o entretenimento esportivo, como é o caso do futebol no Brasil que não tem previsão de retorno, as pessoas estão cada vez mais dentro de casa. Por conta disso, os casos de memes de ódio vêm aumentando de forma considerável. Porém apesar da má notícia o aumento dos memes favorece o banco de dados e acelera as pesquisas feitas por profissionais de IA.

De acordo com o vice-presidente de integridade do Facebook, Guy Rosen, “[com a IA], somos capazes de encontrar mais conteúdo e agora podemos detectar quase 90% destas mensagens e as removemos antes que alguém as tenha reportado para nós”