A identificação de conteúdo de ódio melhora no Facebook, graças à inteligência artificial. 97% dos removidos foram detectados por sistemas automatizados antes que qualquer usuário os denunciasse.
Em relação a outros dois temas delicados, bullying e assédio sexual, a detecção graças à IA passou de 26% no Facebook no terceiro trimestre de 2020 para 49% no quarto trimestre, e no Instagram de 55% a 80%. Outra área que registou progressos com a IA é a forma como os sistemas funcionam em vários idiomas, mesmo nos mais falados, como o espanhol e o árabe: a quantidade de conteúdos de discurso de ódio removidos atingiu 26,9 milhões, em comparação com 22,1 no trimestre anterior.
“Continuamos lentamente a reabastecer nossa força de trabalho de revisão de conteúdo em todo o mundo”, explica Guy Rosen, vice-presidente de integridade do Facebook, “embora esperemos que esta área seja afetada pela Covid-19 até que uma vacina esteja amplamente disponível. Devido à capacidade limitada. , priorizamos o conteúdo mais prejudicial, como conteúdo de suicídio e automutilação, para revisão por nossas equipes.”
Para 2021, a empresa “pretende compartilhar métricas adicionais no Instagram e adicionar novas categorias de políticas no Facebook” e continuará “a otimizar tecnologias e esforços para manter conteúdo prejudicial fora dos aplicativos”.
