Anúncios

O anunciou nesta semana que está implementando uma nova ferramenta de denúncia contra pornografia de vingança, testada inicialmente na , que vai permitir aos usuários enviar fotos que não queiram que sejam compartilhadas diretamente para o Faebook. A empresa diz que sua equipe de operações de comunidade vai usar um sistema de marcação para evitar que a foto seja compartilhada em Facebook, Messenger ou . Mas antes que uma imagem seja marcada, suas fotos íntimas serão vistas por alguém do Facebook.

Um porta-voz da rede social confirmou ao Daily Beast nesta quinta-feira (9) que um funcionário precisará primeiro ver a versão não-censurada da imagem para garantir que o conteúdo publicado se encaixe na definição de pornografia de vingança. Além disso, as imagens serão borradas e armazenadas pelo Facebook, estando “disponível para um pequeno número de pessoas”, segundo o Daily Beast.

“A foto precisa ser examinada por um humano antes para garantirem que seja censurável segundo a política”, disse o pesquisador de Nicholas Weaver, ao Gizmodo, por email. “De outra forma, alguém poderia publicar a famosa foto do ‘Rebelde Desconhecido‘, chamá-la de pornografia de vingança e, assim, censurá-la.” Quando perguntado sobre como uma foto dessas seria para um empregado do Facebook quando um usuário a enviasse, Weaver disse que, para determinar se uma imagem é censurável ou não, “ela precisa ser claramente visível”. Só depois disso é que ela se tornará não identificável.

Embora dar aos usuários o poder de se antecipar a abusadores ao preventivamente fazer upload de uma mídia que não queiram ver compartilhada online não seja inerentemente ruim, exigir que um estranho examine o conteúdo sem censura deixa para muita melhoria. Primeiramente, o sistema do Facebook ainda exige que você confie demais em um funcionário ou contratado desconhecido da empresa. E que você não se importe de que estejam olhando fotos que, de outra maneira, você não gostaria que fossem vistas.

Essa política coloca a responsabilidade de prevenir abuso antecipadamente nos usuários, além de sinalizar que o Facebook não confia completamente em seus amados algoritmos para fazer o serviço. A empresa exaltou seu uso de aprendizado de máquina como uma forma de lidar com assédio, notícias falsas, entre outras coisas. Mas, aparentemente, a companhia ainda não tem um algoritmo suficientemente sofisticado para determinar se uma foto ou vídeo pode ser considerado pornografia de vingança.