Facebook: um sistema de reportar conteúdos ilícitos… que não funciona

Para quem utiliza o Facebook, certamente que já deverá ter visto ou recebido mensagens de contas aparentemente falsas, com ligações para sites suspeitos ou conteúdos que são claramente spam ou maliciosos.

Este género de esquemas tem vindo a aumentar drasticamente nos últimos meses, apesar dos esforços para o Facebook controlar os mesmos. No entanto, não será de estranhar que estes conteúdos aumentem quando a falha se encontra… no próprio Facebook.

O Facebook fornece formas de os utilizadores da plataforma reportarem conteúdos que são considerados uma violação dos Termos de Serviço da rede social, ou que possam apresentar-se como sendo potencialmente prejudiciais. No entanto, existe um claro problema sobre como este sistema, e igualmente os moderadores da plataforma, aparentam estar a tratar os conteúdos reportados.

Em casos que, de forma clara, são uma visível violação dos termos de serviço do Facebook, por muito que os mesmos conteúdos sejam reportados, a rede social aparenta encontrar-se incapaz de identificar os mesmos como violando os seus próprios termos.

Um dos casos que o TugaTech confirmou demonstra como este sistema de reportar conteúdos se encontra, atualmente, com graves problemas.

Recentemente um dos nossos utilizadores recebeu uma mensagem de spam a partir do Messenger, enviada por um perfil que possui todos os traços de ser uma conta falsa.

A conta em questão, sobre o nome de “Raylan”, tinha apenas duas imagens e sem qualquer conteúdo na mesma, sendo que a imagem de perfil apresenta uma pessoa no que é considerado, pelos termos do Facebook, como “nudez”.

Esta imagem encontra-se como uma imagem de perfil, e como tal, visível por qualquer utilizador que receba uma mensagem da conta em questão, ou que a pesquise diretamente pela plataforma. E, não será necessário indicar, que se trata de uma imagem que não é de todo permitida na rede social segundo os termos da mesma.

Usando os próprios meios de alerta da rede social para o conteúdo em questão, foi feito o pedido de análise sobre uma possível violação dos Termos de Serviço do Facebook, no que é classificado como um conteúdo de “Nudez”.

No entanto, apesar de o conteúdo ser claramente uma imagem proibida de se encontrar na rede social, a resposta da plataforma encontra-se longe de ser perfeita. Na revisão realizada sobre a imagem, o Facebook alega que o conteúdo não viola os Padrões da Comunidade.

Não poderemos indicar se o conteúdo reportado foi analisado por um moderador humano ou apenas o sistema automático da rede social. No entanto, é claro que a imagem reportada não se encontra dentro dos padrões da rede social. Este é um dos pontos exatos que se encontram nesses padrões:

Dando o benefício da dúvida, sobre a justificação apresentada pela rede social, foi feito um pedido de revisão do caso. Este pedido pode ser feito caso os utilizadores considerem que a análise foi incorreta ou quando existe necessidade de uma análise mais aprofundada.

No entanto, mesmo feito este pedido secundário para reanalisar o caso, a rede social volta a indicar que o conteúdo não viola nenhum dos termos da plataforma. Segundo a mensagem da rede social, “Voltámos a rever a foto e confirmámos que não desrespeita os nossos Padrões da Comunidade, inclusive sobre nudez e atividade sexual.”

Os Padrões da Comunidade do Facebook demonstram claramente como imagens com conteúdos de nudez explicita ou de atividade sexual direta são uma violação. No entanto, os sistemas de moderação consideram que esta imagem, claramente visível como sendo contra estes padrões, não viola os termos.

O mais complicado desta situação encontra-se em vários aspetos. Primeiro, o utilizador quando reporta um conteúdo como potencialmente infrator das regras, espera que a rede social aja em conformidade e análise a situação. Nem todos os casos de análise são tão lineares, e obviamente existem situações onde o conteúdo necessita de ser revisto com bastante pormenor.

No entanto, quando um perfil apresenta imagens de uma pessoa a expor-se sobre nudez completa – acompanhando ainda o facto de ser uma conta nova, sem atividade, e onde o único objetivo passa por ser usada para envio de mensagens de spam na rede social – seria um caso consideravelmente simples para o sistema de moderação da rede social, o qual falhou na sua totalidade.

Para quem reporta estes conteúdos, existe uma séria quebra de confiança na plataforma que, por várias ocasiões, se apelida como estando a investir consideravelmente na moderação de conteúdos, e falha em moderar algo básico como uma imagem de nudez explicita.

O caso agrava-se ainda mais com o facto que, devido à situação ter sido negada em duas revisões, o utilizador fica impedido de voltar a reportar esse conteúdo. Ou seja, tanto a imagem permanece disponível para todos na rede social, em violação clara dos termos da plataforma, como também a conta permanece ativa e funcional, mantendo as suas atividades de envio de mensagens de spam para outros utilizadores – e que podem ter consequências mais graves para quem acabe caindo no esquema que é apresentado.

Na nossa análise, podemos dizer que o sistema do Facebook possui graves falhas no processo de moderação, que estão a tornar a plataforma não apenas um centro atrativo para atividades ilícitas, mas também perigosa para os utilizadores em geral, que estão expostos a estes conteúdos. E a rede social que deveria proteger os utilizadores desta situação, encontra-se a fazer pouco ou nada para tal no final, como é o exemplo da situação anterior.

Este caso certamente não é único. No passado, tivemos vários utilizadores que reportaram ao TugaTech situações similares, onde conteúdos claramente em violação dos termos da plataforma são simplesmente considerados como “seguros” pela moderação da plataforma, e ainda permanecem acessíveis na mesma durante meses (ou anos).

Reportar conteúdos que violem os termos do Facebook é sem dúvida importante, e aconselhado de se realizar caso encontre algum. Mas cabe ao Facebook melhorar a sua plataforma de análise – e nisso, nenhum utilizador poderá ajudar.