Meta revela nova plataforma para travar partilha de conteúdos íntimos de menores na Internet

A internet tem vindo a permitir que muitos conteúdos sejam partilhados, por vezes sem que tal fosse o pretendido. E no que respeita a conteúdos intimos, a experiência pode ser assustadora e bastante prejudicial, ainda mais para menores de idade.

Com isto em mente, a Meta revelou ter criado a Take it Down, uma nova plataforma da NCMEC (National Center for Missing & Exploited Children), focada em prevenir a partilha de imagens intimas de jovens na Internet. Esta plataforma vai ser criada com o Instagram e Facebook como membros fundadores, e terá como objetivo ajudar os menores de idade a removerem conteúdos potencialmente prejudiciais e sensíveis da internet.

Se um jovem tem uma imagem íntima sua que é vista por outras pessoas, a experiência pode ser traumática se for partilhada sem o seu consentimento. É ainda pior quando alguém tenta utilizar essas imagens para extorquir fotografias adicionais, contacto sexual ou dinheiro – conhecido como sextortion.  

O Take It Down permite que os jovens voltem a ter o controlo das suas imagens íntimas. As pessoas podem aceder a TakeItDown.NCMEC.org e seguir as instruções para submeter um caso e a plataforma irá pesquisar proativamente por imagens íntimas suas nas aplicações participantes. O Take It Down atribui um valor exclusivo de função hash – um código numérico – à imagem ou ao vídeo de forma privada e direta a partir do seu próprio dispositivo. Depois de enviar o valor hash ao NCMEC, empresas como a Meta podem usar esses valores para pesquisar e impedir que o conteúdo seja publicado nas suas aplicações no futuro.

Construído de forma a respeitar a privacidade e segurança dos dados dos jovens, o Take It Down permite que as pessoas enviem apenas um valor de função hash – em vez da imagem ou vídeo íntimo em si – ao NCMEC. Este processo – hashing – transforma imagens ou vídeos num formato codificado que não pode voltar a ser visualizado, produzindo valores que são impressões digitais anónimas e seguras.

O Take It Down baseia-se no sucesso de plataformas como o StopNCII, uma plataforma desenvolvida com a South West Grid for Learning (SWGfL) e mais de 70 ONGs em todo o mundo, que ajuda os adultos a impedirem a disseminação das suas imagens íntimas online, uma prática conhecida de “revenge porn”.

A Meta não permite, nas suas aplicações, o conteúdo ou comportamento que explore jovens, incluindo a publicação de imagens íntimas ou atividades de sextortion. A empresa trabalha proativamente para prevenir e impedir a partilha desse conteúdo e interações inapropriadas entre jovens e contas suspeitas que tentam aproveitar-se deles. Por exemplo, por defeito, a Meta coloca os adolescentes nas configurações de privacidade mais protetoras no Facebook e no Instagram, trabalhando para impedir que adultos suspeitos encontrem e se conectem com adolescentes nessas aplicações e educa os adolescentes sobre os perigos de se envolverem online com adultos que não conhecem.

No Instagram, a empresa introduziu recentemente algumas novas funcionalidades para tornar ainda mais difícil a interação de adultos suspeitos com adolescentes. Agora, esses adultos já não podem ver as contas dos adolescentes ao percorrerem a lista de pessoas que gostaram de uma determinada publicação, nem os adolescentes irão ver esses adultos suspeitos na lista de ‘gostos’. Além disso, quando alguém comenta na publicação de um adolescente ou o identifica em outra publicação, o adolescente receberá uma notificação para rever as suas configurações de privacidade e terá a opção de impedir que as pessoas interajam com ele através de comentários ou marcações.

Foram desenvolvidas mais de 30 ferramentas para apoiar a segurança de adolescentes e famílias nas aplicações da Meta, incluindo ferramentas de supervisão que permitem aos pais limitar a quantidade de tempo que os seus filhos passam no Instagram e Meta Quest e tecnologia de verificação de idade que ajuda os adolescentes a experiências apropriadas online.

A Meta também disponibiliza recursos para adolescentes que os informam sobre os potenciais danos de tirar fotos íntimas e sobre as formas de encontrar ajuda se quiserem impedir a disseminação desse conteúdo. Também são desenvolvidos recursos para pais e responsáveis para que eles possam conversar com os seus filhos adolescentes sobre como se proteger online, e que podem ser encontrados no Centro de Segurança e Centro Familiar.