Jovens detidos por criarem imagens explícitas de menores via IA

Dois jovens nos EUA, residentes em Miami, foram recentemente detidos pelas autoridades locais, depois de terem criado deepfakes com conteúdos explicito de algumas das suas colegas de escola, algumas das quais seriam menores de idade.

Os dois jovens terão usado ferramentas de IA para criar imagens explicitas de algumas das suas colegas, sem consentimento. Os jovens teriam entre 13 e 14 anos, sendo que as imagens foram criadas de colegas com entre 12 e 13 anos na mesma escola.

Este é o primeiro caso do género apresentado pelas autoridades da Flórida, que levou à identificação de suspeitos. Os mesmos, embora menores de idade, podem vir a ser sujeitos a sanções pela partilha das imagens explicitas em várias plataformas sociais e com outros colegas dentro da escola.

Nos EUA, este género de crime é considerado como sendo de terceiro grau, o mesmo que seria atribuído ao roubo de um carro, por exemplo. A partilha de conteúdos sem consentimento, incluindo de representações adulteradas por IA, constitui um crime desde 2022.

Embora o caso tenha sido único na cidade de Miami, não é o primeiro do género a ocorrer. A IA tem vindo a ser usada para criar imagens falsas em vários aspetos. Ainda de forma recente, imagens explicitas da cantora Taylor Swift começaram a surgir nas redes sociais, tendo sido criadas por IA com recurso, alegadamente, a ferramentas da Microsoft.