Suspeito detido nos EUA por usar IA para criar imagens abusivas de menores

As autoridades dos EUA realizaram, durante esta semana, a primeira detenção de um suspeito de ter criado conteúdos abusivos de menores usando IA. A detenção foi realizada em Wisconsin, durante a semana passada, sendo o mesmo suspeito de ter usado tecnologias de IA para criar conteúdos abusivos de menores de idade.

Este é um dos primeiros casos registados de um suspeito ter sido detido pela criação e partilha de conteúdos abusivos associados a menores, que foram criados usando tecnologias de IA. A ideia das autoridades será usar este caso como um exemplo para o futuro, de forma que conteúdos abusivos de menores criados por IA sejam considerados ilegais, mesmo que as crianças não estejam diretamente envolvidas.

O suspeito, Steven Anderegg of Holmen, de 42 anos, usou uma versão open source do modelo Stable Diffusion para criar as imagens, colocando menores de idade em várias poses sexuais. Estes conteúdos eram posteriormente distribuídos por vários meios para outros utilizadores.

As autoridades afirmam que as imagens representavam crianças menores de idade em vários atos sexuais ou explícitos.

A maioria das plataformas de criação de imagens por IA contam com mecanismos para evitar que sejam criados conteúdos abusivos, pelo que o suspeito terá usado uma versão local do modelo, que estaria a correr em sistemas do mesmo, sem estes “filtros”.

Se considerado culpado, Anderegg pode enfrentar até 70 anos de prisão. Este vai ser presente ao tribunal a 22 de Maio. Este caso pode, futuramente, ser usado para acusações similares, sendo que é o primeiro do género a surgir com conteúdos criados por IA.