Apple remove da App Store aplicação de IA para criar fotos explícitas

Apple remove da App Store aplicação de IA para criar fotos explícitas

Embora a Apple tenha rigorosos padrões para as apps que são aceites na App Store, de tempos a tempos ainda existem algumas que conseguem contornar as mesmas e acabam por ser publicadas.

Foi o exemplo de uma recente app descoberta na plataforma da Apple. De acordo com o portal 404 Media, a Apple removeu da sua loja de aplicações uma aplicação, que estaria a usar Inteligência Artificial para criar fotos explicitas. Esta aplicação tinha a capacidade de usar IA para criar deepfakes de fotos dos utilizadores – “nudes”.

A aplicação estaria disponível na App Store faz algumas semanas, sendo que a Apple apenas tomou medidas na mesma depois da fonte ter notificado sobre a existência da app, e de várias campanhas de publicidade onde esta se encontrava a ser publicitada.

A app tinha várias campanhas de publicidade que se encontravam a ser distribuídas sobretudo no Instagram, e que direcionavam diretamente para a página na App Store, onde os utilizadores poderiam instalar a mesma.

Embora a Apple tenha removido esta aplicação em particular, vários analistas apontam que a plataforma da empresa encontra-se a ser cada vez mais o alvo de aplicações nocivas ou contra os termos do serviço que se encontram a ser enviadas para a mesma.