OpenAI confirma que grupos usaram ChatGPT para criar malware

A OpenAI confirmou ter encerrado cerca de 20 operadores, que se encontravam a usar o ChatGPT para a criação de malware. Estes grupos encontravam-se a usar contas dentro do ChatGPT para usarem as capacidades do mesmo, com comandos específicos, para criarem malware.

Embora fosse conhecido que ferramentas de IA eram usadas para criar malware, esta é a primeira confirmação oficial de que existem grupos focados em explorar estas ferramentas para a criação de atividades maliciosas.

Anteriormente, alguns investigadores de segurança indicavam que existiam indícios de malware criado com recurso a IA, mas não havia forma direta de comprovar tais alegações. No entanto, o recente relatório da OpenAI confirma que existem evidências claras de que as ferramentas estão a ser usadas para esse fim.

Um dos grupos que se encontra a usar o ChatGPT para criar malware poderá ser o “SweetSpecter”, um grupo sediado na China que foi inicialmente descoberto em Novembro de 2023.

Este grupo encontra-se a realizar ataques de phishing a alvos específicos, com campanhas criadas usando IA para o desenvolvimento de mensagens e de scripts maliciosos, muitos dos quais são anexados diretamente nas mensagens.

Este grupo terá ainda realizado várias tentativas de ataques até mesmo contra funcionários da OpenAI, na esperança de obter acesso interno da empresa.

Foi descoberto que vários membros dentro deste grupo encontram-se a usar o ChatGPT para as mais variadas tarefas, desde descobrir falhas existentes em software ativo no mercado, até mesmo a criar scripts potencialmente maliciosos, explorando comandos específicos para contornar os filtros da plataforma.

Outro grupo igualmente conhecido por usar o ChatGPT para estas práticas é o “CyberAv3ngers”, sediado em Israel. Este grupo é conhecido por usar o ChatGPT para igualmente tentar descobrir falhas em software comercialmente disponível, levando a que possam ser criados códigos para explorar as mesmas.

A OpenAI afirma que, dentro da sua investigação, todas as contas dos operadores identificados anteriormente foram removidas e bloqueadas da plataforma, para prevenir o abuso. Os dados das contas foram ainda fornecidos às autoridades competentes para posterior investigação.