IA do Slack pode divulgar dados sensíveis de utilizadores

O Slack é uma das muitas plataformas que tem vindo a integrar algumas novas funcionalidades voltadas para IA. No entanto, essas novidades podem estar agora na origem de uma possível falha, que pode permitir o acesso a dados sensíveis de utilizadores.

Um grupo de investigadores revelou ser possível usar o Slack AI de forma a obter informação sensível dos utilizadores através de pedidos bastante específicos. Esta plataforma de IA da Slack foi lançada em 2023, e rapidamente se tornou um foco da empresa para os seus avanços em IA.

A mesma pretende ajudar os utilizadores a criarem resumos e obterem informações rapidamente dos conteúdos dos canais da plataforma. Portanto, a IA precisa de aceder a dados relativamente extensos dos utilizadores e dos canais onde se encontram.

A empresa PromptArmor revelou, no entanto, que usando comandos bastante específicos, é possível enganar a IA da Slack para fornecer dados sensíveis de canais onde os utilizadores não se encontram e até de entidades completamente diferentes.

O ataque pode ainda permitir que sejam acedidos dados partilhados em diferentes locais, incluindo ficheiros enviados para os canais, que podem conter ainda mais informação privada.

Para explorar esta falha, os atacantes apenas necessitam de convencer um membro do canal do Slack a verificar para enviar os conteúdos de um ficheiro para o mesmo – por exemplo, um PDF – contendo um link especificamente criado para tal.

Com isto, a IA pode permitir aceder aos dados de outros locais, expondo informação dos mesmos.

Embora a Salesforce tenha confirmado que a falha foi corrigida para canais privados, não foi aplicada para canais públicos, tendo em conta que o acesso a mensagens nestes canais é algo que sempre será possível de realizar.