Cloudflare revela firewall para modelos de IA

A Cloudflare revelou esta semana uma nova funcionalidade para a sua plataforma, que se apelida de “Firewall para IA”. Este novo serviço pretende ser uma camada de segurança focada para modelos LLM de IA.

Segundo a plataforma, este serviço trata-se de uma firewall WAF, que se foca em proteger os modelos LLM de possíveis abusos. Ao mesmo tempo, esta pode ainda identificar falhas e vulnerabilidades existentes nos modelos e nas plataformas usadas pelos mesmos.

Com este sistema, os gestores de modelos LLM podem aplicar sistemas de proteção para os mesmos, nomeadamente de rate limit para pedidos, e deteção de recolha de dados sensíveis. O sistema é ainda capaz de analisar os pedidos feitos pelos utilizadores ao modelo de LLM, analisando os mesmos para identificar quando estes se encontrem a tentar manipular o sistema ou recolher dados e realizar abusos.

A Firewall para IA vai funcionar de forma similar a uma WAF tradicional, onde cada pedido é analisado para identificar os que sejam considerados maliciosos. Além disso, este serviço encontra-se disponível não apenas para modelos nas infraestruturas da Cloudflare, mas também de terceiros.

Os interessados podem inscrever-se na lista de espera para obterem acesso.