Proofpoint lança solução de segurança para IA

A Proofpoint anunciou uma nova solução de segurança orientada para Inteligência Artificial (IA), focada na proteção de agentes autónomos e na governação do uso de IA nas organizações.

Designada Proofpoint AI Security, a plataforma combina modelos de deteção baseados em intenção com pontos de controlo distribuídos por endpoints, browsers e ligações MCP, permitindo monitorizar e controlar interações entre humanos e agentes de IA.

A solução assenta no novo Agent Integrity Framework, que define princípios para garantir que os agentes de IA operam dentro dos limites do seu propósito, permissões e comportamento esperado. O modelo inclui cinco pilares: alinhamento de intenção, identidade e atribuição, consistência comportamental, auditabilidade e transparência operacional.

Segundo a empresa, a adoção crescente de agentes autónomos (capazes de aceder a sistemas, executar código e automatizar workflows) está a introduzir novos riscos, como escalada de privilégios e ataques de prompt injection sem interação do utilizador.

A Proofpoint indica que as ferramentas de segurança tradicionais não conseguem avaliar o contexto semântico das interações de IA, limitando a capacidade de identificar comportamentos desalinhados com a intenção original. A nova abordagem propõe uma verificação contínua baseada em intenção, analisando pedidos, respostas e fluxos de dados em tempo real.

A solução permite às organizações identificar ferramentas de IA utilizadas, sejam ou não autorizadas, observar interações, aplicar controlos de acesso e implementar políticas durante a execução de operações.

Com base na tecnologia da Acuvity, recentemente adquirida, a plataforma responde a lacunas de governação identificadas no mercado. Dados da empresa indicam que 70% das organizações não têm modelos otimizados de governação de IA e que 50% antecipam perdas de dados associadas ao uso de IA nos próximos 12 meses.

O Agent Integrity Framework inclui ainda um modelo de maturidade em cinco fases, desde a descoberta até à aplicação de políticas em runtime, permitindo uma implementação faseada sem necessidade de substituir a arquitetura de segurança existente.

A Proofpoint posiciona esta abordagem como uma resposta à evolução dos ambientes de trabalho baseados em agentes (agentic workspace), onde humanos e sistemas de IA partilham responsabilidades operacionais e riscos associados.