Autorização de Agentes de IA

A maioria dos programas de segurança trata o acesso como um momento pontual e não como um processo contínuo. Verifica-se uma credencial, abre-se a sessão e assume-se que o ambiente é seguro. Esta premissa funciona para utilizadores humanos, mas não para agentes de IA que herdam acessos, operam de forma autónoma e sem supervisão humana permanente.

O Mythos demonstrou isto em grande escala. Um sistema de IA capaz de desenvolver autonomamente exploits funcionais para vulnerabilidades que resistiram a décadas de revisão humana opera de forma muito semelhante a um agente comprometido. Possui velocidade, autonomia e acesso herdado sem qualquer supervisão. A Cloud Security Alliance classificou os agentes de IA como uma superfície de ataque crítica precisamente por este motivo.

Os agentes operam com credenciais de utilizadores ou contas de serviço, herdando privilégios que não foram concebidos para a tarefa que executam. O resultado é acesso permanente a dados privilegiados e permissões que nunca lhes foram atribuídas explicitamente. Os controlos de acesso tradicionais não foram concebidos para lidar com este cenário.

Para compreender porquê, é necessário distinguir dois: autenticação e autorização.

A autenticação não é autorização

A autenticação confirma a identidade de um agente no momento da ligação. A sua função termina aí. A autorização determina o que esse agente pode efetivamente fazer durante a sessão. Sem autorização, um agente autenticado opera com os privilégios herdados, sem qualquer controlo, durante toda a duração da sessão. É aqui que reside o risco.

A autorização em tempo de execução significa que cada ação do agente é continuamente avaliada com base na sua identidade, nos recursos disponíveis e no contexto do pedido. O acesso é limitado apenas ao que a tarefa exige. Cada ação privilegiada é analisada quando ocorre, segundo políticas definidas por pessoas e aplicadas automaticamente a cada ação do agente, sem necessidade de intervenção humana durante a execução.

Esta distinção é fundamental porque os agentes não são determinísticos. Ao contrário de um processo automatizado que executa sempre os mesmos passos pela mesma ordem, o comportamento de um agente varia consoante o contexto e as instruções recebidas. Uma ação adequada numa sessão pode ser inadequada na seguinte. As revisões estáticas de acesso não conseguem acompanhar esta variabilidade. A autorização em tempo de execução consegue.

É na sessão que o controlo é exercido

Saber que existe um agente e compreender os riscos que representa são apenas pontos de partida. Nenhum destes fatores impede, por si só, que um agente aceda a informação que não deveria. O controlo tem de ocorrer ao nível da sessão e de forma contínua.

A maioria das organizações consegue indicar que um agente se ligou ao sistema. Porém, poucas conseguem explicar com precisão o que fez a seguir. É nesta lacuna que a aplicação de políticas em tempo real assume maior importância.

Cada ação realizada por um agente é avaliada de acordo com a política que a regula. Se a ação não estiver em conformidade, a resposta é imediata. Não é gerado um alerta para análise posterior. A ação é bloqueada antes de ser concluída.

A autorização controla aquilo que o agente faz. A gravação da sessão comprova-o.

Como é realmente a responsabilização

Os responsáveis pela segurança são cada vez mais chamados a responder pelas ações dos seus agentes de IA. É uma exigência legítima que, atualmente, muitas organizações ainda não conseguem cumprir.

É necessária evidência. Cada sessão é monitorizada. Cada ação é registada.

A pressão regulatória em torno da responsabilização da IA está a acelerar. Os agentes de IA não vão desaparecer. A verdadeira questão é saber se o programa de segurança que os governa foi concebido para o tipo de identidade que estes agentes representam.

Conteúdo co-produzido pela MediaNext e pela Ignition