A ascensão dos sistemas autônomos baseados em Inteligência Artificial, capazes de raciocinar, tomar decisões e executar ações de forma independente, introduz uma nova e complexa categoria de riscos de segurança. As abordagens tradicionais de controle em nível de aplicação simplesmente não foram projetadas para conter as ameaças que acompanham os agentes de IA em produção. Para lidar com essa realidade, uma arquitetura de defesa em profundidade, que abrange infraestrutura, rede e plano de controle, torna-se não apenas desejável, mas absolutamente essencial.

Oscar Wahlberg, diretor sênior de gerenciamento de produtos da Nutanix, enfatiza que tratar a segurança de agentes de IA como um problema singular resulta em arquiteturas incompletas. “As barreiras para capturar um prompt malicioso não impedirão que um agente ‘alucine’ e faça algo que nunca deveria ter feito, como apagar bancos de dados acidentalmente ou vazar dados sensíveis com uma credencial que lhe foi concedida, mas que ele usa para algo totalmente diferente”, explica Wahlberg. “Esse é o problema central à medida que as empresas movem os agentes autônomos da fase de experimentação para a produção.”

Por Que a Segurança de Agentes de IA Exige Uma Nova Abordagem?

Ao conceder privilégios de execução a um sistema de agente de IA através de um data center, a postura de segurança precisa escalar para uma arquitetura de defesa em profundidade. Esta abordagem se estende por toda a infraestrutura, incluindo armazenamento, computação, rede e um plano de controle que governa as ações dos agentes. Cada uma dessas camadas deve abordar uma categoria distinta de risco, em vez de simplesmente duplicar os mesmos controles em toda a pilha tecnológica.

A complexidade inerente aos agentes de IA reside na sua capacidade de autonomia. Eles podem interagir com múltiplos sistemas, APIs e dados, gerando um volume dinâmico de comunicação que as configurações de rede estáticas e os controles de segurança de aplicações legados não conseguem gerenciar eficientemente. Falhas em uma única camada podem ter consequências catastróficas, desde vazamento de dados até manipulação de modelos ou comprometimento da cadeia de suprimentos.

Nenhum controle de segurança ou fornecedor único pode oferecer essa proteção por conta própria. A verdadeira força da defesa em profundidade reside na forma como essas camadas trabalham em conjunto, garantindo que mesmo que uma falha ocorra em um ponto, outras camadas estejam prontas para mitigar o risco. Ao dividir as responsabilidades em toda a pilha e aderir à segmentação Zero Trust, as organizações podem criar um arcabouço de segurança robusto que aprimora sua postura geral.

As Três Camadas Essenciais para a Segurança de Agentes de IA

Compreender quais riscos pertencem a cada camada é o que transforma o princípio da defesa em profundidade em um arcabouço de segurança prático. Vamos explorar as três camadas, cada uma com sua responsabilidade distinta na proteção de sistemas de Inteligência Artificial autônomos.

1. A Camada de Infraestrutura: Estabelecendo a Raiz de Confiança

A responsabilidade fundamental da camada de infraestrutura é estabelecer uma raiz de confiança que responda a uma pergunta simples: quem está operando no ambiente? Essa identidade confiável se torna o pré-requisito para cada controle de segurança acima dela. Antes que uma organização possa confiar no que um agente de IA faz, ela precisa primeiro confiar na integridade do ambiente onde o agente executa suas operações.

Quando um agente solicita permissão para executar uma operação, o sistema deve ser capaz de verificar se a solicitação veio do agente legítimo — e não de algo que o esteja personificando. Esse tipo de garantia depende de tecnologias que enraízam a confiança no próprio hardware, incluindo:

Atestação de Plataforma: Verifica a integridade do hardware e software de um sistema.Computação Confidencial (Confidential Computing): Protege dados em uso, isolando-os de todo o sistema operacional, hypervisor e outros softwares.Inicialização Segura (Secure Boot): Garante que apenas software confiável seja carregado durante o processo de inicialização do sistema.

Juntamente com controles que previnem acesso não autorizado dentro e fora de um servidor, essa camada é crucial. Para indústrias regulamentadas, como serviços financeiros, ela oferece a capacidade de isolar cargas de trabalho de produção de IA, garantindo que nem o agente nem o ambiente possam operar fora de seu escopo atribuído. Isso mitiga riscos como adulteração de modelo e tempo de execução, comprometimento da cadeia de suprimentos e acesso não autorizado a cargas de trabalho sensíveis de IA.

2. A Camada de Rede: Governando a Comunicação dos Agentes de IA

Quando os agentes começam a se comunicar com outros agentes, APIs, aplicações e sistemas empresariais, eles geram um nível de concorrência e comunicação dinâmica que as configurações de rede estáticas tradicionais nunca foram projetadas para lidar. Um agente configurado para chamar APIs, consultar fontes de dados e iniciar agentes adicionais sem restrições cria uma teia expansiva de tráfego leste-oeste que se torna muito difícil de analisar. Essa complexidade pode facilmente mascarar movimento lateral ou exfiltração de dados se as camadas de segurança de rede corretas não estiverem implementadas.

“Devemos tratar os agentes de IA como uma nova classe de identidade de rede e garantir que um agente só possa se comunicar com outros agentes ou fontes de dados onde isso é explicitamente permitido”, afirma Wahlberg. “Isso significa afastar-se de regras estáticas rígidas em direção à aplicação dinâmica de políticas.”

A solução da Nutanix para este desafio é o Agent Gateway, parte da solução Nutanix Agentic AI. Trata-se de uma camada unificada e governada, projetada para fornecer controle de custos e recursos de governança para ajudar a gerenciar usuários de agentes autônomos. Em conjunto com agentes baseados na segmentação Zero Trust e usando recursos como o Nutanix Flow para micro-segmentação — e integrando-se com fornecedores de rede, incluindo sua integração na Cisco Secure AI Factory — o Agent Gateway ajuda as empresas a governar as interações entre agentes, modelos, fontes de dados e aplicações empresariais.

A camada de rede governa o movimento lateral, a exfiltração de dados e controla as interações de rede do agente. Um arcabouço Zero Trust, com acesso bloqueado por padrão e monitoramento escalável de interações, é fundamental para agentes, pois eles podem exibir comportamentos não confiáveis. A integração do software Nutanix com os servidores Cisco UCS e Cisco AI PODs oferece a infraestrutura física completa (computação, armazenamento e rede) sobre a qual a fábrica de IA opera.

3. A Camada de Plano de Controle: Definindo o Que Agentes de IA Podem Fazer

A camada de plano de controle é o “cérebro” da operação, fornecendo um ponto central para gerenciar as permissões dos agentes, o acesso a ferramentas, o consumo de recursos e a visibilidade do tempo de execução. Esta é a camada onde as políticas granulares são aplicadas para definir exatamente o escopo de atuação de cada agente de IA. Ela garante que um agente só possa executar ações para as quais foi explicitamente autorizado, utilizando apenas os recursos e ferramentas necessários para sua tarefa.

Ao consolidar a gestão e o monitoramento em um único plano, as organizações obtêm uma visão holística e controle preciso sobre o comportamento dos agentes. Isso é crucial para prevenir abusos de privilégios, identificar atividades anômalas e garantir a conformidade com as políticas de segurança e regulamentações. Em suma, o plano de controle é o guardião que assegura que os agentes de IA operem dentro dos limites definidos, protegendo a empresa contra usos indevidos e falhas inesperadas.

Impacto e Próximos Passos para a Segurança de Agentes de IA

A transição de agentes de IA da fase de experimentação para ambientes de produção representa um marco significativo na evolução da Inteligência Artificial. No entanto, com essa evolução, vem a necessidade imperativa de uma abordagem de segurança robusta e multifacetada. A arquitetura de defesa em profundidade, como defendida pela Nutanix, oferece um modelo prático e eficaz para enfrentar os desafios únicos que a autonomia dos agentes de IA apresenta.

Empresas que adotarem essa visão estratégica de segurança estarão mais bem preparadas para inovar com IA, minimizando riscos e garantindo a integridade de seus dados e operações. A colaboração entre diferentes camadas de segurança e a adesão a princípios como Zero Trust serão cruciais para construir um futuro onde os agentes de IA possam operar de forma autônoma e segura, desbloqueando todo o seu potencial sem comprometer a segurança ou a privacidade.

Perguntas Frequentes (FAQ) sobre Segurança de Agentes de IA

O que são agentes de IA e por que são diferentes em termos de segurança?

Agentes de IA são sistemas autônomos capazes de raciocinar, tomar decisões e executar ações em um ambiente. Eles se diferenciam porque possuem privilégios de execução e podem interagir dinamicamente com outros sistemas, APIs e dados, criando uma superfície de ataque muito maior e comportamentos menos previsíveis que as aplicações tradicionais. Isso exige controles de segurança que vão além dos limites de uma única aplicação.

Como a abordagem de "defesa em profundidade" se aplica à segurança de agentes de IA?

A defesa em profundidade para agentes de IA significa implementar múltiplas camadas de segurança que trabalham em conjunto para proteger o sistema. Isso inclui uma camada de infraestrutura para estabelecer a confiança no ambiente de execução, uma camada de rede para governar a comunicação entre agentes e sistemas, e uma camada de plano de controle para gerenciar permissões e ações dos agentes. Cada camada aborda riscos específicos, garantindo proteção abrangente.

Quais são os principais riscos de segurança que a arquitetura em camadas para agentes de IA busca mitigar?

Essa arquitetura visa mitigar riscos como:

Adulteração de Modelo e Tempo de Execução: Protegendo a integridade dos modelos e do ambiente onde operam.Comprometimento da Cadeia de Suprimentos: Garantindo que componentes de software e hardware sejam confiáveis.Acesso Não Autorizado: Controlando quem (ou o que) pode acessar cargas de trabalho e dados sensíveis de IA.Movimento Lateral e Exfiltração de Dados: Monitorando e restringindo a comunicação de rede dos agentes para prevenir vazamentos.Comportamentos Autônomos Indesejados: Governando as permissões e recursos para evitar que agentes realizem ações não intencionais ou maliciosas.

A segurança de agentes de IA é um campo em rápida evolução, e uma abordagem de defesa em profundidade é fundamental para construir sistemas autônomos confiáveis e seguros. A integração de tecnologias e estratégias em todas as camadas da infraestrutura é a chave para desbloquear o potencial total da IA de forma responsável e protegida.

Gostou da notícia?

Inscreva-se na nossa newsletter e receba as principais novidades sobre inteligência artificial diretamente no seu e-mail.