A mudança de paradigma: de proteger dados a controlar agentes
A cibersegurança corporativa experimentou uma virada fundamental. Tradicionalmente, o foco estava na proteção de dados e na prevenção de acessos não autorizados por atores externos. No entanto, a proliferação de sistemas autônomos de inteligência artificial introduziu uma nova categoria de risco: os agentes de IA que operam dentro da infraestrutura empresarial com certo grau de autonomia.
A Microsoft respondeu a esse desafio com o Project Perception, uma arquitetura de segurança projetada do zero para a era da IA. Este sistema não se limita a detectar ameaças externas, mas redefine o conceito de 'ameaça interna' para incluir agentes de IA que não estão sob o controle direto dos laboratórios de desenvolvimento, como OpenAI ou Anthropic. A premissa é clara: um agente de IA que age de forma imprevisível ou maliciosa dentro da rede corporativa representa um risco equivalente ao de um funcionário malicioso.
Arquitetura do Project Perception: percepção, raciocínio e ação
O Project Perception baseia-se em uma arquitetura multimodelo que combina sinais, contexto, modelos e agentes especializados. Diferente dos sistemas de segurança tradicionais que geram alertas reativos, este sistema é projetado para perceber o risco de forma contínua, raciocinar sobre grandes volumes de contexto e agir na velocidade da máquina.
A metodologia de avaliação de risco contínua apoia-se em três tipos de agentes especializados que trabalham em um circuito fechado. Os agentes 'red team' identificam possíveis vias de comprometimento antes que um atacante as aproveite. Os agentes 'blue team' investigam, raciocinam a partir do contexto e determinam o que constitui um risco real. Os agentes 'green team' executam medidas corretivas e reforçam as defesas. Essa coordenação permite que uma descoberta se torne uma correção proativa sem a necessidade de intervenção manual em cada etapa.
Papéis dos agentes no Project Perception
Distribuição de funções entre os três tipos de agentes especializados do sistema.
| Tipo de Agente | Função Principal | Objetivo Operacional |
|---|---|---|
| Red Team | Simulação de ataques | Identificar vulnerabilidades e rotas de comprometimento antes do atacante. |
| Blue Team | Investigação e análise | Discriminar riscos reais do ruído e priorizar ameaças. |
| Green Team | Remediação e reforço | Executar correções automáticas e fortalecer as defesas. |
Integração no Microsoft 365 E7: controles específicos
A implementação do Project Perception integra-se estreitamente à suíte Microsoft 365 E7, que incorpora ferramentas específicas para gerenciar o risco dos agentes de IA. O sistema utiliza o Painel de Segurança da Microsoft para IA, que fornece uma visão unificada em tempo real da postura de segurança dos ativos de IA, incluindo agentes do Microsoft Copilot Studio, aplicativos do Microsoft Foundry e agentes de terceiros.
Entre as ferramentas específicas está a capacidade de detectar e conter agentes maliciosos ou descontrolados. O Microsoft Defender amplia sua cobertura para supervisionar a atividade dos agentes, enquanto o Microsoft Purview gerencia a classificação de dados e a prevenção de perda de informações confidenciais através da IA. Além disso, foram habilitados controles para prevenir o uso não autorizado de aplicativos de IA (Shadow AI) e evitar vazamentos de dados a partir de navegadores corporativos.
Fluxo de avaliação de risco de um agente de IA
Processo passo a passo de como o sistema avalia e mitiga o risco de um agente de IA em tempo real.
- 01Detecção: O sistema identifica o agente de IA no inventário de ativos de IA.
- 02Contextualização: Sinais de identidade, dados e comportamento do agente são coletados.
- 03Avaliação: Os agentes blue team analisam o comportamento para determinar se é anômalo ou malicioso.
- 04Decisão: A ação é priorizada com base no nível de risco e no impacto potencial.
- 05Ação: Os agentes green team executam a contenção ou remediação necessária.
Implicações para o despliegue de agentes de terceiros
Para as empresas que implantam agentes de IA de terceiros, como os desenvolvidos por OpenAI ou Anthropic, o Project Perception introduz um novo nível de escrutínio. A Microsoft enfatiza que os modelos de fronteira não podem ser confiáveis de forma absoluta, tornando essencial monitorar de perto os agentes utilizados pelos funcionários.
Isso implica que as organizações devem tratar esses agentes como identidades de primeira classe, atribuindo-lhes credenciais únicas e aplicando princípios de privilégios mínimos. A governança de identidades e o acesso com privilégio mínimo são essenciais para limitar o escopo dos agentes e prevenir o uso indevido ou ataques. Além disso, recomenda-se realizar testes contínuos de injeção de mensagens e jailbreaks para detectar pontos fracos antes dos atacantes.
O futuro da governança de agentes na nuvem corporativa
O lançamento do Project Perception marca um marco na evolução da segurança corporativa. A governança de agentes na nuvem corporativa não se limita mais à configuração de permissões, mas implica uma supervisão contínua do comportamento autônomo dos sistemas de IA.
A Microsoft insiste que o controle permanece nas mãos das equipes de segurança. As organizações devem definir quais ações podem ser executadas de forma autônoma, quais exigem aprovação humana e como cada decisão é auditada. Essa abordagem híbrida, que combina a velocidade da máquina com o critério humano, será fundamental para equilibrar inovação e segurança na era da IA.
Questões em aberto
- As métricas específicas utilizadas pelo Project Perception para quantificar o risco de um agente de IA não foram detalhadas.
- Não foi especificado como a avaliação de um agente de IA se diferencia tecnicamente da de um usuário humano no Microsoft 365 E7.
- As ações automáticas exatas que o sistema pode tomar ao detectar um agente de IA com comportamento anômalo, além da remediação geral, não foram definidas.
Continue a explorar
Fontes consultadas
Correções e transparência
Se encontrar informação incorreta ou desatualizada, envie-nos a página e a fonte que devemos rever.
Propor uma correção