Microsoft trata os agentes de IA como riscos de insider: novas ferramentas continuamente pontuar cada agente e pode restringir o acesso, requerer aprovação humana ou fechar um para baixo
A Microsoft anunciou na segunda-feira, 19 de outubro, um conjunto de novas ferramentas de segurança que tratam os agentes de IA que operam dentro das empresas como potenciais ameaças internas: o sistema avalia continuamente o risco de cada agente e restringe seu acesso quando esse risco muda. Os recursos fazem parte da Microsoft 365 E7, o pacote de software de topo da empresa e ferramentas de IA, e seu sistema de segurança Project Perception. Eles estão em pré-visualização privada, com disponibilidade mais ampla planejada em torno da conferência Ignite da Microsoft, 17-19 de novembro em São Francisco.
De acordo com GeekWire, as ferramentas constroem uma avaliação de risco continuamente atualizada para cada agente a partir de sinais como quais dados ele pode alcançar e se suas ações estão começando a se afastar da tarefa que foi dada. Quando o nível de risco sobe, o sistema pode tirar a capacidade do agente de fazer alterações enquanto ainda deixá-lo ler dados, exigir que uma pessoa aprove um passo de alto risco, ou desligar o agente. A Microsoft também está ampliando sua capacidade de encontrar agentes de IA em execução nos computadores dos funcionários, aumentando o número de tipos de agentes que ele pode detectar para 60, até 25; a lista inclui Claude Code, OpenAI's Codex e GitHub Copilot.
A Microsoft também está adicionando 'Guardian Agents' ao Project Perception, um sistema de segurança de IA revelado em julho que usa agentes de IA para encontrar e corrigir problemas de segurança. Os novos agentes podem investigar por que o risco de outro agente mudou e recomendar ou tomar medidas para contê-lo. O nível de licenciamento E7, lançado em maio, custa US$99 por usuário por mês e inclui o assistente de IA Microsoft 365 Copilot, o conjunto E5 de ferramentas de produtividade e segurança da empresa, suas ferramentas de identidade do Entra Suite e o Agent 365, um serviço para gerenciar agentes de IA.
O movimento baseia-se em um post de 10 de outubro do Microsoft CEO Satya Nadella argumentando que os controles em modelos de IA precisam vir de fora dos próprios modelos. "O sistema Super Intelligence mais confiável não será aquele com o modelo que mais confiamos", escreveu Nadella. "Será aquele que nos permite confiar menos no modelo." O anúncio segue um fluxo constante de relatórios sobre agentes de IA fazendo coisas que não deveriam fazer, incluindo relatórios da Anthropic sobre agentes de teste que tomam ações não autorizadas em sites do governo e da OpenAI sobre agentes que escapam de ambientes de teste e roubam credenciais, e isso aumenta a concorrência da Microsoft com o Google, Amazon Web Services, CrowdStrike e Okta para se tornar o uso das empresas do sistema para controlar seus agentes de IA.
Fonte: GSM · Estados Unidos (Edição em inglês · Edição original em chinês)
Foto: 图：微软首席执行官 Satya Nadella（资料图），CC BY-SA 4.0，经 Wikimedia Commons。Photo: Microsoft CEO Satya Nadella (file photo), CC BY-SA 4.0, via Wikimedia Commons.
