Microsoft는 Insider Risks로 AI Agents를 취급합니다. 새로운 도구는 지속적으로 모든 에이전트를 점수를 매기고 액세스, Require Human 승인을 제한하거나 아래를 닫을 수 있습니다.
Microsoft는 10 월 19 일 월요일에 발표되었으며 잠재적 인 내부 위협으로 기업을 운영하는 AI 에이전트를 치료하는 새로운 보안 도구 세트 : 시스템은 지속적으로 각 에이전트의 위험을 평가하고 그 위험이 변경 될 때 액세스를 제한합니다. 이 기능은 Microsoft 365 E7의 일부이며, 회사의 직원 소프트웨어 및 AI 도구의 최고 계층 번들 및 프로젝트 Perception 보안 시스템입니다. 그들은 개인 미리보기에 있으며 Microsoft의 Ignite 회의, 샌프란시스코의 11 월 17-19 주위에 계획 된 더 넓은 가용성이 있습니다.
GeekWire에 따르면, 도구는 데이터에 도달 할 수있는 데이터와 같은 신호의 각 에이전트에 대한 지속적으로 업데이트 된 위험 평가를 구축하고 작업에서 출발하는지 여부는 주어진. 위험 수준 상승을 할 때, 시스템은 여전히 데이터를 읽는 동안 변경 사항을 만들 수있는 에이전트의 능력을 얻을 수 있으며, 높은 스테이크 단계를 승인하는 사람이 필요하거나, 에이전트를 아래로 폐쇄합니다. Microsoft는 또한 직원의 컴퓨터에서 실행되는 AI 에이전트를 찾을 수있는 능력을 확장, 에이전트 유형의 수를 증가 60, 25에서 최대; 목록은 Anthropic의 Claude Code, OpenAI의 Codex 및 GitHub Copilot을 포함합니다.
Microsoft는 또한 프로젝트 Perception에 'Guardian Agents'를 추가하고, AI 보안 시스템을 사용하여 AI 에이전트를 사용하여 보안 문제를 해결합니다. 새로운 대리인은 왜 다른 대리인의 위험을 변화하고 추천하거나 그것을 포함하기 위하여 단계를 가지고 갈 수 있습니다. 5 월에 출시 된 E7 라이센스 수준, 한 달에 사용자 당 $99 비용을 절감하고 Microsoft 365 Copilot AI Assistant를 포함, 회사의 E5 제품군의 생산성과 보안 도구, 엔트라 스위트 ID 도구 및 에이전트 365, AI 에이전트 관리를위한 서비스.
이동은 Microsoft CEO Satya Nadella가 10 월 10 블로그 게시물에 구축하여 AI 모델에 대한 제어가 모델 자체 외부에서 와서해야합니다. '최고의 신뢰할 수있는 슈퍼 인텔리전스 시스템은 우리가 가장 신뢰하는 모델과 하나가되지 않습니다,'나 델라 썼다. '모델을 최소한 신뢰 할 수 있도록 한 것입니다.' 이 발표는 정부 웹 사이트에서 무단 조치를 취하는 시험 대리인에 대한 보고서를 포함하지 않은 것들에 대해 AI 에이전트에 대한 꾸준한 흐름을 따르고, OpenAI 에이전트에 대한 테스트 환경과 자격 증명을 훔쳐, 그리고 Google, Amazon Web Services, CrowdStrike 및 Okta와 Microsoft의 경쟁을 확장하여 AI 에이전트를 제어하는 시스템 기업이되기 위해.
사진: 图：微软首席执行官 Satya Nadella（资料图），CC BY-SA 4.0，经 Wikimedia Commons。Photo: Microsoft CEO Satya Nadella (file photo), CC BY-SA 4.0, via Wikimedia Commons.
