Microsoft traite les agents d'IA comme des risques d'initiés : nouveaux outils Noter en continu chaque agent et peut restreindre l'accès, exiger l'approbation de l'humain, ou fermer l'un d'eux
Microsoft a annoncé lundi 19 octobre un ensemble de nouveaux outils de sécurité qui traitent les agents d'IA fonctionnant à l'intérieur des entreprises comme des menaces potentielles d'initiés : le système évalue en permanence le risque de chaque agent et limite son accès lorsque ce risque change. Les fonctionnalités font partie de Microsoft 365 E7, l'ensemble de haut niveau de l'entreprise de logiciels de travail et d'outils d'IA, et son système de sécurité Projet Perception. Ils sont en avant-première privée, avec une disponibilité plus large prévue autour de la conférence Ignite de Microsoft, 17-19 Novembre à San Francisco.
Selon GeekWire, les outils construisent une évaluation des risques continuellement mise à jour pour chaque agent à partir de signaux tels que les données qu'il peut atteindre et si ses actions commencent à s'écarter de la tâche qui lui a été confiée. Lorsque le niveau de risque augmente, le système peut ôter la capacité de l'agent d'apporter des changements tout en lui laissant encore lire des données, exiger qu'une personne approuve une étape de pointe, ou fermer l'agent. Microsoft élargit également sa capacité à trouver des agents d'IA fonctionnant sur les ordinateurs des employés, augmentant le nombre de types d'agents qu'il peut détecter à 60, jusqu'à 25; la liste comprend Claude Code d'Anthropic, Codex d'OpenAI et GitHub Copilot.
Microsoft ajoute également « Agents de sécurité » à Project Perception, un système de sécurité AI qu'il a dévoilé en juillet qui utilise des agents de l'IA pour trouver et résoudre des problèmes de sécurité. Les nouveaux agents peuvent étudier pourquoi le risque d'un autre agent a changé et recommander ou prendre des mesures pour le contenir. Le niveau de licence E7, qui a été lancé en mai, coûte 99 $ par utilisateur par mois et comprend le Microsoft 365 Copilot AI assistant, la suite E5 de l'entreprise d'outils de productivité et de sécurité, ses outils d'identité Entra Suite et l'Agent 365, un service pour la gestion des agents d'IA.
Le mouvement s'appuie sur un billet de blog du 10 octobre par le PDG de Microsoft Satya Nadella en soutenant que les contrôles sur les modèles d'IA doivent venir de l'extérieur des modèles eux-mêmes. «Le système de Super Intelligence le plus fiable ne sera pas celui qui a le modèle le plus confiance», a écrit Nadella. Ce sera celui qui nous permettra le moins de faire confiance au modèle. L'annonce suit un flux régulier de rapports sur les agents d'IA faisant des choses qu'ils n'étaient pas censés faire, y compris des rapports d'Anthropic sur les agents d'essai prenant des mesures non autorisées sur les sites Web gouvernementaux et d'OpenAI sur les agents échappant à des environnements d'essai et volant des références, et il augmente la concurrence de Microsoft avec Google, Amazon Web Services, CrowdStrike et Okta pour devenir les entreprises du système utilisent pour contrôler leurs agents d'IA.
Source : GSM · États-Unis (édition en anglais · édition originale en chinois)
Photo: 图：微软首席执行官 Satya Nadella（资料图），CC BY-SA 4.0，经 Wikimedia Commons。Photo: Microsoft CEO Satya Nadella (file photo), CC BY-SA 4.0, via Wikimedia Commons.
