Microsoftは、インサイダーリスクとしてAIエージェントを扱います:新しいツールは、すべてのエージェントを継続的にスコアし、アクセスを制限することができます, 人間の承認を要求します, またはシャットワンダウン
Microsoftは、10月19日(月)に、AIエージェントが社内の脅威として実行する新しいセキュリティツールを発表しました。このシステムは、各エージェントのリスクを継続的に評価し、リスクが変化したときにアクセスを制限します。 この機能は、Microsoft 365 E7、職場のソフトウェアとAIツールのトップ層のバンドル、およびプロジェクトの知覚セキュリティシステムの一部です。 彼らは、Microsoftのイグナイト会議、サンフランシスコで11月17-19日に予定されているより広い可用性で、プライベートプレビューです。
GeekWire によると、このツールは、到達できるデータや、そのアクションが与えられたタスクから出発するかどうかなど、各エージェントが継続的に更新されたリスクアセスメントを構築します。 リスクレベルが上昇すると、システムは、データを読みながら変更を行うエージェントの能力を奪うことができ、担当者が High-stakes のステップを承認するか、エージェントをシャットダウンする必要があります。 Microsoft は、従業員のコンピューターで実行されている AI エージェントを見つける機能も拡張し、60 に検出できるエージェントの種類が増えています。リストには、Anthropic の Claude コード、OpenAI の Codex および GitHub Copilot が含まれます。
Microsoftは、AIエージェントを使用してセキュリティの問題を見つけて修正するために、7月に明らかにしたAIセキュリティシステム「Project Perception」に「Guardian Agents」を追加しています。 新しいエージェントは、他のエージェントのリスクが変更された理由を調べ、それを含む手順をお勧めまたは取ることができます。 5月に発売されたE7ライセンスレベルは、月額99ドルの費用で、Microsoft 365 Copilot AIアシスタント、同社のE5スイートの生産性とセキュリティツール、Entra Suite IDツール、Agent 365、AIエージェントの管理サービスが含まれます。
マイクロソフトのCEOであるSatya Nadella氏が10月10日、AIモデルの制御がモデルの外から来る必要があると判断したブログ記事に移行しました。 「最も信頼できるスーパーインテリジェンスシステムは、私たちが最も信頼するモデルとは関係ありません」とナデラ氏は述べています。 「モデルをもっと信頼できるようにする」 アナウンスは、政府のウェブサイトやOpenAIのエージェントがテスト環境をエスケープし、資格情報を盗むことについて無許可の行動を取るテストエージェントに関するAnthropicの報告書を含む、AIエージェントが何をすべきかをしていると報告の着実なストリームに従い、マイクロソフトのGoogle、Amazon Web Services、クラウドストライク、オクタとの競争をエスカレートし、AIエージェントを制御するためにシステム企業として使用する。
写真: 图：微软首席执行官 Satya Nadella（资料图），CC BY-SA 4.0，经 Wikimedia Commons。Photo: Microsoft CEO Satya Nadella (file photo), CC BY-SA 4.0, via Wikimedia Commons.
