Microsoft Treats SI Агенти як внутрішній ризик: нові інструменти безперервно оцінювати кожен агент і може обмежити доступ, вимагати схвалення людини або Shut One Down
Microsoft оголосила про Понеділок, 19 жовтня, набір нових інструментів безпеки, які лікують агенти SI, які працюють всередині компаній, як потенційні загрози, система постійно оцінює ризик кожного агента і обмежує його доступ при зміні ризику. Особливості Microsoft 365 E7, топ-ярусний пакет програмного забезпечення та інструментів SI, а також його система безпеки проекту. Вони знаходяться в приватному попередньому перегляді, з більшою доступністю, запланованою на конференції Microsoft Ignite, 17-19 листопада в Сан-Франциско.
Згідно з даними GeekWire, інструменти побудови постійно оновленої оцінки ризику для кожного агента з сигналів, таких як дані, які він може досягати і чи є його дії, які починають відправлятися з поставленого завдання. Коли рівень ризику підвищується, система може відхиляти здатність агента вносити зміни, поки не дозволяючи її читати дані, вимагає особи, яка затверджує крок, або закриває агента вниз. Microsoft також розширює свою здатність знайти агенти SI, які працюють на комп'ютерах співробітників, збільшуючи кількість типів агентів, він може виявити до 60, до 25; список включає код Athropic, Код OpenAI та GitHub Copilot.
Microsoft також додає агентам Guardian до проекту, систему безпеки SI, яка була розміщена у липні, що використовує агенти SI, щоб знайти та виправити проблеми безпеки. За допомогою нових агентів можна дослідити, чому його змінено і рекомендувати або вжити заходів, щоб містити. Рівень ліцензування E7, який запущений в травні, витрати $99 за гравця в місяць і включає в себе помічник Microsoft 365 Copilot AI, E5 пакет продуктивності і інструментів безпеки компанії, його інструменти для ідентифікації Entra Suite і агент 365, сервіс для управління агентами SI.
З 10 жовтня по 10 жовтня по електронній пошті Microsoft CEO Satya Nadella arguing, що елементи керування на моделях SI повинні вийти ззовні моделей. - Найнадійніша система супер-розвідки не буде однією з моделлю, яку ми довіряємо більшість, - написав Надія. "Це буде тим, що дозволяє нам довіряти моделі принаймні." Оголошено послідовний потік звітів про агенти SI, які вони не повинні зробити, включаючи звіти від Антрополика про тестові агенти, що приймають несанкціоновані дії на урядових веб-сайтах та від OpenAI про агенти, що охоплюють тестові середовища та крадіжки облікових даних, і це скасовує конкуренцію Microsoft з Google, Amazon Web Services, CrowdStrike та Okta, щоб стати системним бізнесом для контролю своїх агентів SI.
Джерело: GSM · Сполучені Штати (Англійське видання · Оригінальне китайське видання)
Фото: 图：微软首席执行官 Satya Nadella（资料图），CC BY-SA 4.0，经 Wikimedia Commons。Photo: Microsoft CEO Satya Nadella (file photo), CC BY-SA 4.0, via Wikimedia Commons.
