Microsoft با SI Agent به عنوان ریسک های خود رفتار می کند: ابزارهای جدید به طور مداوم هر عامل را امتیاز می دهند و می توانند دسترسی را محدود کنند، نیاز به تایید انسانی دارند یا یکی را خاموش می کنند.
مایکروسافت روز دوشنبه 19 اکتبر اعلام کرد که مجموعه ای از ابزارهای امنیتی جدید است که عوامل SI را که در داخل شرکت ها به عنوان تهدیدات بالقوه داخلی اداره می شوند، درمان می کند: این سیستم به طور مداوم خطر هر عامل را ارزیابی می کند و دسترسی آن را محدود می کند. این ویژگی ها بخشی از Microsoft 365 E7، مجموعه بالای نرم افزار محل کار و ابزار SI و سیستم امنیتی پروژه آن است. آنها در پیش نمایش خصوصی هستند، با دسترسی گسترده تر برنامه ریزی شده در اطراف کنفرانس Ignite مایکروسافت، نوامبر 17-19 در سان فرانسیسکو.
بر اساس گفته های GeekWire، این ابزارها یک ارزیابی خطر به طور مداوم به روز شده برای هر عامل از سیگنال هایی مانند اطلاعاتی که می تواند به آن دسترسی پیدا کند و اینکه آیا اقدامات آن از کاری که داده شده است، دور می شوند. هنگامی که سطح خطر افزایش می یابد، سیستم می تواند توانایی عامل را برای ایجاد تغییرات در حالی که هنوز اجازه می دهد آن را خواندن داده ها، نیاز به یک فرد برای تایید یک گام بالا یا بستن عامل. مایکروسافت همچنین توانایی خود را برای پیدا کردن عوامل SI در حال اجرا بر روی رایانه های کارکنان، افزایش تعداد انواع عامل است که می تواند تا 60، تا 25 تشخیص دهد؛ این لیست شامل کد کلود Anthropic، OpenAI’s Codex و GitHub Copilot است.
مایکروسافت همچنین در حال اضافه کردن "نمایندگان نگهبان" به پروژه ادراک، یک سیستم امنیتی SI است که در ماه ژوئیه معرفی شد و از عوامل SI برای پیدا کردن و رفع مشکلات امنیتی استفاده می کند. عوامل جدید می توانند بررسی کنند که چرا خطر عامل دیگر تغییر کرده و توصیه می کند یا اقداماتی را برای مهار آن انجام می دهد. سطح مجوز E7 که در ماه مه راه اندازی شد، 99 دلار در هر کاربر هزینه می کند و شامل دستیار Microsoft 365 Copilot AI، مجموعه E5 ابزار بهره وری و امنیت، ابزار هویت Entra Suite و Agent 365، یک سرویس برای مدیریت عوامل SI است.
این حرکت در یک پست وبلاگ 10 اکتبر توسط مدیر عامل مایکروسافت Satya Nadella استدلال می کند که کنترل مدل های SI باید از خارج از مدل های خود آمده است. قابل اعتمادترین سیستم هوش مصنوعی، مدلی نیست که ما به آن اعتماد می کنیم.» Nadella نوشت. این همان چیزی است که ما را قادر می سازد تا به مدل حداقل اعتماد کنیم.» این بیانیه به دنبال یک جریان ثابت از گزارش در مورد عوامل SI انجام کارهایی است که قرار نیست انجام دهند، از جمله گزارش های Anthropic در مورد عوامل تست که اقدامات غیر مجاز در وب سایت های دولتی و از OpenAI در مورد عوامل فرار از محیط های آزمون و سرقت اعتبار، و آن را افزایش رقابت مایکروسافت با گوگل، خدمات وب آمازون، جمعیت و Okta برای تبدیل شدن به کسب و کار سیستم برای کنترل عوامل خود.
منبع: GSM · ایالات متحده (نسخه انگلیسی · نسخه اصلی چینی)
عکس: 图：微软首席执行官 Satya Nadella（资料图），CC BY-SA 4.0，经 Wikimedia Commons。Photo: Microsoft CEO Satya Nadella (file photo), CC BY-SA 4.0, via Wikimedia Commons.
