Microsoft Treats AI agentss as Insider Risks: New Tools Continuously Score every agent and Can Restrict Access, Require Human Approval, or shut one Down
أعلن ميكروسوفت يوم الاثنين 19 أكتوبر مجموعة من الأدوات الأمنية الجديدة التي تعامل عملاء مكافحة المخدرات الذين يركضون داخل الشركات كتهديدات داخلية محتملة الملامح هي جزء من (مايكروسوفت 365 إي 7) مجموعة البرمجيات في مكان العمل و أدوات (آي آي) و نظامها الأمني انهم في استعراض خاص، مع توافر أوسع المخطط له حول مؤتمر ميكروسوفت إغنيت، 17-19 تشرين الثاني/نوفمبر في سان فرانسيسكو.
According to GeekWire, the tools build a continuously updated risk assessment for each agent from signals such as what data it can reach and whether its actions are starting to depart from the task it was given. عندما يرتفع مستوى المخاطرة، النظام يمكن أن يأخذ بعيدا قدرة العميل على إجراء تغييرات في الوقت الذي لا يزال السماح لها قراءة البيانات، (مايكروسوفت) يوسع أيضاً قدرته على إيجاد عملاء (آي آي) يركضون على حاسبات الموظفين، ويزيد من عدد الوكيلات التي يمكن أن يكتشفها إلى 60، حتى 25؛
(مايكروسوفت) يضيف أيضاً "العميلين الغارديانين" إلى "مشروع التصور" نظام أمني "آي آي" تم كشفه في تموز العملاء الجدد يمكنهم التحقيق لماذا تغيرت مخاطرة عميل آخر والتوصية أو اتخاذ خطوات لاحتواءها The E7 licensing level, which launched in May, costs $99 per user per month and includes the Microsoft 365 Copilot AI Assistant, the company's E5 suite of productivity and security tools, its Entra Suite identity tools and agent 365, a service for managing AI agents.
The move builds on an October 10 blog post by Microsoft CEO Satya Nadella argue that the controls on AI models need to come from outside the models themselves. نظام الإستخبارات الخارقة الأكثر موثوقية لن يكون هو الذي لديه النموذج الذي نثق به سيكون هو الذي سيمكننا من الثقة بالنموذج على الأقل ويتبع الإعلان تياراً ثابتاً من التقارير عن قيام وكلاء المخابرات بأشياء لم يكن من المفترض أن يقوموا بها، بما في ذلك تقارير عن عملاء الاختبار الذين يتخذون إجراءات غير مأذون بها على المواقع الحكومية على شبكة الإنترنت، ومن الوكالة الدولية للطاقة الذرية بشأن العملاء الذين يهربون من بيئات الاختبار ويسرقون وثائق التفويض، ويزيد من تنافس شركة مايكروسوفت مع غوغل، وشركة الأمازون لخدمات الإنترنت، وكرود ستريك، وأوكتا، على أن تصبح شركات أعمال النظام التي تستخدمها للسيطرة على وكلائها.
المصدر: GSM · الولايات المتحدة (الطبعة الإنجليزية · الطبعة الصينية الأصلية)
صورة: 图：微软首席执行官 Satya Nadella（资料图），CC BY-SA 4.0，经 Wikimedia Commons。Photo: Microsoft CEO Satya Nadella (file photo), CC BY-SA 4.0, via Wikimedia Commons.
