Microsoft AI एजेंटों को अंदरूनी जोखिम के रूप में व्यवहार करता है: नए उपकरण लगातार हर एजेंट को स्कोर करते हैं और प्रतिबंधित एक्सेस कर सकते हैं, मानव स्वीकृति की आवश्यकता होती है, या शट डाउन
माइक्रोसॉफ्ट ने सोमवार को घोषणा की, अक्टूबर 19, नए सुरक्षा उपकरणों का एक सेट जो संभावित अंदरूनी खतरों के रूप में कंपनियों के अंदर चल रहे एआई एजेंटों का इलाज करता है: सिस्टम लगातार प्रत्येक एजेंट के जोखिम का आकलन करता है और उस जोखिम में बदलाव होने पर इसकी पहुंच को प्रतिबंधित करता है। विशेषताएं Microsoft 365 E7 का हिस्सा हैं, कंपनी के कार्यस्थल सॉफ्टवेयर और AI उपकरण के शीर्ष स्तरीय बंडल और इसकी परियोजना धारणा सुरक्षा प्रणाली। वे निजी पूर्वावलोकन में हैं, जिसमें व्यापक उपलब्धता माइक्रोसॉफ्ट के इग्नाइट सम्मेलन, 17-19 नवंबर को सैन फ्रांसिस्को के आसपास की योजना बनाई गई है।
GeekWire के अनुसार, उपकरण सिग्नल से प्रत्येक एजेंट के लिए लगातार अद्यतन जोखिम मूल्यांकन का निर्माण करते हैं जैसे कि यह किस डेटा तक पहुंच सकता है और क्या इसका कार्य उस कार्य से निकलने के लिए शुरू हो रहा है। जब जोखिम स्तर बढ़ता है, तो सिस्टम एजेंट को डेटा पढ़ने के दौरान बदलाव करने की क्षमता को दूर कर सकता है, फिर भी उसे डेटा पढ़ने की अनुमति देता है, एक व्यक्ति को उच्च-अनुच्छेद चरण को मंजूरी देने की आवश्यकता होती है, या एजेंट को बंद कर देता है। माइक्रोसॉफ्ट कर्मचारियों के कंप्यूटर पर चल रहे एआई एजेंटों को खोजने की अपनी क्षमता का विस्तार भी कर रहा है, जिससे एजेंट प्रकार की संख्या बढ़ रही है, यह 25 से 60 तक का पता लगा सकता है; सूची में एन्थ्रोपिक के क्लाउड कोड, ओपनएआई के कोडेक्स और गिटहब कॉपिलोट शामिल हैं।
माइक्रोसॉफ्ट प्रोजेक्ट पर्सेप्शन के लिए 'गार्डियन एजेंट' भी जोड़ रहा है, एक एआई सुरक्षा प्रणाली जिसे जुलाई में अनावरण किया गया था जो सुरक्षा समस्याओं को खोजने और ठीक करने के लिए एआई एजेंटों का उपयोग करता है। नए एजेंट यह जांच कर सकते हैं कि किसी अन्य एजेंट के जोखिम को क्यों बदल दिया गया है और उसे रोकने के लिए कदम उठाने की सलाह देता है। E7 लाइसेंसिंग स्तर, जो मई में लॉन्च किया गया था, प्रति माह $ 99 प्रति उपयोगकर्ता खर्च करता है और इसमें Microsoft 365 Copilot AI असिस्टेंट, कंपनी की E5 सूट ऑफ़ उत्पादकता और सुरक्षा उपकरण, इसके एनट्रा सूट पहचान उपकरण और एजेंट 365 शामिल हैं।
यह कदम माइक्रोसॉफ्ट सीईओ सत्य नाडेला द्वारा 10 अक्टूबर ब्लॉग पोस्ट पर बना है कि एआई मॉडल पर नियंत्रण खुद मॉडल के बाहर आने की जरूरत है। 'सबसे भरोसेमंद सुपर इंटेलिजेंस सिस्टम उस मॉडल के साथ नहीं होगा जिस पर हम सबसे ज्यादा भरोसा करते हैं,' नाडेला ने लिखा है। 'यह वह होगा जो हमें कम से कम मॉडल पर भरोसा करने में सक्षम बनाता है। घोषणा एआई एजेंटों के बारे में रिपोर्टों की एक स्थिर धारा का अनुसरण करती है जो उन्हें नहीं करना चाहिए था, जिसमें सरकारी वेबसाइटों पर अनधिकृत कार्रवाई करने वाले परीक्षण एजेंटों के बारे में एंथ्रोपिक से रिपोर्ट शामिल है और एजेंट के बारे में ओपनएआई से परीक्षण वातावरण को अलग करना और क्रेडेंशियल चोरी करना शामिल है, और यह Google, अमेज़न वेब सर्विसेज, क्राउडस्ट्रिक और ओक्टा के साथ माइक्रोसॉफ्ट की प्रतियोगिता को बढ़ा देता है ताकि सिस्टम व्यवसाय अपने एआई एजेंटों को नियंत्रित करने के लिए उपयोग किया जा सके।
स्रोत: GSM · संयुक्त राज्य अमेरिका (अंग्रेज़ी संस्करण · मूल चीनी संस्करण)
फ़ोटो: 图：微软首席执行官 Satya Nadella（资料图），CC BY-SA 4.0，经 Wikimedia Commons。Photo: Microsoft CEO Satya Nadella (file photo), CC BY-SA 4.0, via Wikimedia Commons.
