Mga Ahente ng SI ng Microsoft Treats as Insidenteng mga Panganib: Ang Bagong mga Kasangkapan ay Patuloy na Sumasakop sa Bawat Ahente at Maaaring Magbawal ng Pagpapahintulot, Nangangailangan ng Pagsang - ayon ng Tao, o Pagpapahinto sa Isa
Ipinahayag ng Microsoft noong Lunes, Oktubre 19, ang isang set ng bagong mga kasangkapang panseguridad na tinatrato ang mga ahente ng SI na tumatakbo sa loob ng mga kompanya bilang potensiyal na mga banta sa insider: patuloy na tinataya ng sistema ang panganib ng bawat ahente at tinatakdaan ang kakayahan nito kapag ang panganib na iyon ay nagbabago. Ang mga tampok ay bahagi ng Microsoft 365 E7, ang nangungunang-tier na bungkos ng mga software sa lugar ng trabaho at mga kasangkapan ng SI, at ang Project Perception security system nito. Sila ay nasa pribadong preview, na may mas malawak na magagamit na plano sa paligid ng Ignite conference ng Microsoft, Nobyembre 17-19 sa San Francisco.
Ayon kay GeekWire, ang mga kasangkapan ay gumagawa ng patuloy na binagong pagtatasa ng panganib para sa bawat ahente mula sa mga hudyat gaya ng kung anong datos ang maaabot nito at kung ang mga aksiyon nito ay nagsisimulang humiwalay sa atas na ibinigay dito. Kapag tumaas ang antas ng panganib, maaaring kunin ng sistema ang kakayahan ng ahente na gumawa ng mga pagbabago habang pinapahintulutan pa rin itong magbasa ng datos, humihiling sa isang tao na sang-ayunan ang isang high-stakes step, o isara ang agent pababa. Pinalalawak din ng Microsoft ang kakayahan nito na makahanap ng mga ahente ng SI na tumatakbo sa mga computer ng mga empleyado, na dinaragdagan ang bilang ng mga agent type na matutukoy nito sa 60, pataas mula 25; kabilang sa talaan ang Anthropic's Claude Code, OpenAI's Codex at GitHub Copilot.
Ang Microsoft ay nagdaragdag din ng 'Guardian Agents' sa Project Perception, isang sistema ng seguridad ng SI na ibinunyag nito noong Hulyo na gumagamit ng mga ahente ng SI upang hanapin at ayusin ang mga problema sa seguridad. Ang mga bagong agent ay maaaring magsuri kung bakit ang panganib ng ibang ahente ay nagbago at magrekomenda o kumuha ng mga hakbang upang maglaman nito. Ang E7 lisensiyang antas, na inilunsad noong Mayo, ay nagkakahalaga ng $99 bawat user bawat buwan at kinabibilangan ng Microsoft 365 Copilot AI assistant, ang E5 suite ng produktibidad at mga kasangkapang panseguridad ng kompanya, ang Entra Suite identification tool nito at Agent 365, isang serbisyo para sa pangangasiwa ng mga ahente ng SI.
Ang paglipat ay nagtatayo sa isang October 10 blog post ng Microsoft CEO Satya Nadella na nangangatuwiran na ang mga kontrol sa mga modelo ng SI ay kailangang magmula mismo sa labas ng mga modelo. 'Ang pinaka-mapagkakatiwalaang sistemang Super Intelligence ay hindi ang isa na may modelong pinagkakatiwalaan natin,' isinulat ni Nadella. 'Ito ang isa na magpapangyari sa atin na magtiwala nang higit sa huwaran.' Ang patalastas ay sumusunod sa isang patuloy na daloy ng mga ulat tungkol sa mga ahente ng SI na gumagawa ng mga bagay na hindi nila dapat gawin, kabilang ang mga ulat mula sa Antropic tungkol sa mga ahente ng pagsusulit na kumukuha ng hindi awtorisadong mga aksiyon sa mga website ng pamahalaan at mula sa OpenAI tungkol sa mga ahenteng tumatakas sa mga kapaligiran ng pagsusulit at nagnanakaw ng mga kredensiyal, at pinatataas nito ang kompetisyon ng Microsoft sa mga ahente ng Google, Amazon Web Services, FrowStrike at Okta upang maging mga negosyo ng sistema na ginagamit upang kontrolin ang kanilang mga ahente ng SI.
Source: GSM · United States (Edisyong Ingles · Orihinal na edisyong Tsino)
Larawan: 图：微软首席执行官 Satya Nadella（资料图），CC BY-SA 4.0，经 Wikimedia Commons。Photo: Microsoft CEO Satya Nadella (file photo), CC BY-SA 4.0, via Wikimedia Commons.
