Microsoft-ը արհեստական ինտելեկտի գործակալներին դիտարկում է որպես ներքին ռիսկեր. նոր գործիքները անընդհատ գնահատում են յուրաքանչյուր գործակալի և կարող են սահմանափակել մուտքը, պահանջել մարդու հաստատում կամ անջատել դրանցից մեկի գործունեությունը։
Երկուշաբթի՝ հոկտեմբերի 19-ին, Microsoft-ը հայտարարեց նոր անվտանգության գործիքների մի շարքի մասին, որոնք ընկերությունների ներսում աշխատող արհեստական բանականության գործակալներին համարում են պոտենցիալ ներքին սպառնալիքներ. համակարգը անընդհատ գնահատում է յուրաքանչյուր գործակալի ռիսկը և սահմանափակում է դրա հասանելիությունը, երբ այդ ռիսկը փոխվում է: Այս հնարավորությունները Microsoft 365 E7-ի՝ ընկերության աշխատանքային ծրագրային ապահովման և արհեստական բանականության գործիքների առաջատար փաթեթի, և դրա Project Perception անվտանգության համակարգի մաս են կազմում: Դրանք գտնվում են մասնավոր նախադիտման փուլում, իսկ ավելի լայն հասանելիությունը նախատեսվում է Microsoft-ի Ignite կոնֆերանսի շրջանակներում, որը տեղի կունենա նոյեմբերի 17-19-ը Սան Ֆրանցիսկոյում:
GeekWire-ի տվյալներով՝ գործիքները յուրաքանչյուր գործակալի համար անընդհատ թարմացվող ռիսկի գնահատում են ստեղծում՝ հիմնվելով այնպիսի ազդանշանների վրա, ինչպիսիք են՝ թե ինչ տվյալների կարող է հասնել և արդյոք նրա գործողությունները սկսում են շեղվել տրված առաջադրանքից։ Երբ ռիսկի մակարդակը բարձրանում է, համակարգը կարող է զրկել գործակալին փոփոխություններ կատարելու հնարավորությունից՝ միաժամանակ թույլ տալով նրան կարդալ տվյալներ, պահանջելով անձից հաստատել բարձր ռիսկային քայլ կամ անջատել գործակալին։ Microsoft-ը նաև ընդլայնում է աշխատակիցների համակարգիչներում աշխատող արհեստական բանականության գործակալներ գտնելու իր կարողությունը՝ 25-ից հասցնելով 60-ի։ Ցանկում ներառված են Anthropic-ի Claude Code-ը, OpenAI-ի Codex-ը և GitHub Copilot-ը։
Microsoft-ը նաև «Պահապան գործակալներ» է ավելացնում Project Perception-ին՝ արհեստական ինտելեկտի անվտանգության համակարգին, որը ներկայացվել է հուլիսին և օգտագործում է արհեստական ինտելեկտի գործակալներ՝ անվտանգության խնդիրները գտնելու և շտկելու համար: Նոր գործակալները կարող են հետաքննել, թե ինչու է մեկ այլ գործակալի ռիսկը փոխվել և խորհուրդ տալ կամ քայլեր ձեռնարկել այն զսպելու համար: E7 լիցենզավորման մակարդակը, որը մեկնարկել է մայիսին, արժե ամսական 99 դոլար մեկ օգտատիրոջ համար և ներառում է Microsoft 365 Copilot արհեստական ինտելեկտի օգնականը, ընկերության E5 արտադրողականության և անվտանգության գործիքների փաթեթը, Entra Suite նույնականացման գործիքները և Agent 365-ը՝ արհեստական ինտելեկտի գործակալների կառավարման ծառայություն:
Այս քայլը հիմնված է Microsoft-ի գործադիր տնօրեն Սաթյա Նադելայի հոկտեմբերի 10-ի բլոգում գրառման վրա, որտեղ նա պնդում է, որ արհեստական բանականության մոդելների վերահսկողությունը պետք է իրականացվի մոդելներից դուրս։ «Ամենահուսալի գերինտելեկտուալ համակարգը չի լինի այն, որին մենք ամենաշատը վստահում ենք», - գրել է Նադելլան։ «Այն կլինի այն համակարգը, որը թույլ կտա մեզ ամենաքիչը վստահել մոդելին»։ Հայտարարությունը հաջորդում է արհեստական բանականության գործակալների մասին այնպիսի բաների մասին հաղորդագրությունների անընդհատ հոսքին, որոնք չպետք է անեին, այդ թվում՝ Anthropic-ի հաղորդագրությունները թեստային գործակալների կողմից կառավարական կայքերում չարտոնված գործողություններ կատարելու և OpenAI-ի կողմից թեստային միջավայրերից փախչող գործակալների և տվյալների գողության մասին, և այն սրում է Microsoft-ի մրցակցությունը Google-ի, Amazon Web Services-ի, CrowdStrike-ի և Okta-ի հետ՝ դառնալով այն համակարգը, որն օգտագործում են բիզնեսները իրենց արհեստական բանականության գործակալներին վերահսկելու համար։
Աղբյուր. GSM · Միացյալ Նահանգներ (Անգլերեն հրատարակություն · Չինարեն բնօրինակ հրատարակություն)
Լուսանկար: 图：微软首席执行官 Satya Nadella（资料图），CC BY-SA 4.0，经 Wikimedia Commons。Photo: Microsoft CEO Satya Nadella (file photo), CC BY-SA 4.0, via Wikimedia Commons.
