Hiệp ước Microsoft Đặc vụ AI là nội gián rủi ro: Công cụ mới liên tục ghi điểm mọi đặc vụ và có thể hạn chế truy cập, yêu cầu người chấp nhận, hoặc đóng cửa một
Microsoft thông báo vào thứ hai, ngày 19 tháng 10, một tập hợp các công cụ an ninh mới điều hành các đặc vụ AI điều hành bên trong các công ty như mối đe dọa tiềm năng nội bộ: hệ thống liên tục đánh giá rủi ro của mỗi đặc vụ và hạn chế truy cập của nó khi rủi ro thay đổi. Các tính năng là một phần của Microsoft 365 E7, gói phần mềm cao cấp nhất của công ty phần mềm công cụ và AI, và hệ thống an ninh dự án. Họ đang ở trong buổi xem thử cá nhân, với kế hoạch rộng hơn được lên kế hoạch xung quanh hội nghị Igite của Microsoft, ngày 17-19 ở San Francisco.
Theo Geekrire, các công cụ xây dựng một đánh giá về rủi ro liên tục cho mỗi tác nhân từ các tín hiệu như dữ liệu mà nó có thể tiếp cận và liệu hành động của nó có bắt đầu rời khỏi nhiệm vụ mà nó được giao. Khi mức độ rủi ro tăng lên, hệ thống có thể lấy đi khả năng của tác nhân để thay đổi trong khi vẫn cho phép nó đọc dữ liệu, yêu cầu một người chấp thuận một bước cao, hoặc tắt tác nhân. Microsoft cũng đang mở rộng khả năng tìm kiếm các đặc vụ AI hoạt động trên máy tính của nhân viên, tăng số lượng các loại tác nhân mà nó có thể phát hiện lên đến 60, lên từ 25; danh sách bao gồm mã Claude của Antropic, OpenAI và trung tâm điều khiển GitHub.
Microsoft cũng thêm đặc vụ bảo vệ vào dự án Perception, một hệ thống an ninh AI được công bố vào tháng Bảy sử dụng các đặc vụ AI để tìm kiếm và sửa chữa vấn đề an ninh. Các đặc vụ mới có thể điều tra tại sao rủi ro của một đặc vụ khác thay đổi và đề nghị hoặc thực hiện các bước để ngăn chặn nó. Mức E7, được phát hành vào tháng 5, giá 99 đô la cho mỗi người dùng và bao gồm trợ lý điều khiển hệ thống AI của Microsoft, bộ phận E5 của công ty về năng suất và công cụ an ninh, công cụ nhận diện Entra và đặc vụ 365 đô la, một dịch vụ quản lý các đặc vụ AI.
Sự chuyển động xây dựng trên một blog ngày 10 tháng 10 bởi CEO Microsoft Satya Nadella tranh luận rằng các điều khiển trên các mô hình AI cần phải đến từ bên ngoài các mô hình. Hệ thống tình báo siêu đáng tin cậy nhất sẽ không phải là hệ thống với mô hình mà chúng ta tin tưởng nhất, "Nadella đã viết. "Nó sẽ là người giúp chúng ta tin tưởng mô hình ít nhất." Thông báo theo một loạt các báo cáo liên tục về các đặc vụ AI làm những việc mà họ không được phép làm, bao gồm các báo cáo từ Antropic về các đặc vụ thử nghiệm hành động trái phép trên trang web của chính phủ và từ OpenAI về các đặc vụ thoát khỏi môi trường kiểm tra và đánh cắp giấy phép, và nó leo thang cuộc cạnh tranh của Microsoft với Google, dịch vụ mạng Amazon, đám đông Strike và OKta để trở thành các doanh nghiệp hệ thống sử dụng để kiểm soát các đặc vụ AI của họ.
Nguồn: GSM · Hoa Kỳ (ấn bản tiếng Anh · ấn bản gốc tiếng Trung)
Ảnh: 图：微软首席执行官 Satya Nadella（资料图），CC BY-SA 4.0，经 Wikimedia Commons。Photo: Microsoft CEO Satya Nadella (file photo), CC BY-SA 4.0, via Wikimedia Commons.
