Các phiên tòa phúc thẩm nên ngăn chặn các mô hình gây nguy hiểm nghiêm trọng
Antropic đã nói với Thống đốc California Gavin Newsom trong một lá thư 15 tháng 10 rằng các viên chức chính phủ nên có thể tìm kiếm các đơn đặt hàng ngăn chặn việc phát hành các mô hình siêu thông minh (SI) tạo ra một "sự mạo hiểm nghiêm trọng" cho công chúng, Reuters báo cáo vào ngày 28 tháng 10, về vị trí của các dự án chính sách trước đó của công ty. Một phát ngôn viên đã xác nhận lá thư là xác thực, văn phòng thống đốc California đã không đáp ứng ngay một yêu cầu bình luận.
"Khi một đánh giá thấy một mô hình gây ra một rủi ro nghiêm trọng, chính phủ nên có thể yêu cầu tòa án chặn nó," lá thư nói. Antropic cũng nói rằng nó chống lại những yêu cầu mà các nhà phát triển xây dựng "thủy tắt công tắc" có khả năng đóng cửa toàn bộ mô hình nếu một công ty mất kiểm soát, hỗ trợ thay vào đó nhiều can thiệp mục tiêu hơn như vô hiệu hóa một tác nhân vấn đề hoặc cắt đứt quyền truy cập của một khách hàng cụ thể, mà nó nói sẽ hiệu quả hơn.
Các lời đề nghị được đệ trình sau khi quan tổng đốc triệu tập vào tháng 9 một ban thông minh siêu hạng (SI) chuyên gia để phát triển đề xuất về điều kiện an toàn. Bản thân bộ phận nhân tạo đã phải đối mặt với những hạn chế của chính phủ: chính phủ Thump đã ra lệnh cho công ty ngay lập tức giới hạn quyền truy cập từ nước ngoài đến những mô hình máy tính của Mythos 5 và Fable 5 được đề cập đến các mối quan tâm an ninh quốc gia, và sau đó Bộ thương mại Hoa Kỳ đã hủy bỏ trật tự.
Ở Washington, một nhóm thượng nghị sĩ Hoa Kỳ trong dự luật tháng 9 đã tranh luận để cho chính phủ Hoa Kỳ quyền ngăn chặn sự ra mắt của một số mô hình được cho là không an toàn, với các công ty có thể thách thức những quyết định như thế tại tòa án liên bang; Quốc hội bỏ cuộc trước khi bầu cử và các nhà làm luật đã không tiến hành đề xuất.
Nguồn: GSM · Hoa Kỳ (ấn bản tiếng Anh · ấn bản gốc tiếng Trung)
Ảnh: 图：Anthropic 公司标志。本图为该公司标志图，公共领域版本，经 Wikimedia Commons。 / Anthropic logo, via Wikimedia Commons.
