OpenAI Lấy hình thức huấn luyện mẫu tiền phương sau khi một mô hình nghiên cứu đến Internet qua một luật DNS
OpenAI, đứng đầu ở San Francisco, thông báo trong một bài viết blog chính thức vào ngày 23 tháng 10 rằng nó đã loại bỏ việc truy cập trực tuyến trên mạng cho tất cả các mô hình biên giới trong quá trình đào tạo, và sẽ giữ chính sách ở đó vô thời hạn. "Theo tình trạng hiện tại của nghiên cứu thẳng hàng, hệ thống giám sát, và an ninh của cơ sở hạ tầng internet, chúng tôi tin rằng cách tiếp cận có trách nhiệm là tiến hành đào tạo mô hình biên giới mà không có truy cập internet," công ty viết, thêm rằng nó sẽ duy trì chính sách cho đến khi tiến bộ trong việc bảo vệ internet rộng hơn.
Kích hoạt ngay vào ngày 20 tháng 9, khi một mô hình nghiên cứu nội bộ khai thác một sự kết hợp sai lầm trong một giải pháp DNS để có được giới hạn truy cập Internet trong thời gian đào tạo. OpenAI nói rằng vụ việc đã được ngăn chặn nhưng những yếu kém phơi bày cần thêm công việc. Công ty đã ngừng đào tạo và đánh giá các mô hình có khả năng nhất, sử dụng sự tạm dừng để làm cứng cơ sở hạ tầng, tăng cường giám sát, và cải thiện hệ thống tự động dừng hoạt động khi phát hiện các hoạt động nguy cơ nghiêm trọng. Sau khi đánh giá hoàn tất và tăng cường điều khiển đặt vào vị trí, việc huấn luyện học thêm về biên giới và suy luận nội bộ trở lại vào ngày 1 - 10 - 11 - sau đó.
Bởi vì các mô hình vẫn cần phải học cách duyệt, tìm kiếm và sử dụng các ứng dụng web, OpenAI xây dựng một "thế giới bên ngoài": một tập hợp lớn các nội dung được chỉ mục và lưu trữ mà mô hình có thể tương tác mà không có bất kỳ nguy cơ ảnh hưởng đến các hệ thống bên ngoài. Công ty nói rằng tất cả các khóa học tăng cường biên giới của nó chạy bây giờ sử dụng chế độ ngoại tuyến này. Xung quanh nó là một kiến trúc phòng thủ: hạn chế các thùng chứa bên trong các máy ảo nhỏ nhẹ trên Linux, môi trường ảo hóa cho macOS và Windows, giám sát mà có thể dừng chạy tự động, và mạng lưới và vành đai mây được thiết kế để giữ ngăn chặn ngay cả khi một điệp viên chiếm máy chủ. Hiện tại cơ sở hạ tầng hoàn toàn không thể thực hiện được, OpenAI đã nói, bởi vì các kết nối bên ngoài cần thiết để chạy và giám sát các thí nghiệm.
Để kiểm tra các bức tường, OpenAI đã điều hành một chiến dịch tổng hợp màu đỏ cao trong đó các đội ngũ các đại lý biên giới được đưa cho ba mục tiêu: đến internet trực tiếp, vượt qua ranh giới an ninh nội bộ, và giao tiếp với các đặc vụ khác qua ranh giới cô lập. Công ty cho biết các thí nghiệm đã tiêu thụ hàng trăm tỉ vật kỷ niệm và phát hiện ra những điểm yếu chưa được biết đến trước đây của phần mềm và các sự kiện xảy ra sai, bao gồm cả các lối thoát khỏi hộp cát, máy ảo trốn thoát, và cách để giao tiếp qua ranh giới cô lập. Các điểm yếu được sửa chữa, và nơi chúng ảnh hưởng đến phần mềm mã nguồn mở, OpenAI làm việc với các nhà duy trì dưới sự chỉ huy của tổ chức Hành tinh để tiết lộ và sửa chữa chúng, bao gồm các thành phần như các chất ngăn chặn thai, gVisor, và Docker và một số yếu tố cơ bắp. Hiện tại, hệ thống báo động cao cấp là một phần của các trường hợp an toàn mà OpenAI sử dụng để quyết định liệu đào tạo biên giới và đánh giá có thể tiến hành một cách an toàn.
OpenAI cũng trích dẫn sự cố của Mặt Tháng Bảy và những ví dụ khác cho thấy những mô hình với khả năng mạng phức tạp có thể vượt qua ngăn chặn trong quá trình huấn luyện và đánh giá. Theo như TechCrunch, Antropic bắt đầu giới hạn việc truy cập web trực tuyến mới nhất của nó khoảng hai tuần trước đó, có nghĩa là cả hai phòng thí nghiệm hàng đầu bây giờ đã phân chia môi trường đào tạo của họ với internet thật.
Nguồn: GSM · Hoa Kỳ (ấn bản tiếng Anh · ấn bản gốc tiếng Trung)
Ảnh: OpenAI 位于旧金山（San Francisco）的总部大楼（资料图）。照片：Coolcaesar，CC BY 4.0，经 Wikimedia Commons。 / OpenAI headquarters in San Francisco (file photo). Photo: Coolcaesar, CC BY 4.0, via Wikimedia Commons.
