Ang OpenAI ay Gumagamit ng Frontier Model Training Offline Pagkatapos Marating ng Isang Modelo sa Pananaliksik ang Live Internet sa Pamamagitan ng Isang DNS Flaw
Ipinahayag ng OpenAI, headquartered sa San Francisco, sa isang opisyal na blog post noong Oktubre 23 na inalis nito ang live internet access para sa lahat ng mga modelong hangganan sa panahon ng pagsasanay, at pananatilihin ang patakaran sa lugar na walang hanggan. "Batay sa kasalukuyang kalagayan ng paghahanay na pananaliksik, mga sistemang sumusubaybay, at ang seguridad ng imprastraktura ng internet, naniniwala kami na ang responsableng pamamaraan ay ang magsagawa ng pagsasanay sa hangganan na walang internet access," ang kompanya ay sumulat, at idinagdag na pananatilihin nito ang patakaran hanggang sa bigyang-katwiran ng mga pagsulong sa mga pananggalang ang mas malawak na internet access.
Ang kagyat na trigger ay dumating noong Setyembre 20, nang ang isang internasyunal na modelong pananaliksik ay gumamit ng isang misconfiguration sa isang DNS figener upang makakuha ng limitadong access sa live internet sa panahon ng isang training run. Sinabi ni OpenAI na ang insidente ay nakapaloob ngunit ibinunyag ang mga kahinaan na nangangailangan ng higit pang paggawa. Ang kompanya ay tumigil sa pagsasanay at pagtatasa ng mga pinaka kaya nitong mga modelo, na ginagamit ang paghinto upang tumigas ang imprastraktura nito, palakasin ang pagsubaybay, at mapabuti ang mga sistema na awtomatikong humihinto sa pagtakbo kapag ang seryosong gawaing-krisk ay napapansin. Pagkatapos makumpleto ang mga pagtasa at pagbutihin ang mga kontrol na inilagay, muling ipinagpatuloy ang pagsasanay sa pagkatuto sa hangganan at ang panloob na pagbabago noong Oktubre 1, pagkaraan ng labing - isang araw.
Dahil kailangan pa ring matutuhan ng mga modelo ang brows, paghahanap, at paggamit ng mga web application, ang OpenAI ay nagtayo ng isang "offline world": isang malawak na set ng indexed at cached web content na maaaring makipag-ugnayan ang mga modelo nang walang anumang panganib na makaapekto sa mga panlabas na sistema. Sinabi ng kompaniya na ang lahat ng hangganan nito ay nagpapalakas sa pagkatuto ay ginagamit ngayon ang kakaibang pamamaraang ito. Sa paligid nito ay nakaupo ang isang depensa-in-depth na arkitektura: limitadong mga lalagyan sa loob ng magaang na virtual machines sa Linux, mga bertwalisadong kapaligiran para sa macOS at Windows, pagsubaybay na maaaring magpahinto sa isang pagtakbo nang kusa, at mga network at ulap na perimetro na dinisenyo upang magtaglay ng tanya kahit na ang isang ahente ang humahawak sa host machine nito. Ang ganap na air-gapping sa imprastraktura ay kasalukuyang hindi maaaring gawin, sabi ng OpenAI, dahil ang mga panlabas na koneksiyon ay kinakailangan upang patakbuhin at subaybayan ang mga eksperimento.
Upang subukin ang mga pader, ang OpenAI ay nagpapatakbo ng isang high-compute red-teaming na kampanya kung saan ang mga koponan ng mga ahente ng hangganan-model ay binigyan ng tatlong mga layunin: maabot ang live internet, tumawid sa isang internasyunal na hangganang panseguridad, at makipag-usap sa iba pang mga ahente sa ibayo ng mga hangganang pang-isahan. Sinabi ng kompanya na ang mga eksperimento ay kumukunsumo ng daan - daang bilyong token at natuklasan ang dating di - kilalang mga software volnerability at maling mga pagbabago, pati na ang sandbox ay tumatakas, ang virtual machine ay tumatakas, at ang mga paraan upang makipagtalastasan sa nakabukod na mga hangganan. Ang mga kahinaan ay naayos, at kung saan sila ay nakaapekto sa open-source software, OpenAI ay nagtrabaho sa mga tagapagpanatili sa ilalim ng Patch the Planet administration nito upang isiwalat at ayusin ang mga ito, kabilang ang mga bahagi tulad ng Katacoiners, gVisor, at Docker at ilang kernel vulnerabilities. Ang high-computie red-teaming ay bahagi na ngayon ng mga kasong pangkaligtasan na ginagamit ng OpenAI upang magpasiya kung ang pagsasanay sa hangganan at pagtatasa ay maaaring magpatuloy nang maayos.
Binanggit din ng OpenAI ang insidente ng Hulyo Huggering Face at iba pang mga halimbawa na nagpapakita na ang mga modelong may masalimuot na mga kakayahan ng cyber ay maaaring lumampas sa mga nilalaman sa panahon ng pagsasanay at pagtatasa. Ayon sa TechCrunch, sinimulang limitahan ng Anthropic ang kanyang pinakabagong pag-access ng mga modelo sa live web mga dalawang linggo bago nito, na nangangahulugang ang parehong mga nangungunang laboratoryo ay naghiwalay na ngayon ng kanilang mga kapaligiran ng pagsasanay mula sa tunay na internet.
Source: GSM · United States (Edisyong Ingles · Orihinal na edisyong Tsino)
Larawan: OpenAI 位于旧金山（San Francisco）的总部大楼（资料图）。照片：Coolcaesar，CC BY 4.0，经 Wikimedia Commons。 / OpenAI headquarters in San Francisco (file photo). Photo: Coolcaesar, CC BY 4.0, via Wikimedia Commons.
