OpenAI ເອົາການຝຶກອົບຮົມແບບຈຳລອງ Frontier ອອກເປັນອອບລາຍຫຼັງຈາກແບບຈຳລອງການຄົ້ນຄວ້າໄດ້ເຂົ້າເຖິງອິນເຕີເນັດສົດຜ່ານຂໍ້ບົກຜ່ອງ DNS
ໃນວັນທີ 23 ຕຸລາ, OpenAI ໄດ້ປະກາດໃນບລັອກຢ່າງເປັນທາງການວ່າ ໄດ້ລຶບການເຂົ້າເຖິງອິນເຕີເນັດສົດສຳລັບຮູບແບບຊາຍແດນທັງໝົດໃນລະຫວ່າງການຝຶກອົບຮົມ, ແລະ ຈະຮັກສານະໂຍບາຍດັ່ງກ່າວໄວ້ຢ່າງບໍ່ມີກຳນົດ. "ໂດຍອີງໃສ່ສະພາບປັດຈຸບັນຂອງການຄົ້ນຄວ້າການຈັດລຽນ, ລະບົບຕິດຕາມກວດກາ, ແລະ ຄວາມປອດໄພຂອງພື້ນຖານໂຄງລ່າງອິນເຕີເນັດ, ພວກເຮົາເຊື່ອວ່າວິທີການທີ່ມີຄວາມຮັບຜິດຊອບແມ່ນການດຳເນີນການຝຶກອົບຮົມຮູບແບບຊາຍແດນໂດຍບໍ່ມີການເຂົ້າເຖິງອິນເຕີເນັດ," ບໍລິສັດຂຽນ, ໂດຍກ່າວຕື່ມວ່າ ຈະຮັກສານະໂຍບາຍດັ່ງກ່າວໄວ້ຈົນກວ່າຄວາມກ້າວໜ້າໃນການປົກປ້ອງຈະສົມເຫດສົມຜົນຕໍ່ການເຂົ້າເຖິງອິນເຕີເນັດທີ່ກວ້າງຂວາງ.
ສາເຫດທັນທີທັນໃດເກີດຂຶ້ນໃນວັນທີ 20 ກັນຍາ, ເມື່ອຮູບແບບການຄົ້ນຄວ້າພາຍໃນໄດ້ໃຊ້ປະໂຫຍດຈາກການຕັ້ງຄ່າທີ່ບໍ່ຖືກຕ້ອງໃນຕົວແກ້ໄຂ DNS ເພື່ອໃຫ້ສາມາດເຂົ້າເຖິງອິນເຕີເນັດສົດໄດ້ຢ່າງຈຳກັດໃນລະຫວ່າງການຝຶກອົບຮົມ. OpenAI ກ່າວວ່າເຫດການດັ່ງກ່າວຖືກຄວບຄຸມແລ້ວ ແຕ່ໄດ້ເປີດເຜີຍຈຸດອ່ອນທີ່ຕ້ອງການການເຮັດວຽກຕື່ມອີກ. ບໍລິສັດໄດ້ຢຸດການຝຶກອົບຮົມ ແລະ ການປະເມີນຜົນຂອງຮູບແບບທີ່ມີຄວາມສາມາດສູງສຸດຂອງຕົນໄວ້ຊົ່ວຄາວ, ໂດຍໃຊ້ການຢຸດຊົ່ວຄາວເພື່ອເຮັດໃຫ້ພື້ນຖານໂຄງລ່າງຂອງຕົນແຂງແຮງ, ເສີມສ້າງການຕິດຕາມກວດກາ, ແລະ ປັບປຸງລະບົບທີ່ຢຸດການເຮັດວຽກໂດຍອັດຕະໂນມັດເມື່ອກວດພົບກິດຈະກຳທີ່ມີຄວາມສ່ຽງຮ້າຍແຮງ. ຫຼັງຈາກການປະເມີນສຳເລັດ ແລະ ມີການຄວບຄຸມທີ່ດີຂຶ້ນ, ການຝຶກອົບຮົມການຮຽນຮູ້ການເສີມສ້າງຊາຍແດນ ແລະ ການອະນຸມານພາຍໃນໄດ້ເລີ່ມຕົ້ນຄືນໃໝ່ໃນວັນທີ 1 ຕຸລາ, ສິບເອັດມື້ຕໍ່ມາ.
ເນື່ອງຈາກຮູບແບບຍັງຕ້ອງຮຽນຮູ້ທີ່ຈະຊອກຫາ, ຄົ້ນຫາ ແລະ ນຳໃຊ້ແອັບພລິເຄຊັນເວັບ, OpenAI ໄດ້ສ້າງ "ໂລກອອບໄລນ໌": ຊຸດເນື້ອຫາເວັບທີ່ມີດັດຊະນີ ແລະ ແຄສໄວ້ຢ່າງຫຼວງຫຼາຍ ເຊິ່ງຮູບແບບສາມາດພົວພັນກັບໄດ້ໂດຍບໍ່ມີຄວາມສ່ຽງຕໍ່ການສົ່ງຜົນກະທົບຕໍ່ລະບົບພາຍນອກ. ບໍລິສັດກ່າວວ່າ ການຮຽນຮູ້ການເສີມສ້າງຂອບເຂດທັງໝົດຂອງມັນໃນປັດຈຸບັນໃຊ້ໂໝດອອບໄລນ໌ນີ້. ອ້ອມຮອບມັນມີສະຖາປັດຕະຍະກຳທີ່ເລິກເຊິ່ງໃນການປ້ອງກັນ: ບັນຈຸທີ່ຈຳກັດພາຍໃນເຄື່ອງ virtual ນ້ຳໜັກເບົາໃນ Linux, ສະພາບແວດລ້ອມ virtualized ສຳລັບ macOS ແລະ Windows, ການຕິດຕາມກວດກາທີ່ສາມາດຢຸດການແລ່ນໂດຍອັດຕະໂນມັດ, ແລະ ຂອບເຂດເຄືອຂ່າຍ ແລະ ຄລາວທີ່ຖືກອອກແບບມາເພື່ອຄວບຄຸມເຖິງແມ່ນວ່າຕົວແທນຈະເຂົ້າຄວບຄຸມເຄື່ອງໂຮດຂອງມັນ. OpenAI ກ່າວວ່າ ການສ້າງຊ່ອງຫວ່າງພື້ນຖານໂຄງລ່າງຢ່າງສົມບູນແມ່ນເປັນໄປບໍ່ໄດ້ໃນປະຈຸບັນ, ເພາະວ່າການເຊື່ອມຕໍ່ພາຍນອກແມ່ນຈຳເປັນເພື່ອດຳເນີນການ ແລະ ຕິດຕາມກວດກາການທົດລອງ.
ເພື່ອທົດສອບກຳແພງ, OpenAI ໄດ້ດຳເນີນການໂຄສະນາຫາສຽງແບບ Red Teaming ທີ່ມີຄອມພິວເຕີສູງ ເຊິ່ງທີມງານຕົວແທນແບບຈຳລອງຊາຍແດນໄດ້ຮັບຈຸດປະສົງສາມຢ່າງຄື: ເຂົ້າເຖິງອິນເຕີເນັດສົດ, ຂ້າມຂອບເຂດຄວາມປອດໄພພາຍໃນ, ແລະ ສື່ສານກັບຕົວແທນອື່ນໆຂ້າມຂອບເຂດການແຍກຕົວ. ບໍລິສັດກ່າວວ່າການທົດລອງໄດ້ໃຊ້ໂທເຄັນຫຼາຍຮ້ອຍພັນລ້ານໂທເຄັນ ແລະ ຄົ້ນພົບຊ່ອງໂຫວ່ຊອບແວ ແລະ ການຕັ້ງຄ່າທີ່ບໍ່ຖືກຕ້ອງທີ່ບໍ່ຮູ້ຈັກມາກ່ອນ, ລວມທັງການຫຼົບໜີຈາກ sandbox, ການຫຼົບໜີຈາກເຄື່ອງ virtual, ແລະ ວິທີການສື່ສານຂ້າມຂອບເຂດການແຍກຕົວ. ຈຸດອ່ອນໄດ້ຮັບການແກ້ໄຂ, ແລະ ບ່ອນທີ່ພວກມັນສົ່ງຜົນກະທົບຕໍ່ຊອບແວແຫຼ່ງເປີດ, OpenAI ໄດ້ເຮັດວຽກຮ່ວມກັບຜູ້ຮັກສາພາຍໃຕ້ໂຄງການ Patch the Planet ເພື່ອເປີດເຜີຍ ແລະ ແກ້ໄຂພວກມັນ, ລວມທັງອົງປະກອບຕ່າງໆເຊັ່ນ Kata Containers, gVisor, ແລະ Docker ແລະ ຊ່ອງໂຫວ່ kernel ຫຼາຍໆອັນ. ການຈັດກຸ່ມ Red Teaming ທີ່ມີຄອມພິວເຕີສູງໃນປັດຈຸບັນແມ່ນສ່ວນໜຶ່ງຂອງກໍລະນີຄວາມປອດໄພທີ່ OpenAI ໃຊ້ເພື່ອຕັດສິນໃຈວ່າການຝຶກອົບຮົມ ແລະ ການປະເມີນຜົນຊາຍແດນສາມາດດຳເນີນໄປໄດ້ຢ່າງປອດໄພຫຼືບໍ່.
OpenAI ຍັງໄດ້ອ້າງເຖິງເຫດການກອດໜ້າໃນເດືອນກໍລະກົດ ແລະ ຕົວຢ່າງອື່ນໆທີ່ສະແດງໃຫ້ເຫັນວ່າຮູບແບບທີ່ມີຄວາມສາມາດທາງໄຊເບີທີ່ຊັບຊ້ອນສາມາດຫຼີກລ່ຽງການກັກຂັງໃນລະຫວ່າງການຝຶກອົບຮົມ ແລະ ການປະເມີນຜົນ. ອີງຕາມ TechCrunch, Anthropic ໄດ້ເລີ່ມຈຳກັດການເຂົ້າເຖິງເວັບສົດຂອງຮູບແບບໃໝ່ລ່າສຸດປະມານສອງອາທິດກ່ອນໜ້ານີ້, ຊຶ່ງໝາຍຄວາມວ່າຫ້ອງທົດລອງຊັ້ນນຳທັງສອງໄດ້ແຍກສະພາບແວດລ້ອມການຝຶກອົບຮົມຂອງພວກເຂົາອອກຈາກອິນເຕີເນັດຕົວຈິງແລ້ວ.
ແຫຼ່ງຂໍ້ມູນ: GSM · ສະຫະລັດອາເມຣິກາ (ສະບັບພາສາອັງກິດ · ສະບັບຕົ້ນສະບັບພາສາຈີນ)
ຮູບພາບ: OpenAI 位于旧金山（San Francisco）的总部大楼（资料图）。照片：Coolcaesar，CC BY 4.0，经 Wikimedia Commons。 / OpenAI headquarters in San Francisco (file photo). Photo: Coolcaesar, CC BY 4.0, via Wikimedia Commons.
