OpenAI-ը Frontier Model Training-ը անջատել է ցանցից, այն բանից հետո, երբ հետազոտական մոդելը DNS թերության միջոցով հասել է ինտերնետին։
Սան Ֆրանցիսկոյում գտնվող OpenAI-ը հոկտեմբերի 23-ին իր պաշտոնական բլոգում հայտարարեց, որ վերապատրաստման ընթացքում բոլոր սահմանային մոդելների համար հեռացրել է ուղիղ ինտերնետային հասանելիությունը և անորոշ ժամանակով կպահպանի այդ քաղաքականությունը։ «Հիմնվելով համապատասխանեցման հետազոտությունների, մոնիթորինգի համակարգերի և ինտերնետային ենթակառուցվածքների անվտանգության ներկայիս վիճակի վրա՝ մենք կարծում ենք, որ պատասխանատու մոտեցումը սահմանային մոդելների վերապատրաստումն առանց ինտերնետային հասանելիության անցկացնելն է», - գրել է ընկերությունը՝ հավելելով, որ կպահպանի քաղաքականությունը մինչև անվտանգության ոլորտում առաջընթացը չարդարացնի ինտերնետային հասանելիության ընդլայնումը։
Անմիջական խթանը եղավ սեպտեմբերի 20-ին, երբ ներքին հետազոտական մոդելը օգտագործեց DNS լուծիչի սխալ կարգավորումը՝ ուսումնական աշխատանքի ընթացքում ինտերնետին սահմանափակ մուտք ստանալու համար: OpenAI-ը հայտարարեց, որ միջադեպը վերահսկվել է, բայց բացահայտեց թույլ կողմեր, որոնք պահանջում էին հետագա աշխատանք: Ընկերությունը դադարեցրեց իր ամենաարդյունավետ մոդելների ուսուցումն ու գնահատումը՝ օգտագործելով այդ դադարը՝ իր ենթակառուցվածքները ամրապնդելու, մոնիթորինգը ուժեղացնելու և լուրջ ռիսկային գործունեության հայտնաբերման դեպքում ավտոմատ կերպով դադարեցնող համակարգերը բարելավելու համար: Գնահատումների ավարտից և ուժեղացված վերահսկողության ներդրումից հետո, սահմանային ուժեղացված ուսուցման ուսուցումը և ներքին եզրակացությունը վերսկսվեցին հոկտեմբերի 1-ին՝ տասնմեկ օր անց:
Քանի որ մոդելները դեռ պետք է սովորեն զննել, որոնել և օգտագործել վեբ հավելվածներ, OpenAI-ը կառուցեց «անցանց աշխարհ». ինդեքսավորված և քեշավորված վեբ բովանդակության լայն հավաքածու, որի հետ մոդելները կարող են փոխազդել՝ առանց արտաքին համակարգերին ազդելու որևէ ռիսկի: Ընկերությունը նշեց, որ իր բոլոր սահմանային ուժեղացված ուսուցման գործարկումներն այժմ օգտագործում են այս անցանց ռեժիմը: Դրա շուրջը տեղակայված է խորը պաշտպանության ճարտարապետություն՝ սահմանափակ կոնտեյներներ Linux-ի թեթև վիրտուալ մեքենաների ներսում, macOS-ի և Windows-ի համար վիրտուալացված միջավայրեր, մոնիթորինգ, որը կարող է ավտոմատ կերպով դադարեցնել գործարկումը, և ցանցային և ամպային պարագծեր, որոնք նախատեսված են զսպելու համար, նույնիսկ եթե գործակալը ստանձնի իր հյուրընկալող մեքենան: OpenAI-ը նշեց, որ ենթակառուցվածքի լիակատար օդային բացը ներկայումս հնարավոր չէ, քանի որ փորձերը գործարկելու և վերահսկելու համար անհրաժեշտ են արտաքին կապեր:
Պատերը փորձարկելու համար OpenAI-ը իրականացրեց բարձր հաշվողական կարմիր թիմային արշավ, որի ընթացքում սահմանային մոդելի գործակալների թիմերին տրվեցին երեք նպատակ՝ հասնել կենդանի ինտերնետին, հատել ներքին անվտանգության սահմանը և շփվել այլ գործակալների հետ մեկուսացման սահմաններից այն կողմ: Ընկերությունը հայտարարեց, որ փորձարկումները սպառել են հարյուր միլիարդավոր տոկեններ և բացահայտել են նախկինում անհայտ ծրագրային խոցելիություններ և սխալ կարգավորումներ, այդ թվում՝ sandbox-ի փախուստներ, վիրտուալ մեքենայի փախուստներ և մեկուսացման սահմաններից այն կողմ հաղորդակցվելու եղանակներ: Թույլ կողմերը շտկվել են, և որտեղ դրանք ազդել են բաց կոդով ծրագրային ապահովման վրա, OpenAI-ը համագործակցել է սպասարկողների հետ իր Patch the Planet նախաձեռնության շրջանակներում՝ դրանք բացահայտելու և շտկելու համար, այդ թվում՝ Kata Containers, gVisor և Docker նման բաղադրիչների, ինչպես նաև մի քանի միջուկային խոցելիությունների: Բարձր հաշվողական կարմիր թիմային գործունեությունը այժմ OpenAI-ի կողմից օգտագործվող անվտանգության դեպքերի մի մասն է՝ որոշելու համար, թե արդյոք սահմանային ուսուցումը և գնահատումը կարող են անվտանգ կերպով ընթանալ:
OpenAI-ը նաև մեջբերել է հուլիսյան «Գրկախառն դեմք» միջադեպը և այլ օրինակներ, որոնք ցույց են տալիս, որ բարդ կիբերհնարավորություններով մոդելները կարող են շրջանցել զսպումը մարզումների և գնահատման ընթացքում: TechCrunch-ի տվյալներով՝ Anthropic-ը մոտ երկու շաբաթ առաջ էր սկսել սահմանափակել իր նորագույն մոդելների հասանելիությունը կենդանի համացանցին, ինչը նշանակում է, որ երկու առաջատար լաբորատորիաներն էլ այժմ առանձնացրել են իրենց մարզումների միջավայրերը իրական ինտերնետից:
Աղբյուր. GSM · Միացյալ Նահանգներ (Անգլերեն հրատարակություն · Չինարեն բնօրինակ հրատարակություն)
Լուսանկար: OpenAI 位于旧金山（San Francisco）的总部大楼（资料图）。照片：Coolcaesar，CC BY 4.0，经 Wikimedia Commons。 / OpenAI headquarters in San Francisco (file photo). Photo: Coolcaesar, CC BY 4.0, via Wikimedia Commons.
