OpenAI Friends Frontier ماڈل ٹریننگ کے بعد تحقیقی ماڈل ڈی این ڈی فل کے ذریعے لائیو انٹرنیٹ تک رسائی حاصل کرنے کے بعد
سان فرانسسکو میں ہیڈ کوارٹرز نے 23 اکتوبر کو سرکاری بلاگ پوسٹ میں اعلان کیا کہ اس نے تربیت کے دوران تمام غیر ذمہ داریوں کے ماڈلوں کے لئے زندہ انٹرنیٹ تک رسائی ہٹا دی ہے اور پالیسی کو ہمیشہ کے لئے برقرار رکھے گا۔ "Based on the currency search of Internet system, and the security of Internet institution, ہم یقین رکھتے ہیں کہ ذمہ دارانہ طریقے سے بغیر انٹرنیٹ رسائی کے ماڈل ٹریننگ کرنا ہے" کمپنی نے لکھا ہے کہ یہ اس پالیسی کو برقرار رکھے گا جب تک کہ زیادہ سے زیادہ انٹرنیٹ رسائی کی حفاظت میں پیش قدمی نہ ہو۔
یہ حملہ 20 ستمبر کو ہوا جب ایک اندرونی تحقیقی ماڈل نے ڈیایناے میں غلط قسم کی نقلمکانی کی تاکہ تربیت کے دوران زندہ انٹرنیٹ تک محدود رسائی حاصل ہو سکے ۔ اوپنآئی کا کہنا تھا کہ حادثے کی گنجائش تھی لیکن خفیہ کمزوریاں تھیں جن کے لیے مزید کام درکار تھا۔ کمپنی نے اپنے قابل ترین ماڈلز کی تربیت اور تجزیے کو روک رکھا، وقفہ استعمال کرتے ہوئے اس کی اساس کو مضبوط کرنے، نگرانی کو مضبوط کرنے اور بہتر کرنے کے نظام کو بہتر بنایا جو سنجیدہ سرگرمی کے عمل کو خود کار طریقے سے چلایا جاتا ہے۔ تحقیق مکمل کرنے اور مزید ترقی کرنے کے بعد ، اکتوبر ۱ ، انیس دن بعد غیرمتوقع طور پر تعلیم حاصل کرنے اور اندرونی طور پر ترقی کرنے کے قابل ہوئے ۔
کیونکہ ماڈلوں کو اب بھی نقل و حمل، تلاش اور استعمال میں لانے کی ضرورت ہے، OpenAI نے "Ofline دنیا" بنائی: Indexed and Cacheded web مواد کا ایک وسیع مجموعہ جو ماڈلز بیرونی نظام کو متاثر کیے بغیر کسی خطرے سے دوچار ہو سکتے ہیں۔ کمپنی نے کہا کہ اس کی تمام غیرمعمولی سیکھنے کا عمل اب اس ڈرون موڈ استعمال کرتا ہے۔ اس کے ارد گرد ایک دفاعی آرکیٹیکچر بیٹھ جاتا ہے: لینکس پر ہلکے وزن کے ویژیول مشینوں کے اندر، ویژیولائزڈ ماحول، جو خود کار طور پر چلانے سے روک سکتا ہے، اور نیٹ ورک اور بادل کے پرے بنانے کے لئے بنایا گیا ہے کہ اگر ایک ایجنٹ اپنے میزبان مشین پر قبضہ کر لے تو ہوائی اڈے کی نقشہ سازی فی الحال قابل عمل نہیں، اوپنآئی نے کہا، کیونکہ تجربات چلانے اور نگرانی کرنے کے لیے بیرونی تعلقات کی ضرورت ہے۔
دیواروں کو جانچنے کے لیے، اوپنAI نے ایک اعلیٰ سرخ رنگ کی مہم چلائی جس میں غیر منظم ایجنٹوں کی ٹیموں کو تین مقاصد دیے گئے: زندہ انٹرنیٹ تک پہنچنے، اندرونی حفاظتی سرحد پار کرنا اور علیحدگی کی حدود کے دوران دیگر اداروں سے رابطہ کرنا۔ کمپنی نے بیان کِیا کہ اس تجربے نے سینکڑوں اربوں علامات اور اس سے پہلے نامعلوم سافٹ ویئر کی کارکردگیوں اور غلطیوں کو بھانپ لیا تھا جن میں سینڈ بکس بچ جاتا ہے ، عملی مشین فرار ہو جاتی ہے اور الگتھلگ حدود سے رابطہ کرنے کے طریقے بھی شامل ہیں ۔ اس کمزوریوں کو دوبارہ منظم کیا گیا اور جہاں انہوں نے کھلے ماخذ سافٹ ویئر کو متاثر کیا، اوپنAI نے اپنے پیٹ کے نیچے سیارے کی سرگرمی کے ساتھ کام کیا تاکہ انہیں ظاہر کیا جا سکے اور اس کی اصلاح کی جا سکے، جس میں کیٹا سیریز، گیسور، اور ڈکار اور کئی ری ایکٹر وغیرہ شامل ہیں۔ ہائی کومپٹ ریڈ تھیٹر اب حفاظتی معاملوں کا حصہ ہے اوپنAI یہ فیصلہ کرنے کے لیے استعمال ہوتا ہے کہ آیا غیر مستحکم تربیت اور تجزیہ محفوظ طریقے سے چل سکتا ہے۔
OpenAI نے جولائی کے ڈرون چہرے کے واقعے کا بھی ذکر کیا اور دیگر مثالوں سے ظاہر ہوتا ہے کہ تربیت اور تجزیے کے دوران ایسے ماڈلز شامل ہو سکتے ہیں ۔ کرناٹک کے مطابق، اینتھولک نے اپنے نئے ترین ماڈلز کی رسائی کو تقریباً دو ہفتوں پہلے زندہ ویب تک محدود کرنا شروع کیا، جس کا مطلب یہ ہے کہ لیڈر لیبیس نے اب اپنے تربیتی ماحول کو اصلی انٹرنیٹ سے الگ کر دیا ہے۔
ماخذ: GSM · امریکہ (انگریزی ایڈیشن · اصل چینی ایڈیشن)
تصویر: OpenAI 位于旧金山（San Francisco）的总部大楼（资料图）。照片：Coolcaesar，CC BY 4.0，经 Wikimedia Commons。 / OpenAI headquarters in San Francisco (file photo). Photo: Coolcaesar, CC BY 4.0, via Wikimedia Commons.
