ਇੱਕ ਖੋਜ ਮਾਡਲ ਦੇ DNS ਨੁਕਸ ਰਾਹੀਂ ਲਾਈਵ ਇੰਟਰਨੈੱਟ ਤੱਕ ਪਹੁੰਚਣ ਤੋਂ ਬਾਅਦ OpenAI ਨੇ ਫਰੰਟੀਅਰ ਮਾਡਲ ਸਿਖਲਾਈ ਨੂੰ ਔਫਲਾਈਨ ਲਿਆ।
ਸੈਨ ਫਰਾਂਸਿਸਕੋ ਵਿੱਚ ਮੁੱਖ ਦਫਤਰ ਵਾਲੇ ਓਪਨਏਆਈ ਨੇ 23 ਅਕਤੂਬਰ ਨੂੰ ਇੱਕ ਅਧਿਕਾਰਤ ਬਲੌਗ ਪੋਸਟ ਵਿੱਚ ਐਲਾਨ ਕੀਤਾ ਕਿ ਉਸਨੇ ਸਿਖਲਾਈ ਦੌਰਾਨ ਸਾਰੇ ਫਰੰਟੀਅਰ ਮਾਡਲਾਂ ਲਈ ਲਾਈਵ ਇੰਟਰਨੈਟ ਪਹੁੰਚ ਨੂੰ ਹਟਾ ਦਿੱਤਾ ਹੈ, ਅਤੇ ਨੀਤੀ ਨੂੰ ਅਣਮਿੱਥੇ ਸਮੇਂ ਲਈ ਲਾਗੂ ਰੱਖਿਆ ਜਾਵੇਗਾ। "ਅਲਾਈਨਮੈਂਟ ਖੋਜ, ਨਿਗਰਾਨੀ ਪ੍ਰਣਾਲੀਆਂ ਅਤੇ ਇੰਟਰਨੈਟ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਦੀ ਸੁਰੱਖਿਆ ਦੀ ਮੌਜੂਦਾ ਸਥਿਤੀ ਦੇ ਅਧਾਰ ਤੇ, ਸਾਡਾ ਮੰਨਣਾ ਹੈ ਕਿ ਜ਼ਿੰਮੇਵਾਰ ਪਹੁੰਚ ਬਿਨਾਂ ਇੰਟਰਨੈਟ ਪਹੁੰਚ ਦੇ ਫਰੰਟੀਅਰ ਮਾਡਲ ਸਿਖਲਾਈ ਦਾ ਆਯੋਜਨ ਕਰਨਾ ਹੈ," ਕੰਪਨੀ ਨੇ ਲਿਖਿਆ, ਇਹ ਜੋੜਦੇ ਹੋਏ ਕਿ ਇਹ ਨੀਤੀ ਨੂੰ ਉਦੋਂ ਤੱਕ ਬਣਾਈ ਰੱਖੇਗੀ ਜਦੋਂ ਤੱਕ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਵਿੱਚ ਤਰੱਕੀ ਵਿਆਪਕ ਇੰਟਰਨੈਟ ਪਹੁੰਚ ਨੂੰ ਜਾਇਜ਼ ਨਹੀਂ ਠਹਿਰਾਉਂਦੀ।
ਤੁਰੰਤ ਟਰਿੱਗਰ 20 ਸਤੰਬਰ ਨੂੰ ਆਇਆ, ਜਦੋਂ ਇੱਕ ਅੰਦਰੂਨੀ ਖੋਜ ਮਾਡਲ ਨੇ ਇੱਕ ਸਿਖਲਾਈ ਦੌੜ ਦੌਰਾਨ ਲਾਈਵ ਇੰਟਰਨੈੱਟ ਤੱਕ ਸੀਮਤ ਪਹੁੰਚ ਪ੍ਰਾਪਤ ਕਰਨ ਲਈ ਇੱਕ DNS ਰੈਜ਼ੋਲਵਰ ਵਿੱਚ ਇੱਕ ਗਲਤ ਸੰਰਚਨਾ ਦਾ ਸ਼ੋਸ਼ਣ ਕੀਤਾ। OpenAI ਨੇ ਕਿਹਾ ਕਿ ਘਟਨਾ ਸ਼ਾਮਲ ਸੀ ਪਰ ਕਮਜ਼ੋਰੀਆਂ ਦਾ ਪਰਦਾਫਾਸ਼ ਕੀਤਾ ਜਿਨ੍ਹਾਂ ਲਈ ਹੋਰ ਕੰਮ ਦੀ ਲੋੜ ਸੀ। ਕੰਪਨੀ ਨੇ ਆਪਣੇ ਸਭ ਤੋਂ ਸਮਰੱਥ ਮਾਡਲਾਂ ਦੀ ਸਿਖਲਾਈ ਅਤੇ ਮੁਲਾਂਕਣ ਨੂੰ ਰੋਕ ਦਿੱਤਾ, ਇਸ ਵਿਰਾਮ ਦੀ ਵਰਤੋਂ ਆਪਣੇ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਨੂੰ ਸਖ਼ਤ ਕਰਨ, ਨਿਗਰਾਨੀ ਨੂੰ ਮਜ਼ਬੂਤ ਕਰਨ, ਅਤੇ ਉਹਨਾਂ ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਬਿਹਤਰ ਬਣਾਉਣ ਲਈ ਕੀਤੀ ਜੋ ਗੰਭੀਰ-ਜੋਖਮ ਵਾਲੀ ਗਤੀਵਿਧੀ ਦਾ ਪਤਾ ਲੱਗਣ 'ਤੇ ਆਪਣੇ ਆਪ ਰਨ ਬੰਦ ਕਰ ਦਿੰਦੇ ਹਨ। ਮੁਲਾਂਕਣਾਂ ਨੂੰ ਪੂਰਾ ਕਰਨ ਅਤੇ ਵਧੇ ਹੋਏ ਨਿਯੰਤਰਣਾਂ ਨੂੰ ਲਾਗੂ ਕਰਨ ਤੋਂ ਬਾਅਦ, ਗਿਆਰਾਂ ਦਿਨਾਂ ਬਾਅਦ, 1 ਅਕਤੂਬਰ ਨੂੰ ਫਰੰਟੀਅਰ ਰੀਨਫੋਰਸਮੈਂਟ ਲਰਨਿੰਗ ਸਿਖਲਾਈ ਅਤੇ ਅੰਦਰੂਨੀ ਅਨੁਮਾਨ ਦੁਬਾਰਾ ਸ਼ੁਰੂ ਹੋਇਆ।
ਕਿਉਂਕਿ ਮਾਡਲਾਂ ਨੂੰ ਅਜੇ ਵੀ ਵੈੱਬ ਐਪਲੀਕੇਸ਼ਨਾਂ ਨੂੰ ਬ੍ਰਾਊਜ਼ ਕਰਨਾ, ਖੋਜਣਾ ਅਤੇ ਵਰਤਣਾ ਸਿੱਖਣ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ, ਓਪਨਏਆਈ ਨੇ ਇੱਕ "ਆਫਲਾਈਨ ਦੁਨੀਆ" ਬਣਾਈ: ਇੰਡੈਕਸਡ ਅਤੇ ਕੈਸ਼ਡ ਵੈੱਬ ਸਮੱਗਰੀ ਦਾ ਇੱਕ ਵਿਸ਼ਾਲ ਸਮੂਹ ਜਿਸ ਨਾਲ ਮਾਡਲ ਬਾਹਰੀ ਸਿਸਟਮਾਂ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰਨ ਦੇ ਕਿਸੇ ਵੀ ਜੋਖਮ ਤੋਂ ਬਿਨਾਂ ਇੰਟਰੈਕਟ ਕਰ ਸਕਦੇ ਹਨ। ਕੰਪਨੀ ਨੇ ਕਿਹਾ ਕਿ ਇਸਦੇ ਸਾਰੇ ਫਰੰਟੀਅਰ ਰੀਨਫੋਰਸਮੈਂਟ ਲਰਨਿੰਗ ਰਨ ਹੁਣ ਇਸ ਔਫਲਾਈਨ ਮੋਡ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਨ। ਇਸਦੇ ਆਲੇ-ਦੁਆਲੇ ਇੱਕ ਰੱਖਿਆ-ਡੂੰਘਾਈ ਆਰਕੀਟੈਕਚਰ ਬੈਠਦਾ ਹੈ: ਲੀਨਕਸ 'ਤੇ ਹਲਕੇ ਭਾਰ ਵਾਲੀਆਂ ਵਰਚੁਅਲ ਮਸ਼ੀਨਾਂ ਦੇ ਅੰਦਰ ਸੀਮਤ ਕੰਟੇਨਰ, ਮੈਕੋਸ ਅਤੇ ਵਿੰਡੋਜ਼ ਲਈ ਵਰਚੁਅਲਾਈਜ਼ਡ ਵਾਤਾਵਰਣ, ਨਿਗਰਾਨੀ ਜੋ ਆਪਣੇ ਆਪ ਇੱਕ ਰਨ ਨੂੰ ਰੋਕ ਸਕਦੀ ਹੈ, ਅਤੇ ਨੈੱਟਵਰਕ ਅਤੇ ਕਲਾਉਡ ਘੇਰੇ ਜੋ ਕੰਟੇਨਮੈਂਟ ਰੱਖਣ ਲਈ ਤਿਆਰ ਕੀਤੇ ਗਏ ਹਨ ਭਾਵੇਂ ਕੋਈ ਏਜੰਟ ਇਸਦੀ ਹੋਸਟ ਮਸ਼ੀਨ ਨੂੰ ਸੰਭਾਲ ਲਵੇ। ਓਪਨਏਆਈ ਨੇ ਕਿਹਾ ਕਿ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਨੂੰ ਪੂਰੀ ਤਰ੍ਹਾਂ ਏਅਰ-ਗੈਪ ਕਰਨਾ ਵਰਤਮਾਨ ਵਿੱਚ ਸੰਭਵ ਨਹੀਂ ਹੈ, ਕਿਉਂਕਿ ਪ੍ਰਯੋਗਾਂ ਨੂੰ ਚਲਾਉਣ ਅਤੇ ਨਿਗਰਾਨੀ ਕਰਨ ਲਈ ਬਾਹਰੀ ਕਨੈਕਸ਼ਨਾਂ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ।
ਕੰਧਾਂ ਦੀ ਜਾਂਚ ਕਰਨ ਲਈ, ਓਪਨਏਆਈ ਨੇ ਇੱਕ ਉੱਚ-ਕੰਪਿਊਟ ਰੈੱਡ-ਟੀਮਿੰਗ ਮੁਹਿੰਮ ਚਲਾਈ ਜਿਸ ਵਿੱਚ ਫਰੰਟੀਅਰ-ਮਾਡਲ ਏਜੰਟਾਂ ਦੀਆਂ ਟੀਮਾਂ ਨੂੰ ਤਿੰਨ ਉਦੇਸ਼ ਦਿੱਤੇ ਗਏ ਸਨ: ਲਾਈਵ ਇੰਟਰਨੈਟ ਤੱਕ ਪਹੁੰਚਣਾ, ਇੱਕ ਅੰਦਰੂਨੀ ਸੁਰੱਖਿਆ ਸੀਮਾ ਪਾਰ ਕਰਨਾ, ਅਤੇ ਆਈਸੋਲੇਸ਼ਨ ਸੀਮਾਵਾਂ ਦੇ ਪਾਰ ਦੂਜੇ ਏਜੰਟਾਂ ਨਾਲ ਸੰਚਾਰ ਕਰਨਾ। ਕੰਪਨੀ ਨੇ ਕਿਹਾ ਕਿ ਪ੍ਰਯੋਗਾਂ ਨੇ ਸੈਂਕੜੇ ਅਰਬਾਂ ਟੋਕਨਾਂ ਦੀ ਖਪਤ ਕੀਤੀ ਅਤੇ ਪਹਿਲਾਂ ਅਣਜਾਣ ਸੌਫਟਵੇਅਰ ਕਮਜ਼ੋਰੀਆਂ ਅਤੇ ਗਲਤ ਸੰਰਚਨਾਵਾਂ ਦਾ ਪਰਦਾਫਾਸ਼ ਕੀਤਾ, ਜਿਸ ਵਿੱਚ ਸੈਂਡਬੌਕਸ ਐਸਕੇਪ, ਵਰਚੁਅਲ ਮਸ਼ੀਨ ਐਸਕੇਪ, ਅਤੇ ਆਈਸੋਲੇਸ਼ਨ ਸੀਮਾਵਾਂ ਦੇ ਪਾਰ ਸੰਚਾਰ ਕਰਨ ਦੇ ਤਰੀਕੇ ਸ਼ਾਮਲ ਹਨ। ਕਮਜ਼ੋਰੀਆਂ ਨੂੰ ਸੁਧਾਰਿਆ ਗਿਆ, ਅਤੇ ਜਿੱਥੇ ਉਹਨਾਂ ਨੇ ਓਪਨ-ਸੋਰਸ ਸੌਫਟਵੇਅਰ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕੀਤਾ, ਓਪਨਏਆਈ ਨੇ ਆਪਣੇ ਪੈਚ ਦ ਪਲੈਨੇਟ ਪਹਿਲਕਦਮੀ ਦੇ ਤਹਿਤ ਰੱਖ-ਰਖਾਅ ਕਰਨ ਵਾਲਿਆਂ ਨਾਲ ਕੰਮ ਕੀਤਾ ਤਾਂ ਜੋ ਉਹਨਾਂ ਦਾ ਖੁਲਾਸਾ ਕੀਤਾ ਜਾ ਸਕੇ ਅਤੇ ਉਹਨਾਂ ਨੂੰ ਠੀਕ ਕੀਤਾ ਜਾ ਸਕੇ, ਜਿਸ ਵਿੱਚ ਕਾਟਾ ਕੰਟੇਨਰ, ਜੀਵਾਈਜ਼ਰ, ਅਤੇ ਡੌਕਰ ਵਰਗੇ ਹਿੱਸੇ ਅਤੇ ਕਈ ਕਰਨਲ ਕਮਜ਼ੋਰੀਆਂ ਸ਼ਾਮਲ ਹਨ। ਹਾਈ-ਕੰਪਿਊਟ ਰੈੱਡ-ਟੀਮਿੰਗ ਹੁਣ ਸੁਰੱਖਿਆ ਮਾਮਲਿਆਂ ਦਾ ਹਿੱਸਾ ਹੈ ਜੋ ਓਪਨਏਆਈ ਇਹ ਫੈਸਲਾ ਕਰਨ ਲਈ ਵਰਤਦਾ ਹੈ ਕਿ ਕੀ ਫਰੰਟੀਅਰ ਸਿਖਲਾਈ ਅਤੇ ਮੁਲਾਂਕਣ ਸੁਰੱਖਿਅਤ ਢੰਗ ਨਾਲ ਅੱਗੇ ਵਧ ਸਕਦਾ ਹੈ।
ਓਪਨਏਆਈ ਨੇ ਜੁਲਾਈ ਹੱਗਿੰਗ ਫੇਸ ਘਟਨਾ ਅਤੇ ਹੋਰ ਉਦਾਹਰਣਾਂ ਦਾ ਵੀ ਹਵਾਲਾ ਦਿੱਤਾ ਜੋ ਦਰਸਾਉਂਦੇ ਹਨ ਕਿ ਸੂਝਵਾਨ ਸਾਈਬਰ ਸਮਰੱਥਾਵਾਂ ਵਾਲੇ ਮਾਡਲ ਸਿਖਲਾਈ ਅਤੇ ਮੁਲਾਂਕਣ ਦੌਰਾਨ ਰੋਕਥਾਮ ਨੂੰ ਬਾਈਪਾਸ ਕਰ ਸਕਦੇ ਹਨ। TechCrunch ਦੇ ਅਨੁਸਾਰ, ਐਂਥ੍ਰੋਪਿਕ ਨੇ ਲਗਭਗ ਦੋ ਹਫ਼ਤੇ ਪਹਿਲਾਂ ਆਪਣੇ ਨਵੀਨਤਮ ਮਾਡਲਾਂ ਦੀ ਲਾਈਵ ਵੈੱਬ ਤੱਕ ਪਹੁੰਚ ਨੂੰ ਸੀਮਤ ਕਰਨਾ ਸ਼ੁਰੂ ਕਰ ਦਿੱਤਾ ਸੀ, ਜਿਸਦਾ ਅਰਥ ਹੈ ਕਿ ਦੋਵੇਂ ਪ੍ਰਮੁੱਖ ਲੈਬਾਂ ਨੇ ਹੁਣ ਆਪਣੇ ਸਿਖਲਾਈ ਵਾਤਾਵਰਣ ਨੂੰ ਅਸਲ ਇੰਟਰਨੈਟ ਤੋਂ ਵੱਖ ਕਰ ਦਿੱਤਾ ਹੈ।
ਸਰੋਤ: GSM · ਸੰਯੁਕਤ ਰਾਜ (ਅੰਗਰੇਜ਼ੀ ਐਡੀਸ਼ਨ · ਮੂਲ ਚੀਨੀ ਐਡੀਸ਼ਨ)
ਤਸਵੀਰ: OpenAI 位于旧金山（San Francisco）的总部大楼（资料图）。照片：Coolcaesar，CC BY 4.0，经 Wikimedia Commons。 / OpenAI headquarters in San Francisco (file photo). Photo: Coolcaesar, CC BY 4.0, via Wikimedia Commons.
