Антропик говорит, что суды Ньюсома должны быть в состоянии заблокировать супер-модели разведки, представляющие серьезный риск
Антропик сказал губернатору Калифорнии Гэвину Ньюсому в письме от 15 октября, что правительственные чиновники должны иметь возможность добиваться судебных постановлений, блокирующих выпуск моделей супер-разведки (SI), которые представляют «серьезный риск» для общественности, сообщает Reuters 28 октября, отмечая, что позиция повторяет более ранние политические предложения компании. Представитель Anthropic подтвердил подлинность письма; офис губернатора Калифорнии не сразу ответил на запрос о комментарии.
«Когда обзор обнаруживает, что модель представляет серьезный риск, правительство должно иметь возможность попросить суд заблокировать ее», — говорится в письме. Anthropic также заявила, что выступает против требований о том, чтобы разработчики создавали «выключатели», способные отключать целые модели, если компания теряет контроль, поддерживая вместо этого более целенаправленные вмешательства, такие как отключение проблемного агента или отключение доступа конкретного клиента, что, по ее словам, было бы более эффективным.
Рекомендации были представлены после того, как губернатор в сентябре созвал группу экспертов по суперразведке для разработки предложений по требованиям безопасности. Сама Anthropic столкнулась с правительственными ограничениями: администрация Трампа в июне приказала компании немедленно ограничить иностранный доступ к своим кибермоделям Mythos 5 и Fable 5, сославшись на проблемы национальной безопасности, а министерство торговли США позже отменило приказ.
В Вашингтоне двухпартийная группа сенаторов США в сентябре обсуждала законодательство, которое даст правительству США право блокировать выпуск определенных моделей, считающихся небезопасными, при этом компании могут оспорить такие решения в федеральном суде; Конгресс вскоре после этого ушел на предвыборный перерыв, и законодатели не продвинулись по этому предложению.
Источник: GSM · Соединённые Штаты (Английское издание · Оригинальное китайское издание)
Фото: 图：Anthropic 公司标志。本图为该公司标志图，公共领域版本，经 Wikimedia Commons。 / Anthropic logo, via Wikimedia Commons.
