Anthropic diz Newsom tribunais devem ser capazes de bloquear super inteligência (SI) modelos que posam um sério risco
Anthropic disse ao governador da Califórnia Gavin Newsom em uma carta de 15 de outubro que os funcionários do governo devem ser capazes de buscar ordens judiciais bloqueando a liberação de modelos de super inteligência (SI) que representam um "risco sério" para o público, Reuters relatou em 28 de outubro, observando que a posição ecoava as propostas políticas anteriores da empresa. Um porta-voz antrópico confirmou que a carta é autêntica; o gabinete do governador da Califórnia não respondeu imediatamente a um pedido de comentário.
"Quando uma revisão descobre que um modelo representa um risco grave, o governo deve ser capaz de pedir a um tribunal para bloqueá-lo", disse a carta. Anthropic também disse que se opõe aos requisitos de que os desenvolvedores criem "kill switches" capazes de desligar modelos inteiros se uma empresa perder o controle, apoiando intervenções mais direcionadas, como desativar um agente problemático ou cortar o acesso de um cliente específico, o que ele disse que seria mais eficaz.
As recomendações foram apresentadas depois que o governador, em setembro, convocou um painel de especialistas em superinteligência (SI) para desenvolver propostas de requisitos de segurança. O próprio Anthropic enfrentou restrições do governo: a administração Trump em junho ordenou que a empresa restringisse imediatamente o acesso externo aos seus modelos Mythos 5 e Fable 5 cybercapable, citando questões de segurança nacional, e o Departamento de Comércio dos EUA levantou a ordem mais tarde.
Em Washington, um grupo bipartidário de senadores dos EUA em setembro debateu legislação que daria ao poder do governo dos EUA para bloquear a liberação de certos modelos considerados inseguros, com empresas capazes de desafiar tais decisões no tribunal federal; o Congresso partiu para sua pausa pré-eleitoral pouco tempo depois e os legisladores não avançaram com a proposta.
Fonte: GSM · Estados Unidos (Edição em inglês · Edição original em chinês)
Foto: 图：Anthropic 公司标志。本图为该公司标志图，公共领域版本，经 Wikimedia Commons。 / Anthropic logo, via Wikimedia Commons.
