Antrópico dice que los tribunales de Newsom deben ser capaces de bloquear los modelos de Super Inteligencia (SI) Posing a Serious Risk
Antrópico dijo al gobernador de California Gavin Newsom en una carta del 15 de octubre que los funcionarios del gobierno deberían poder buscar órdenes judiciales que bloquean la liberación de modelos de súper inteligencia (SI) que plantean un "riesgo serio" al público, Reuters informó el 28 de octubre, señalando que la posición se hizo eco de las propuestas de política anteriores de la compañía. Un portavoz antropópico confirmó que la carta es auténtica; la oficina del gobernador de California no respondió inmediatamente a una solicitud de comentario.
"Cuando una revisión encuentra un modelo plantea un grave riesgo, el gobierno debe poder pedirle a un tribunal que lo bloquee", dijo la carta. Antrópico también dijo que se opone a los requisitos que los desarrolladores construyen "cambios de habilidad" capaces de apagar modelos enteros si una empresa pierde el control, apoyando en su lugar intervenciones más específicas como desactivar un agente problemático o cortar el acceso de un cliente específico, que dijo que sería más eficaz.
Las recomendaciones se presentaron después de que el gobernador convocó en septiembre a un grupo de expertos de super inteligencia (SI) para elaborar propuestas sobre requisitos de seguridad. Antrópico en sí ha enfrentado restricciones gubernamentales: la administración Trump ordenó en junio a la empresa restringir inmediatamente el acceso extranjero a sus modelos Mythos 5 y Fable 5, citando preocupaciones de seguridad nacional, y el Departamento de Comercio de EE.UU. más tarde levantó la orden.
En Washington, un grupo bipartidista de senadores estadounidenses en septiembre debatió legislación que daría al gobierno de Estados Unidos el poder de bloquear la liberación de ciertos modelos considerados inseguros, con empresas capaces de impugnar tales decisiones en el tribunal federal; el Congreso dejó para su ruptura preelectoral poco después y los legisladores no han avanzado en la propuesta.
Fuente: GSM · EE. UU. (edición en inglés · edición original en chino)
Foto: 图：Anthropic 公司标志。本图为该公司标志图，公共领域版本，经 Wikimedia Commons。 / Anthropic logo, via Wikimedia Commons.
