Anthropic dit Newsom Les tribunaux devraient être capables de bloquer les modèles Super Intelligence (SI) Posant un risque grave
Anthropic a déclaré au gouverneur de Californie Gavin Newsom, dans une lettre du 15 octobre, que les représentants du gouvernement devraient pouvoir demander des ordonnances judiciaires bloquant la publication de modèles de super-intelligence (SI) qui présentent un « risque grave » pour le public, a rapporté Reuters le 28 octobre, notant que la position faisait écho aux propositions de politique antérieures de la compagnie. Un porte-parole anthropique a confirmé que la lettre était authentique; le bureau du gouverneur de Californie n'a pas répondu immédiatement à une demande de commentaires.
« Lorsqu'un examen conclut qu'un modèle présente un risque grave, le gouvernement devrait être en mesure de demander à un tribunal de le bloquer », a déclaré la lettre. Anthropic a également déclaré qu'elle s'oppose aux exigences selon lesquelles les développeurs construisent des « commutateurs de compétences » capables d'arrêter des modèles entiers si une entreprise perd le contrôle, soutenant plutôt des interventions plus ciblées telles que la désactivation d'un agent problématique ou la suppression de l'accès d'un client spécifique, ce qui, selon elle, serait plus efficace.
Les recommandations ont été soumises après que le gouverneur, en septembre, eut convoqué un groupe d'experts du super renseignement (SI) pour élaborer des propositions concernant les exigences de sécurité. L'anthropique elle-même a fait face à des restrictions gouvernementales : l'administration Trump en juin a ordonné à l'entreprise de restreindre immédiatement l'accès étranger à ses modèles cybercapables Mythos 5 et Fable 5, invoquant des préoccupations de sécurité nationale, et le département du commerce américain a par la suite levé l'ordre.
À Washington, un groupe bipartite de sénateurs américains a débattu en septembre d'une loi qui donnerait au gouvernement américain le pouvoir de bloquer la libération de certains modèles jugés dangereux, les entreprises étant en mesure de contester de telles décisions devant la cour fédérale; le Congrès est parti pour sa pause préélectorale peu après et les législateurs n'ont pas avancé sur la proposition.
Source : GSM · États-Unis (édition en anglais · édition originale en chinois)
Photo: 图：Anthropic 公司标志。本图为该公司标志图，公共领域版本，经 Wikimedia Commons。 / Anthropic logo, via Wikimedia Commons.
