AnthropicはNewsom裁判所を超知性(SI)をブロックすることができると伝え、深刻なリスクをポジショニング
Anthropicは、カリフォルニア州知事Gavin Newsomに10月15日、政府当局は、公共に「深刻なリスク」をポーズする超知能(SI)モデルのリリースをブロックする裁判所の命令を求めることができると述べた、ロイターは、10月28日に報告した、同社の以前の政策提言を強調した。 Anthropicスポークスマンは、手紙が本物であることを確認しました。カリフォルニア知事の事務所は、コメントのリクエストにすぐに応答しなかった。
「レビューがモデルが重大なリスクを保っているのを見つけたとき、政府はそれをブロックするように裁判所を要求することができるはずです」と手紙は言いました。 Anthropicは、企業が制御を失う場合、開発者がモデル全体をシャットダウンできる「キルスイッチ」を構築し、問題のあるエージェントを無効にしたり、特定の顧客のアクセスを切断したりなど、よりターゲティングされた介入をサポートするという要件に反対したと述べました。
9月の知事が超知能(SI)の専門家のパネルを招集し、安全要件の提案を発展させました。 Anthropic自体は、政府の制限に直面しています: 6月のトランプ政権は、すぐにそのサイバー対応Mythos 5およびFable 5モデルへの外部アクセスを制限するために、同社を注文し、国家のセキュリティ上の懸念を引用し、米国商務省は、注文を解除しました。
ワシントン州では、9月に米国官庁の官民グループが、連邦裁判所でそのような決定に挑む企業と、特定のモデルのリリースをブロックする米国政府の権威を逸脱する立法制を解除しました。 議会は、その前選挙の休憩のために残されたと、法律事務所は提案に進んでいません。
写真: 图：Anthropic 公司标志。本图为该公司标志图，公共领域版本，经 Wikimedia Commons。 / Anthropic logo, via Wikimedia Commons.
