Anthropic은 Newsom Courts가 Super Intelligence (SI) 모델을 차단할 수 있어야 합니다. 심각한 위험
Anthropic은 10 월 15 일 캘리포니아 주지사 Gavin Newsom에게 정부 관계자가 슈퍼 인텔리전스 (SI) 모델의 릴리스를 차단하는 법원 명령을 시도 할 수 있어야한다고 밝혔다. 공개적으로 Reuters는 10 월 28 일에보고되었으며 회사의 이전 정책 제안을 정정했습니다. Anthropic 대변인은 문자를 확인했습니다. 캘리포니아 주저의 사무실은 즉시 댓글에 대한 요청에 응답하지 않았습니다.
"검토 할 때 모델은 심각한 위험을 포즈, 정부는 그것을 막기 위해 법원을 요청할 수 있어야한다"고 말했다. Anthropic은 개발자가 "kill switch"를 구축 할 수있는 요구 사항에 따라 회사가 제어를 잃고, 문제가있는 에이전트를 비활성화하거나 특정 고객의 액세스 차단과 같은 더 많은 타겟 발명을 지원하는 경우 전체 모델을 종료 할 수 있다고 말했다.
추천은 9 월 주관자가 안전 요구 사항에 대한 제안을 개발하기 위해 슈퍼 인텔리전스 (SI) 전문가의 패널을 활용 한 후 제출되었습니다. Anthropic 자체는 정부 제한을 직면했습니다. 6 월 트럼프 행정은 사이버 캐피탈 Mythos 5 및 Fable 5 모델에 즉시 외국 액세스를 제한하기 위해 회사를 명령했으며 국가 보안 우려를 인용하고 미국 상공 부서는 나중에 주문을 들어갔습니다.
워싱턴에서 9 월 미국 senators의 bipartisan 그룹은 연방 법원의 그러한 결정에 도전 할 수있는 특정 모델의 방출을 막기 위해 미국 정부의 전력을 제공 할 것이라고 주장했습니다. 의회는 사전 선거가 곧 끝나고 법 제작자는 제안에 전달되지 않았습니다.
사진: 图：Anthropic 公司标志。本图为该公司标志图，公共领域版本，经 Wikimedia Commons。 / Anthropic logo, via Wikimedia Commons.
