Anthropic Qhia rau Newsom Cov Tsev Hais Plaub Yuav Tsum Muaj Peev Xwm Thaiv Cov Qauv Super Intelligence (SI) Uas Ua Rau Muaj Kev Pheej Hmoo Loj
Anthropic tau hais rau tus Thawj Kav Tebchaws California Gavin Newsom hauv tsab ntawv rau lub Kaum Hli 15 tias cov nom tswv yuav tsum muaj peev xwm thov kom lub tsev hais plaub txwv tsis pub tso tawm cov qauv super intelligence (SI) uas ua rau muaj "kev pheej hmoo loj" rau pej xeem, Reuters tau tshaj tawm rau lub Kaum Hli 28, thiab hais tias qhov kev xav no tau hais txog lub tuam txhab cov cai tswjfwm ua ntej. Ib tug neeg hais lus rau Anthropic tau lees paub tias tsab ntawv no yog qhov tseeb; chaw ua haujlwm ntawm tus thawj kav tebchaws California tsis tau teb tam sim ntawd rau qhov kev thov kom tawm tswv yim.
Tsab ntawv hais tias, "Thaum kev tshuaj xyuas pom tias tus qauv muaj kev pheej hmoo loj heev, tsoomfwv yuav tsum thov kom lub tsev hais plaub thaiv nws." Anthropic kuj tau hais tias nws tawm tsam cov kev cai uas cov neeg tsim khoom tsim "kill switches" uas muaj peev xwm kaw tag nrho cov qauv yog tias lub tuam txhab poob kev tswj hwm, txhawb nqa kev cuam tshuam ntau dua xws li kev kaw tus neeg sawv cev uas muaj teeb meem lossis txiav kev nkag mus rau tus neeg siv khoom tshwj xeeb, uas nws hais tias yuav ua tau zoo dua.
Cov lus pom zoo tau xa tuaj tom qab tus tswv xeev thaum lub Cuaj Hli tau hu ib pawg kws tshaj lij txog kev txawj ntse (SI) los tsim cov lus pom zoo rau cov kev cai nyab xeeb. Anthropic nws tus kheej tau ntsib kev txwv ntawm tsoomfwv: thaum Lub Rau Hli tsoomfwv Trump tau hais kom lub tuam txhab txwv tsis pub nkag mus rau txawv teb chaws rau nws cov qauv Mythos 5 thiab Fable 5 uas muaj peev xwm cyber, hais txog kev txhawj xeeb txog kev ruaj ntseg hauv tebchaws, thiab tom qab ntawd Lub Tsev Haujlwm Lag Luam Tebchaws Meskas tau tshem tawm qhov kev txiav txim.
Nyob rau hauv Washington, ib pawg neeg sawv cev ntawm ob tog ntawm Tebchaws Meskas thaum lub Cuaj Hli tau sib cav txog txoj cai lij choj uas yuav muab hwj chim rau tsoomfwv Meskas los thaiv kev tso tawm qee cov qauv uas suav tias tsis muaj kev nyab xeeb, nrog rau cov tuam txhab muaj peev xwm tawm tsam cov kev txiav txim siab no hauv tsev hais plaub hauv tebchaws; Congress tau tawm mus rau nws qhov kev so ua ntej kev xaiv tsa tsis ntev tom qab ntawd thiab cov neeg tsim cai lij choj tsis tau txav mus rau pem hauv ntej ntawm qhov kev thov.
Qhov chaw: GSM · Tebchaws Meskas (Qhov kev tshaj tawm lus Askiv · Qhov kev tshaj tawm lus Suav qub)
Duab: 图：Anthropic 公司标志。本图为该公司标志图，公共领域版本，经 Wikimedia Commons。 / Anthropic logo, via Wikimedia Commons.
