Anthropic致信加州州长建议AI模型禁令

Anthropic本月15日致信美国加州州长纽森，建议政府应有权向法院申请禁令，阻止对公众构成严重风险的AI模型发布。信中还指出，要求开发者设置关闭整个模型的紧急开关可能让官员产生虚假安全感，更倾向于关闭出问题的智能体、暂停特定客户权限等针对性措施。

Anthropic本月15日致信美国加州州长纽森，建议政府应有权向法院申请禁令，阻止对公众构成严重风险的AI模型发布。信中还指出，要求开发者设置关闭整个模型的紧急开关可能让官员产生虚假安全感，更倾向于关闭出问题的智能体、暂停特定客户权限等针对性措施。