Anthropic（人工智能公司）提出AI安全法案草案，若可能造成50人以上死亡则可暂停模型发布

要点

• 据Politico报道，Anthropic（人工智能公司）据称已传阅一份AI安全法案草案，美国国会或将审议该提案。该提案允许在迫在眉睫的风险可能导致50人以上死亡或超过10亿美元财产损失时，暂停模型的发布。
• 此类风险须涉及生物武器、模型逃逸出开发者的控制，或网络攻击。在美国商务部（U.S.
• Commerce Department）注册的独立评估机构将对模型进行评估，这些机构可由研发实验室付费，但付费不得与评估结果挂钩。