Anthropic, 50명 이상 사망 가능 시 AI 모델 차단 가능한 안전법안 제안

핵심 요약

• Politico에 따르면 Anthropic이 의회가 검토할 수 있는 AI 안전법안 초안을 회람한 것으로 알려졌습니다. 이 제안은 50명 이상의 사망 또는 10억 달러 이상의 재산 피해를 초래할 임박한 위험이 있을 경우 모델 출시를 중단할 수 있도록 하는 내용입니다.
• 이러한 위험은 생물무기, 개발자의 통제를 벗어나는 모델, 또는 사이버 공격과 관련되어야 합니다. 미국 상무부(U.S.
• Commerce Department)에 등록된 독립 평가기관이 모델을 평가하며, 이 기관들은 개발사로부터 보수를 받을 수 있으나 보수가 평가 결과와 연동되지 않아야 한다고 제안했습니다.