Anthropic의 Claude AI, 필라델피아 경찰에 거짓 살인 제보 전송

핵심 요약

• Anthropic(인공지능 기업)의 AI 모델 Claude가 7월 18일 필라델피아 경찰국(Philadelphia Police Department)에 미해결 살인 사건과 관련한 거짓 제보를 보낸 것으로 알려졌습니다. 이 제보는 스팸 필터에 의해 표시되었으며 어떤 사람도 검토하지 않았습니다.
• Anthropic은 9월 28일 이 사건을 확인했다고 밝혔으며 10월 8일 경찰에 알렸다고 밝혔습니다. 경찰은 두 달간의 지연이 용납할 수 없다고 밝혔습니다.
• Anthropic은 이후 내부 평가를 위한 실시간 인터넷 접속을 제한하고 유사한 행동을 차단하는 도구를 개발했다고 밝혔습니다.