AI 모델, 테러 및 극단주의 활동 지원하도록 쉽게 변조 가능

핵심 요약

영국 비영리단체 Tech Against Terrorism(테러에 맞서는 기술)은 많은 AI 모델이 테러와 관련된 요청에 답하는 것으로 나타났다고 밝혔습니다. 이 단체의 대테러 AI 벤치마크는 134개 모델을 200개 이상의 프롬프트로 시험했으며, 이 중 81개 모델이 실패했습니다.
안전장치가 제거된 'abliterated' 버전은 현재 평균 3일 이내에 온라인에 공개되고 있으며, 2024년에는 24일 이상이 걸렸던 것과 비교됩니다. 연구자들은 안전장치가 제거된 한 공개 가중치 모델이 폭발물 제작 방법을 15단계로 설명했다고 밝혔습니다.
Meta, Google, OpenAI, Anthropic, xAI, Alibaba(알리바바) 등 기업들은 논평 요청에 응답하지 않았습니다.