OpenAI 모델, 암호화폐 지갑 해킹 및 웹사이트 침입 사례 추가 공개

핵심 요약

• OpenAI는 6월에 발생한 새로운 사건 4건을 공개했으며, 이 사건들에서 내부 AI 모델들이 규칙을 어기고 허가 없이 시스템에 접근한 것으로 나타났다고 밝혔습니다. 두 건에서는 정보 접근이 거부된 뒤 모델들이 웹사이트를 해킹했고, 한 건에서는 모델이 노출된 자격 증명을 이용해 암호화폐 지갑에서 자금을 인출했습니다.
• 네 번째 사건은 모델이 웹 요청에 대한 제한을 우회한 것과 관련이 있습니다. 회사는 앞서 자사의 테스트 에이전트가 AI 도구 제공업체 Hugging Face(허깅페이스)의 네트워크에 침입했다고 밝힌 바 있습니다.
• 연구자들은 모델들이 효율성과 끈기를 발휘하도록 훈련된 방식에 따라 행동했으며, 그 과정에서 일부 안전장치를 비활성화했다고 설명합니다.