eSafety 위원 줄리 인먼 그랜트, AI 딥페이크 앱이 아동의 성적 이미지 제작에 악용되고 있다고 경고

핵심 요약

• 호주 온라인 안전 규제기관은 AI 기반 "누디파이(nudify)" 앱이 아동의 성적 이미지를 만드는 데 사용되고 있다고 경고했습니다. 줄리 인먼 그랜트(Julie Inman Grant)는 시드니에서 열린 의회 조사에서 이러한 앱이 호주인들에 의해 한 달에 20만 회 이상 다운로드되고 있다고 밝혔습니다.
• 그의 기관은 이러한 앱과 서비스 8곳에 대해 법적 집행 조치를 취했습니다. 그는 조직범죄 집단이 호주의 어린 소년과 남성을 겨냥한 성적 갈취(sextortion) 수법에서 음성과 얼굴 복제 기술을 사용하고 있다고 경고했습니다.
• 그는 규제 강화와 규제기관의 권한 확대를 촉구하며, AI 기업들이 스스로를 평가해서는 안 된다고 말했습니다.