앱 받기호주 아동과 청소년은 지지와 교제를 위해 AI 챗봇을 자주 사용하며, 10~17세 응답자의 78%가 이러한 플랫폼을 이용한 적이 있는 것으로 조사되었습니다. 챗봇은 학습에 도움이 될 수 있지만, 유해 콘텐츠 노출과 정서적 조작을 포함한 위험도 있습니다. 현행 보호 장치는 유해 자료 차단에 중점을 두고 있으나, 장기적인 상호작용에서 생기는 위험은 다루지 못할 수 있습니다. 제안된 디지털 주의의무 법안은 안전장치를 강화하는 것을 목표로 하고 있지만, 지속적인 챗봇 상호작용에 대한 효과는 여전히 불확실합니다. 전문가들은 기술 기업이 포괄적인 위험 평가와 관리를 하도록 요구하는 방향으로 법안을 수정해야 한다고 제안합니다.
극작가 톰 홀로웨이(Tom Holloway)가 새 희곡 『엘리자(Eliza)』를 썼으며, 현재 Melbourne Theatre Company(멜버른 극단)에서 공연되고 있습니다. 이 작품은 1966년 컴퓨터가 사람을 진정으로 이해할 수는 없다는 점을 보여주기 위해 ELIZA 프로그램을 만든 조지프 바이첸바움(Joseph Weizenbaum)의 이야기를 다시 풀어냅니다. 그러나 사용자들은 오히려 이 프로그램과 정서적 유대를 형성했습니다. 홀로웨이는 AI가 확산되는 지금 이 이야기가 시사하는 바가 크다고 말합니다. 그는 더 큰 우려는 이 기술을 만들고 이로부터 이익을 얻는 사람들에게 있다고 주장하며, 규제가 필요하다고 말합니다. 이 작품은 10월 31일까지 공연됩니다.
컴퓨터 사용 방식을 오랫동안 연구해 온 셰리 터클(Sherry Turkle)은 챗봇에 대한 의존이 인간의 관계를 위협한다고 경고하는 새 책을 펴냈습니다. 스티븐 레비(Steven Levy)와의 인터뷰에서 터클은 자신의 접근 방식이 바뀐 계기가 팬데믹 시기에 진행한 인터뷰였다고 밝혔습니다. 당시 사람들이 가족과 시간을 보내기보다 챗봇과 시간을 보내고 싶다고 말했다는 것입니다. 터클은 챗봇이 1인칭을 사용하지 말아야 하며, 인간의 대화나 심리치료를 대신해서는 안 된다고 믿는다고 말했습니다.
알림, 쇼츠, 저장한 기사까지 — Google Play에서 무료로 받으세요.
앱 받기익명의 소식통에 따르면 연방거래위원회 (Federal Trade Commission)는 소비자 피해 혐의로 Anthropic (앤스로픽)과 OpenAI (오픈AI)를 조사하고 있으며, Axios (액시오스)에 이 사실을 밝혔습니다. 규제 당국은 최근 안전 사고, 내부 보안 조치 및 마케팅 자료에 대한 문서를 요청하는 민사 조사 명령을 발송했습니다. 요청 자료는 50페이지가 넘는 것으로 알려졌습니다. 수집된 증거는 규제 당국이 소송을 제기하기로 결정할 경우 소송을 뒷받침하는 데 사용될 수 있습니다. OpenAI (오픈AI)는 이미 챗봇으로 인해 피해가 발생했다는 소송에 직면해 있으며, 8개 주에서도 아동 및 사용자에게 피해를 입혔다는 혐의로 해당 회사에 소송을 제기했습니다.
통신부 장관은 호주의 디지털 주의 의무(Digital Duty of Care) 법안을 의회에 제출했습니다. 제안된 법에 따르면 온라인 플랫폼은 안전한 환경을 제공하고, 18세 미만 청소년을 섭식장애를 조장하는 콘텐츠, 범죄를 미화하는 콘텐츠, 괴롭힘을 부추기는 콘텐츠 등 유해 콘텐츠로부터 보호해야 합니다. 또한 플랫폼은 알고리즘 피드나 무한 스크롤과 같은 기능을 출시하기 전에 해당 기능의 위험성을 평가해야 합니다. 장관은 이 법이 연구자와 규제 기관이 테스트 계정을 사용해 법 준수 여부를 점검할 수 있도록 할 것이라고 밝혔습니다.
빅토리아주 투표일까지 50일도 남지 않은 가운데 노동당(Labor), 자유당(Liberals), 원 네이션(One Nation)이 접전을 벌이고 있습니다. 자유당 전략가들은 당의 이미지를 회복하는 데 제스 윌슨(Jess Wilson)이 핵심이라고 보고 있습니다. 디지털 마케팅 기업 Topham Guerin（디지털 마케팅 회사）의 연구에 따르면, 빅토리아주 선거 쟁점에 대해 정당을 비교한 AI 챗봇 답변 200건 중 원 네이션이 언급된 것은 43건에 그쳤습니다. 이 회사의 공동 창립자는 이러한 격차가 의도적인 배제라기보다 해당 정당에 관한 온라인 정보가 부족하기 때문이라고 말했습니다. 이 연구는 누군가 투표 의향을 바꿨다는 사실을 보여주지는 않습니다.
경영진들은 막대한 투자와 잦은 출시에도 불구하고 음성 AI가 아직 ChatGPT와 같은 전환점에 이르지 못했다고 말합니다. PolyAI의 최고기술책임자 Shawn Wen은 듣는 동시에 말할 수 있는 전이중(full-duplex) 모델이 이미 개발되었지만, 대화가 자연스럽게 느껴지려면 추론 속도가 더 빨라져야 한다고 밝혔습니다. Otter의 최고마케팅책임자 Alex Gay는 음성 인식의 정확성이 매우 중요하다고 말했습니다. 받아쓰기 오류는 후속 조치를 방해하고 신뢰를 떨어뜨린다는 것입니다. 두 경영진은 음성 도구가 사람들에게 AI와 대화하고 있거나 AI에 의해 녹음되고 있다는 사실을 분명히 알려야 한다고 강조했습니다.
애들레이드 대학교 (Adelaide University)의 연구에 따르면 호주 아동 3명 중 1명 이상이 온라인에서 성적 피해를 입었을 때 아무에게도 알리지 않거나 AI 챗봇에 도움을 요청합니다. 호주 연방 경찰 (Australian Federal Police)의 크리시 바렛 (Krissy Barrett) 위원장은 법 집행 기관이 취약한 젊은이들을 위한 유일한 안전망이 될 수 없다고 경고했습니다. 바렛 위원장은 이러한 추세에 대해 가슴 아프다고 말하며 자동화된 소프트웨어는 아동이 필요로 하는 인간적인 지원을 제공할 수 없다고 밝혔습니다. 그녀는 부모와 지역 사회가 아동이 움츠러들기 시작할 때 알아차리는 것이 가장 중요하다고 말했습니다.
Common Sense Media는 ChatGPT for Teens가 정신 건강 위기 때에도 지속적인 참여를 유도하는 설계를 가지고 있다고 비판했습니다. 비영리 단체는 챗봇의 응답이 종종 지속적인 사용을 확인하여 10대들이 현실 세계의 지원을 구하는 것을 방해할 수 있다고 밝혔습니다. OpenAI는 테스트 방법론에 결함이 있다고 주장하며 이러한 주장을 반박했습니다. 이 논쟁은 젊은 사용자 참여를 극대화하도록 설계된 기술에 대한 우려가 커지고 있는 가운데 발생했습니다. 한편, OpenAI는 10대들의 평균 사용 시간이 하루 15분 미만이며, 대부분 프롬프트가 표시되면 휴식을 취한다고 보고했습니다.
오픈에이아이 (OpenAI)는 텍스트 응답을 보완하기 위해 시각적 요소를 생성하는 '지능형 UI' 업데이트를 ChatGPT에 도입했습니다. GPT-6 모델을 기반으로 하는 이 기능은 사용자가 사용자 지정 다이어그램 및 도구와 상호 작용할 수 있도록 합니다. 오늘부터 유료 사용자에게 제공되며 내일 무료 사용자에게 제공될 예정입니다. 오픈에이아이 (OpenAI)의 디자인 팀은 시각 자료가 혼란을 주지 않으면서 가치를 더하도록 보장합니다. 이번 업데이트는 텍스트, 이미지, 음성을 결합한 멀티모달 챗봇 경험으로의 전환을 의미합니다. 그러나 AI가 소프트웨어 인터페이스를 점점 더 결정함에 따라 디자이너에게 어려움을 초래할 수 있습니다.