"규제 없는 AI 목소리 복제는 이익보다 사회적 위험이 더 크다"
- 온라인 저널리스트 마티아스 바스티안은 인공 지능이 인간과 컴퓨터 간의 관계를 근본적으로 변화시킬 것이라고 믿는다.
- 비디오 게임 음성 배우인 아멜리아 타일러는 그녀의 목소리가 그녀의 동의 없이 AI에 의해 복제되어 강간 포르노를 낭독하는데 사용되었다고 말한다.
- 타일러는 그녀의 목소리와 "발더스 게이트 3"의 다른 배우들의 목소리가 그들의 동의 없이 AI에 의해 복제되었다고 설명한다.
- 그녀는 또한 배우들의 목소리를 그들의 동의 없이 AI를 위해서 사용하는 것은 그들의 작업과 정체성을 훔치는 것이라고 주장한다.
- 오픈AI는 최근 목소리 복제 생성기 "Voice Engine"을 오용 위험으로 인해 현재는 출시하지 않기로 발표했다.
- 사이버 보안 연구원들은 최근 금융 사기를 가능하게 하는 전화 통화에 목소리 복제를 삽입할 수 있다고 보여줬다.
- 목소리 클론은 금융 사기와 유권자 조작의 위험을 안고 있다.
- 목소리 복제에는 긍정적인 사용예가 있지만, 전반적으로 사회 관점에서 볼 때 AI 목소리 복제 기술의 위험과 잠재적 해로움이 이점보다 우세한 것으로 보인다.
4the-decoder.com링크 복사하기
AI 뉴스 요약은 뉴스의 내용을 AI가 요약(GPT-4 활용)한 것입니다. 따라서 틀린 내용을 포함할 수 있습니다. 뉴스의 자세한 내용을 확인하시려면 해당 뉴스 링크를 클릭해주세요.