IBM 사이버 보안 연구원들이 생성형 AI가 실시간으로 우리의 말을 어떻게 왜곡할 수 있는지 보여줍니다.
- IBM 사이버보안 연구원들이 실시간으로 발언을 조작할 수 있는 생성적 AI를 시연함.
- 이른바 '오디오재킹' 기법을 통해 생방송 전화통화 중 음성을 복제하거나 가짜 배경 소음을 추가할 수 있음.
- 공격자들은 이를 통해 통신을 방해하거나 거짓 정보를 퍼뜨리거나 민감한 데이터를 가로챌 수 있음.
- 이 기술은 금융 거래나 기밀 대화와 같은 민감한 분야에서 심각한 결과를 초래할 수 있음.
- 연구원들은 "은행 계좌"라는 키워드가 대화에서 감지되면 올바른 계좌 번호를 자신들의 것으로 변경하는 방법을 개발함.
- 전체 대화를 조작하는 것보다 짧은 부분을 대체하는 것이 더 쉽고, 의료 정보 등 다른 분야로 확장 가능함.
- 인공음성을 신속하게 생성할 수 있어, 원본 음성 오디오의 단 3초 분량만으로도 충분함을 밝힘.
- "분명, 내가 잠시 동안 정보를 찾겠다"는 다리 문장 등을 사용하여 텍스트와 오디오 생성의 지연을 커버할 수 있음.
- 기술과 공격이 더욱 정제될 경우, 소비자에게 상당한 위험이 될 수 있음.
- 나아가, 라이브 비디오 방송에서도 이런 개입이 가능할 것이라는 전망도 제시함.
4the-decoder.com링크 복사하기
AI 뉴스 요약은 뉴스의 내용을 AI가 요약(GPT-4 활용)한 것입니다. 따라서 틀린 내용을 포함할 수 있습니다. 뉴스의 자세한 내용을 확인하시려면 해당 뉴스 링크를 클릭해주세요.