유튜브에서 AI를 활용해 만든 사실적인 동영상에 라벨을 지정해야 합니다.

실제와 오인될 수 있는 콘텐츠에 라벨 지정

유튜브에서 AI 생성 영상과 관련해서 방침을 업데이트 했는데 필요한 사항인 것 같아서 정리해 봅니다.

유튜브에서 실제와 오인될 수 있는 콘텐츠 (altered or synthetic content that is realistic) 를 인공지능이나 기타 수정 방법을 사용하여 만들었을 때 이를 시청자에게 공개하도록 하는 도구를 Creator Studio에 곧 도입할 예정입니다.

창작자가 실제과 오인할 수 있는 변경 또는 합성 콘텐츠일 때 체크를 해야하고 시청자에게 라벨로 표시가 되는 형식입니다.

창작자가 변경된 콘텐츠에 체크를 하는 모습.

설명 란에 라벨이 표시가 되는 이미지 예시

대상 콘텐츠

공개가 요구되는 콘텐츠 예시로는 실제 인물의 얼굴이나 목소리를 디지털로 대체하거나, 실제 사건이나 장소의 장면을 수정하거나, 실제 마을을 향해 돌진하는 토네이도 등과 같은 현실적 장면을 생성하는 것이 포함됩니다.

특히 민감한 주제에 대해 토론하는 콘텐츠는 더욱 중요합니다. (선거나 공중보건, 공직자에 대한 진행되고 있는 갈등 등) 만약 이러한 정보를 지속적으로 표시하지 않는 창작자는 콘텐츠가 내려가거나 유튜브 파트너 프로그램이 정지되거나 다른 페널티가 있을 수 있다고 합니다.

하지만 명백히 비현실적이거나 애니메이션이 있거나 특수 효과(필터)의 경우에는 해당하지 않습니다. 또 제작 지원을 위해 생성 AI를 보조 수단으로 사용한 경우에는 해당되지 않습니다. (스크립트, 콘텐츠 아이디어, 자동 캡션 등)

그리고 개인에 대해 허락받지 않고 생성되는 AI 생성 또는 합성 콘텐츠에 대해서 개인정보보호 신청을 통해서 제거를 요청할 수 있다고 합니다. 이런 모든 콘텐츠가 유튜브에서 제거되는 것은 아니며 이것이 풍자나 해학인지, 또는 대상이 되는 개인이 고유하게 식별 가능한지, 공공인물인지 등에 따라 결정된다고 합니다.

어떤 콘텐츠가 대상이 되는지 아닌지에 대해서는 유튜브의 사이트에 자세하게 나와있습니다.

생각

여기에서 사실로 오인될 수 있는 콘텐츠를 대상으로 하는 것 같다. 이 정도의 보호 조치를 취하는 것은 필요하지 않을까?

그런데 나레이션의 배경 설명에 인공지능 영상을 보조 영상 (B-roll) 로 사용해 보려고 했는데 이 경우에는 어떻게 될까? 이렇게 하면 이야기 할 수 있는 한계가 넓어질 것 같은데... 그런데 사실적인 대상을 다루는 경우에는 표시를 하는게 맞을 것 같다.

유튜브는 콘텐츠 출처 및 진위성 연합 (C2PA) 에도 가입했는데 이런 것도 디지털 콘텐츠의 진위성에 대한 행동이라고 볼 수 있을 것 같다. C2PA 는 Coalition for Content Provenance and Authenticity 의 약자로 콘텐츠 출처와 진위성을 위한 연합이라는 뜻이다.

참고

Our approach to responsible AI innovation (유튜브 블로그)

How we're helping creators disclose altered or synthetic content (유튜브 블로그)