[AI요약] 유튜브가 시청자들에게 오해를 불러일으킬 만한 생성 AI가 만든 이미지, 영상 등 콘텐츠에 대한 ‘AI 생성 콘텐츠 라벨 공개’를 도입한다. 앞으로 콘텐츠 제작자는 AI가 만든 영상에 대해서 시청자에게 명확하게 밝힐 의무가 있으며, 이를 어길 경우 유튜브로부터 제한을 받게 된다.

‘이걸 사람이 만든 거야, AI가 만든 거야?’ 생성 AI 출현으로 부쩍 헷갈렸던 유튜브 영상들이 내년부터 깔끔해진다.

유튜브의 AI 생성 영상 및 이미지에 대한 ‘AI 생성 콘텐츠 라벨 공개’ 도입에 대해 CNN, 더가디언 등 외신이 15일(현지시간) 보도했다.

유튜브를 소유한 구글은 플랫폼에 시청자를 오도할 가능성이 있는 AI 생성 콘텐츠에 대해 제작자로부터 공개를 요구할 예정이다.

이번 유튜브의 정책은 종종 AI가 만든 것인지, 실제 제작자가 만든 것인지 구별하기 어려울 수 있는 매력적인 텍스트, 이미지, 비디오 및 오디오를 빠르고 쉽게 생성할 수 있게 해주는 새로운 소비자 지향 생성 AI 도구가 확산되는 가운데, 합성 콘텐츠로 인해 사용자가 혼란을 겪는 것을 방지하기 위한 것이다.

가장 논란이 됐던 사례는 미국 유명 가수인 드레이크와 위켄드라고 주장하는 AI가 만든 보컬이 포함된 노래 ‘Heart on My Sleeve’이다. 두 아티스트의 음반사인 유니버설 뮤직 그룹이 이 노래에 대해 비판한 후 스트리밍 서비스에서 삭제됐지만, 유튜브 시청자는 계속해서 해당 노래에 액세스할수 있다.

유튜브가 도입한 새로운 라벨은 AI가 생성한 콘텐츠 또는 ‘진짜처럼 보이는’ 합성 콘텐츠에 한정된다. 실제로 일어나지 않은 사건을 현실적으로 묘사하는 동영상이나 누군가가 실제로 하지 않은 말이나 행동을 보여주는 콘텐츠가 여기에 포함될수 있다.

만약 콘텐츠가 선거, 지속적인 갈등이 있는 이슈, 공중 보건 위기, 공무원 등 민감한 주제를 논의하는 경우 특히 해당 라벨 공개가 중요하다.

전문가들은 생성 AI 도구의 성장으로 인해 설득력 있지만 오해의 소지가 있는 콘텐츠가 소셜 미디어와 인터넷에서 공유되는 사례가 급증하고 있다고 우려하고 있다. 특히 이 기술은 2024년 미국 및 기타 지역의 선거를 앞두고 있는데 가운데 더 큰 위협이 될 수 있다.

유튜브에 앞서 틱톡은 올해초 AI 생성 콘텐츠에 대한 새로운 라벨을 추가했으며 현실적인 장면을 묘사하는 콘텐츠가 AI로 생성되거나 편집되면 제작자가 이를 공개할 것을 요구한바 있다. 페이스북과 인스타그램의 모회사인 메타도 지난주 정치 광고주들이 광고에서 AI 사용을 공개해야 한다고 밝혔다.

이번 유튜브의 새로운 공개 정책은 해당 플랫폼이 지난 9월 제작자의 영상 제작을 돕기 위한 AI 기반 도구를 출시한 이후 나온 것이다. 유튜브는 제작자가 세로형 동영상에 AI 생성 동영상이나 이미지 배경을 추가할수 있는 기능과 동영상의 개요를 작성하는 데 도움이 되는 도구를 도입했다.

유튜브의 AI 생성 공개 라벨을 첨부하는 옵션은 내년 초부터 도입될 예정이다. 라벨은 일반적으로 동영상의 설명 패널에 표시된다. 그러나 ‘민감한 주제에 관한 특정 유형의 콘텐츠’의 경우 라벨이 동영상 플레이어 내에서 더 눈에 띄게 배치될 예정이다. 유튜브의 자체 생성 AI 도구를 사용해 만든 콘텐츠에도 명확하게 라벨이 지정된다.

유튜브는 새로운 요구 사항을 준수하지 않는 제작자에게는 책임을 물을 계획이다. 이번 정책에 따라 공개돼야 하는 합성 콘텐츠에 대해 지속적으로 새로운 라벨을 사용하지 않는 제작자는 콘텐츠 삭제 또는 유튜브 파트너 프로그램 정지 등의 처벌을 받을수 있다.

유튜브는 또 커뮤니티 가이드라인을 위반하는 합성 또는 AI 생성 콘텐츠도 다른 동영상과 동일한 제한 또는 삭제 대상으로 간주할 계획이다.

구글은 “유튜브는 심각한 피해를 입힐수 있는 기술적으로 조작된 콘텐츠를 오랫동안 금지해 왔다”며 “유튜브는 제작자에게 AI 도구 사용을 포함해 현실적인 조작 또는 합성 등이 포함된 콘텐츠를 업로드할 때 라벨을 추가하도록 요구할 것”이라고 정책 업데이트를 통해 밝혔다.

유튜브는 “이제 개인정보 보호요청 프로세스에 따라 얼굴이나 목소리를 포함, 식별 가능한 개인을 시뮬레이션하는 AI 생성 또는 기타 조작된 콘텐츠의 삭제를 요청할 수 있다”며 “이러한 변화는 AI가 생성한 합의되지 않은 성적 이미지와 사람의 얼굴과 목소리를 조작하는 기타 콘텐츠가 증가한다는 우려가 있는 가운데 이뤄진 것”이라고 밝혔다.