Global video platform YouTube is cracking down on violent crime videos using AI deepfake technology. YouTube announced today that it is updating its cyberbullying and harassment policy and will no longer allow content that "realistically simulates" the deaths of minors and crime victims or depicts violence they have experienced. The update comes after some inappropriate content creators on YouTube used AI technology to create artificial versions of victims of real-life crimes, particularly children, by artificially creating them and recreating the horrific violence they experienced in their own voices. These videos depict horrific violence in high-profile cases in the voices of AI engineered children, and the families of the victims have condemned the content as "abhorrent. YouTube's policy update leads to a "warning" that removes the content and temporarily restricts the channel operator's ability to use the platform. With this policy update, YouTube aims to prevent the dissemination of heinous crime videos that exploit AI technology and minimize harm to victims and their families.

글로벌 동영상 플랫폼 유튜브가 AI 딥페이크 기술을 이용한 흉악범죄 영상 규제를 강화한다. 유튜브는 오는 24일(현지시간) 사이버불링 및 괴롭힘 정책을 업데이트하며, 미성년자와 범죄 피해자들이 직접 사망이나 겪은 폭력을 묘사하는 내용을 '현실적으로 시뮬레이션'하는 콘텐츠를 더 이상 허용하지 않을 것이라고 밝혔다. 이번 업데이트는 유튜브 내 일부 부적절한 콘텐츠 제작자들이 AI 기술을 이용하여 실제 발생한 범죄 사건의 피해자, 특히 아동들을 인공적으로 만들어 그들이 겪은 끔찍한 폭력을 그들 자신의 목소리로 재현하는 등의 문제점 해결에 주력하는 것으로 보인다. 이러한 영상들은 AI가 가공한 어린이의 목소리로 유명사건에서 발생한 끔찍한 폭력을 묘사하며, 피해자 가족들은 이러한 콘텐츠를 '혐오스럽다'고 비난했다. 유튜브의 정책 업데이트는 해당 콘텐츠를 삭제하고 채널 운영자의 플랫폼 기능을 일시적으로 제한하는 '경고'로 이어진다. 유튜브는 이번 정책 업데이트를 통해 AI 기술을 악용한 흉악범죄 영상의 유포를 방지하고, 피해자와 그 가족들의 피해를 최소화한다는 방침이다.