‘AI 딥페이크 포르노’로부터 자신을 보호하는 법

[AI요약] 합의되지 않은 실제 이미지가 공유되는 ‘리벤지 포르노’ 문제가 AI 기술 확산과 함께 누구나 딥페이크 포르노 희생자가 될수 있는 공포로 떠올랐다. 실제 개인이 노골적인 이미지를 만들거나 또는 누군가에게 이를 보낸적이 없더라도 누구나 딥페이크 포르노의 괴롭힘 대상이 될수 있다.

AI 기술 확산과 함께 누구나 딥페이크 포르노의 희생자가 될수 있다. (이미지=링크드인)

AI 딥페이크 포르노 희생자가 되기 위한 조건은 ‘인간의 형태’라면 충분하다.

급격한 기술 발전으로 누구나 AI 딥페이크 포르노의 희생자가 될수 있는 가운데, 이러한 범죄로부터 개인을 보호할수 있는 방법에 대해 CNN, USA투데이 등 외신이 13일(현지시간) 보도했다.

성적 이미지를 합의 없이 공유하는 ‘리벤지 포르노’는 인터넷의 탄생과 함께 거의 같은 기간 존재해 왔지만, AI 기술의 확산은 이제 완전히 다른 문제가 됐다. AI 도구의 확산으로 개인이 누드 이미지를 찍거나 누군가에게 이를 보낸 적이 없더라도 누구나 이러한 형태의 괴롭힘 대상이 될수 있기 때문이다.

이제 AI 도구는 사람의 얼굴을 누드 신체에 중첩하거나 기존 사진을 조작해 사람이 옷을 입지 않은 것처럼 보이게 할수 있다.

지난해 미국에서는 테일러 스위프트와 알렉산드리아 오카시오 코르테스 의원과 같은 유명 여성부터 고등학생 여학생까지, AI 생성한 합의 없는 딥페이크 포르노의 무분별한 대상이 되면서 사회적 문제로 떠올랐다.

전문가들은 자신 또는 자녀가 딥페이크 포로노의 대상이 됐다는 사실을 알게 된다면, 일반적으로 무서움에 압도되는 상황이 많다고 지적한다. 그러나 이러한 형태의 괴롭힘을 당한 피해자들이 자신을 보호하기 위해 취할수 있는 단계적 방법과 도움을 구할수 있는 곳이 제안되고 있다.

먼저 AI가 생성한 성적 이미지의 표적이 됐을 경우, 첫 번째 단계는 그게 어떤 이미지라도 무조건 스크린샷을 찍어 증거를 남기는 일이다. 가장 좋은 대응은 가능한 빠르게 인터넷에서 해당 이미지를 삭제하는 것이지만, 형사 신고를 위해서는 반드시 증거가 필요하다.

그런 다음에는 구글, 메타, 스냅챗 등 주요 플랫폼에서 제공하고 있는 양식을 찾아 노골적인 이미지 삭제 요청을 진행할수 있다.

미국에서는 ‘StopNCII.org’ 또는 ‘Take It Down’과 같은 비영리단체들이 여러 플랫폼에서 이러한 이미지를 한번에 삭제하는데 도움을 주고 있지만, 모든 사이트가 해당 단체들에 협력하는 것은 아니다.

이에 미국 양당 상원의원은 지난 8월 X와 디스코드를 포함한 약 12개 기술기업에 해당 프로그램에 참여할 것을 촉구하는 공개서한을 보낸바 있다. 이처럼 비합의적 노골적인 이미지와 딥페이크 문제를 해결하기 위한 투쟁은 미국에서 드물게도 양당의 지지를 받고 있다,

AI 도구는 사람의 얼굴을 누드 신체에 중첩하거나 기존 사진을 조작해 사람이 옷을 입지 않은 것처럼 보이게 할수 있다.(이미지=링크드인)

최근 미국 내 AI가 생성한 포르노에 영향을 받은 청소년과 부모 단체들이 미국의회에서 열린 청문회에서 증언하면 큰 지지를 받았다. 양당 의원들은 노골적인 이미지를 게시하는 것을 범죄로 만들고 소셜 미디어 플랫폼에서 피해자의 통지에 따라 이를 삭제하도록 요구할수 있는 법안을 제출했다.

그러나 현재 미국의 경우 피해자들이 주마다 다른 법에 따라 문제를 헤쳐나가야 하는 문제도 있다. 성인의 노골적인 딥페이크를 만들거나 공유하는 것을 금지하는 형법이 없는 주들도 있기 때문이다. 다만 AI가 생성한 아동의 성적 이미지는 일반적으로 아동 성적 학대법에 해당해 처벌받는다.

성범죄와 온라인 괴롭힘 피해자를 대리하는 미국 뉴욕 소재 C.A.골드버그 법률 사무소의 골드버그 대표는 “딥페이크 포로노 피해자가 특히 어리고 대처 방법을 모를수록, 그리고 거대하고 모호한 인터넷의 세계에서 발생한 범죄일수록 더욱 문제가 커진다”고 지적했다.

골드버그 대표는 “피해자들이 AI 딥페이크 포르노의 피해를 사전에 막기 위해 할수 있는 일은 많지 않다”며 “결국 적극적으로 말할수 있는 것은 잠재적인 범죄자들에게 다른 사람의 이미지를 훔쳐 굴욕을 주는 일을 멈추라는 것”이라고 덧붙였다.

류정민 기자

znryu@daum.net
기자의 다른 기사보기
저작권자 © Tech42 - Tech Journalism by AI 테크42 무단전재 및 재배포 금지

관련 기사

[인터뷰] 윤거성 펄스애드 대표 “셀러의 광고 효율을 높여주는 글로벌 리테일 미디어 플랫폼을 만들고 있습니다”

설립 직후 시드 투자 유치에 이어 아마존 광고 기술 분야 파트너 선정, 이어진 CJ ENM으로부터 전략적 투자 유치, 팁스 선정 등이 모두 지난 몇 개월 사이에 펄스애드가 이뤄낸 일들이다. 놀랍도록 빠른 속도로 성과를 만들어 내고 있는 펄스애드의 전략과 무기, 다가오는 새해의 계획은 무엇일까? 오는 28일 개최되는 ‘디지털 마케팅 인사이트 2025(DMI 2025)’에서 ‘리테일 미디어의 성장과 브랜드의 채널 전략 변화’를 주제로 발표를 앞둔 윤거성 대표를 만나 좀 더 구체적인 이야기를 들어봤다.

‘2024 빅테크 성적표’ AI 지출과 기업 점유율 보기

올해 빅테크의 AI에 대한 기업지출이 올해 500% 급증해 약 19조원을 쏟아부은 것으로 집계됐다. 그동안 AI 시장의 선두에 있었던 오픈AI의 시장 점유율은 지난해 50%에서 올해 34%로 줄어들었으며, 이는 경쟁사인 앤트로픽의 챗봇 모델 클로드 3.5의 활약때문이라는 분석이 나온다.

AI부터 암호화폐까지 ‘트럼프 2기’ 변화할 핵심 ‘기술 정책’

도널드 트럼프가 백악관으로 복귀하고 공화당이 양원을 장악하면 의심할 여지 없이 기술 분야가 재편될 것으로 보인다. 트럼프의 미국 우선주의 철학과 함께, 규제보다 혁신에 기반한 그의 행정부 정책은 AI, 사이버 보안 및 기타 핵심 기술 정책 분야의 글로벌 역학을 크게 바꾸면서 급속한 기술 발전을 촉발할 것으로 예상되고 있다.

스타워즈에서 영감을 받은 킬러 위성이 등장했다

조지 루카스 감독의 스타워즈(1977)에 등장한 ‘데스스타’(죽음의 별)는 가상의 우주 정거장이자 슈퍼무기다. 이 영화에 영감을 받은 중국 과학자들이 실제로 ‘데스 스타’를 만들었다. 스타워즈에서 영감을 받은 이 무기는 마이크로파 빔을 집중시켜 적의 위성을 쓸어버린다.