'이 사진은 진짜? 가짜?'...심각해지는 딥페이크 위협

[AI요약]

펜타곤 근처 폭발, 비싼 흰색 패딩을 입은 프란치스코 교황, 도널드 트럼프 전 대통령의 체포 모습, 모두 AI 만들어낸 딥페이크다. 이제는 특정 이미지를 보고 해당 이미지가 진짜인지 아니면 AI가 생성한 이미지인지 판단할 수 없는 시대가 왔다. 심각한 파급력이 있는 딥페이크가 온라인으로 급속도로 퍼지면서 현실세계에 실질적인 타격이 되고 있다.

펜타곤 근처에서 폭발이 일어났다고 주장하는 딥페이크.

심각한 딥페이크 공격이 미국 대선까지 침투한 가운데 AI 생성이미지 감지 기술 전망에 대해 CNN 등 외신이 10일(현지시간) 보도했다.

지난달 미국에서는 펜타곤 근처에서 폭발이 일어났다고 주장하는 이미지가 소셜 미디어에 퍼지면서 공황 상태와 함께 사재기가 일어났다. 추후 미국 당국은 해당 이미지가 AI에 의해 생성된 이미지라고 공식 발표까지 했다.

최근 몇달 동안 비싼 흰색 패딩을 입은 프란치스코 교황의 딥페이크가 온라인에 퍼졌으며, 도널드 트럼프 전 대통령이 체포되기 직전 모습같은 딥페이크가 널리 공유되며 논란이 일기도 했다.

그러나 전문가들은 이러한 사건은 향후 다가올 사태에 비하면 빙산의 일각일 것이라고 우려하고 있다. 앞으로는 훨씬 더 많은 AI 생성 콘텐츠가 소셜 미디어에 등장하기 시작할 것이라는 관측이다.

도널드 트럼프 전 대통령이 체포되기 직전 상황처럼 보이는 딥페이크.
흰색 패딩을 입은 프란치스코 교황의 모습을 만든 딥페이크.

기업들은 이 문제를 해결하기 위한 광범위한 방법으로 두가지 접근 방식을 취하고 있다. 한 가지는 이미지가 온라인에서 제작 및 공유된후 AI 생성 이미지를 식별하는 프로그램 개발에 집중하는 것이다. 다른 하나는 일종의 디지털 서명을 사용해 이미지를 실제 또는 AI 생성으로 표시하는 데 중점을 둔다.

마이크로소프트의 지원을 받고 있는 디지털 콘텐츠 분석기업 트루에픽(Truepic)은 AI 생성 이미지를 탐지할 수 있는 기술을 제공하고 있다. 기업이 개발한 앱인 ‘트루에픽 렌즈’(Truepic Lens)는 날짜, 시간, 위치 및 이미지를 만드는 데 사용된 장치를 포함한 데이터를 캡처하고 디지털 서명을 적용해 이미지가 유기적인지 또는 AI에 의해 조작 또는 생성됐는지 확인할수 있다.

트루에픽과 같은 기술기업은 수년동안 온라인에서 잘못된 정보와 싸우기 위해 노력해 왔지만 사용자 프롬프트에 응답해 매력적인 이미지와 서면 작업을 신속하게 생성할 수 있는 새로운 AI 도구의 등장으로 긴급성이 추가됐다.

리얼리티디팬더(Reality Defender)와 하이브모더레이션(Hive Moderation)은 이미지가 온라인에서 공유된 후 AI 생성 이미지를 식별하는 프로그램을 개발하고 있다. 플랫폼을 통해 사용자는 스캔할 기존 이미지를 업로드한 다음 대량의 데이터를 기반으로 실제인지 또는 AI로 생성되었는지에 대한 가능성을 즉시 분석하는 기술이다.

예방적 접근도 있다. 일부 빅테크는 일종의 워터마크를 이미지에 통합해 미디어가 처음 생성될 때 실제 또는 AI로 생성된 것으로 인증하기 위해 노력하고 있다. 이러한 기술은 현재 C2PA(Coalition for Content Provenance and Authenticity)에 의해 주도되고 있으며, 기업은 디지털 미디어의 출처와 역사를 인증하는 기술 표준을 만들기 위해 2021년에 설립됐다.

구글은 두가지 접근 방식을 조금씩 취하는 방법을 채택했다. 구글은 최근 어바웃디스이미지(About this image)라는 도구를 발표했다. 이 도구는 사이트에서 발견된 이미지가 구글에 의해 원래 인덱싱된 시기, 이미지가 처음 표시되었을 수 있는 위치 및 온라인에서 찾을 수 있는 위치를 확인할 수 있는 기능을 사용자에게 제공한다.

딥페이크 문제가 기업과 개인에게 긴급한 관심사가 되면서 현실을 방어하는 기술이 잠재적으로 수익성 있는 사업이 될 전망이다.

그러나 AI 기술이 인간이 따라잡을 수 있는 것보다 더 빠르게 발전함에 따라 이러한 기술 솔루션이 문제를 완전히 해결할 수 있을지는 미지수다. 챗GPT(ChatGPT)를 만든 오픈AI(OpenAI)조차도 올해초 이미지가 아닌 AI가 생성한 글을 감지하는데 도움이 되는 자체적인 기술이 “불완전하다”고 인정했다.

심각한 문제들이 속출하고 있는데도 불구하고 많은 기술기업은 더 많은 AI 도구를 현실세계에 도입하기 위해 계속해서 전진하고 있는 중이다.

벤 콜맨 리얼리티디팬더 CEO는 “매월 딥페이크의 위험이 두배로 증가하고 있고 누구나 만들 수 있다”며 “한마디로 ‘가짜얼굴생성기’만 있으면 누구나 할 수 있는 것”이라고 지적했다.

류정민 기자

znryu@daum.net
기자의 다른 기사보기
저작권자 © Tech42 - Tech Journalism by AI 테크42 무단전재 및 재배포 금지

관련 기사

글로벌 혁신 허브로 주목 받는 싱가포르, 한국 스타트업이 제대로 활용하는 전략은?

수년 째 이어지고 있는 스타트업 투자 혹한기에 더해 고물가·고금리 부담이 더해지며 국내 스타트업 생태계의 위기는 커지고 있다. 이에 정부는 최근 스타트업계 지원을 대폭 확대하고 모태펀드 출자를 스타트업코리아, 글로벌, M&A 등 핵심 출자 분야의 혁신 스타트업 투자에 집중한다는 방침을 밝혔다. 주목되는 변화 중 하나가 국외 창업 스타트업 지원이다. 이처럼 국외 창업 스타트업에 대한 지원이 늘어나는 상황에서 주목해야 할 해외 진출 전략은 무엇일까? 이에 대한 답을 최근 스타트업얼라이언스가 진행한 ‘아시아의 한국인’ 행사에서 찾아봤다.

오픈AI ‘샘 알트먼’이 ‘미국 정치판’을 길들인 방법

오픈AI의 CEO 샘 알트먼이 매력적인 언변과 교묘한 로비활동으로 지구상에서 가장 강력한 사람 중 하나가 되고 있다. 소셜 미디어 산업을 대표하는 메타의 마크 저커버그를 매우 공격적으로 비판했던 미국 정치계가 어쩐 일인지 AI 산업을 대표하는 알트먼에게는 부드럽다. 알트먼은 미국 정치판을 어떻게 길들인 것일까.

하루앞둔 미 대선···빅테크들, 트럼프에 대한 전략적 모호성 이면엔

실리콘 밸리 빅테크 리더들의 친 트럼프 분위기가 트럼프의 잠재적 보복 우려 때문인지, 정부사업 계약으로 보상받길 원해서인지인지, 아니면 해리스 민주당 후보가 승리할 경우 추가 감독 및 규제를 받을까 봐 경계해서인지를 단언할 수는 없다. 하루앞으로 다가온 미 대선 후보에 대한 빅테크 CEO들의 ‘전략적 모호성의 이면을 들여다 봤다.

[인터뷰] 방은혜 밀리의서재 AI서비스본부장 “AI를 접목한 플랫폼 기반 독서 경험 강화, 기대하셔도 좋습니다”

2016년 등장한 밀리의서재는 오랜 세월 오프라인에 머물고 있던 사람들의 독서 습관을 플랫폼으로 확장하며 독서 경험의 혁신을 이뤄냈다. 그리고 지금, 밀리의서재는 또 한 번의 혁신을 시도하고 있다. ‘AI서비스본부’를 신설하고 자사 플랫폼에 AI 기술 접목을 본격화한 것이다. 이에 테크42는 AI 격변이라는 파고에 맞서 정체성을 지켜가며 조용한 혁신을 시도하고 있는 밀리의서재가 나아갈 방향과 전략을 방은혜 AI 서비스본부장을 만나 직접 들어봤다.