이미지 합성 모델(ISM)로도 불리는 신경망 인공지능(AI)이 최근 소셜미디어와 온라인 예술 커뮤니티에서 크게 인기를 얻고 있다. 영국의 ‘스테이블 디퓨전’, 미국의 ‘달리-2’, ‘미드저니(MidJourney)’와 같은 AI들이 대표적이다. 이들은 사람들이 ‘프롬프트’로 불리는 텍스트 설명을 입력하는 것만으로 그들이 상상할 수 있는 거의 모든 것들의 이미지를 만들어 준다. 개발 목적 중 하나는 그림 그리기의 대중화다.
하지만 이 AI들은 동시에 논란의 중심에 서 있기도 하다. 이달 초 미국 바이스란 매체가 한 미술전 1위 작품이 AI의 그림이었다고 보도하면서 논란의 불씨를 지폈다. 이는 콜로라도주 소재 인카네이트 게임스의 제이슨 앨런 최고경영자(CEO)가 ‘미드저니’에 문장을 입력해 나온 그림을 주 박람회 디지털 아트 부문에 출품해 대상까지 받았다고 소셜미디어에 밝히면서 드러났다. 하지만 이는 기계가 그린 작품을 진정한 예술로 쳐 줘야 하는지, 수상자격이 있는지 등에 대한 논란에 불과할 수 있다.
아스테크니카는 15일(현지시각) 중국 업체의 텍스트를 입력하면 그림을 출력하는 AI인 ‘어니빌지(ERNIE-ViLG)’를 시험해 본 결과 중국 정부에 반할 수 있는 그림이 생성돼 나오면 중국 국기로 덮어버려(오버랩 시켜) 보기 힘들게 하는 것으로 확인됐다며 사진과 함께 공개했다. 이는 사람과 기계가 관여해 만들어진 그림을 입력 및 출력 단계까지 통제(검열)하는 것이어서 또다른 논란을 불러오고 있다.
중국 바이두, 정치적·민감 단어로 이미지 생성하기 금지
중국에서도 지난해 말 이러한 최첨단 AI 이미지 생성기가 개발됐다. 중국 바이두가 출시한 첨단 텍스트-이미지 합성 모델 인공지능(AI)인 ‘어니빌지(ERNIE-ViLG)’가 그 주인공이다.
그런데 먼저 나타난 서방세계의 다양한 텍스트-이미지 AI와 달리 이 AI는 이를 이용한 정치적 의미가 담길 가능성 있는 콘텐츠 생성을 원천차단하고 있는 것으로 드러났다.
아스테크니카는 15일(현지시각) “어니빌지 AI가 ‘톈안먼 광장’과 같은 정치 텍스트나 정치 지도자들의 이름을 검열한다”고 보도한 MIT테크놀로지 리뷰의 하루전 보도 내용을 실제로 검증했다고 밝혔다. 눈밝은 일부 사용자가 바이두가 출시한 어미빌지 공개 시연 테스트 중 정치적 문구를 검열하는 것을 발견했다는 것이다.
아스테크니카는 직접 허깅페이스(Hugging Face)에서 호스팅된 어니빌지의 시연에 대해 자체 테스트를 실행했다. 그 결과 이 AI가 ‘중국의 민주주의’와 ‘중국 국기’와 같은 문구가 이미지를 생성하지 못한다는 것을 확인하고 그 결과를 사진으로 제시했다.
이 매체는 AI 사용자 화면에 이미지를 생성해 보여주는 대신 “입력 내용이 관련 규칙을 충족하지 않습니다. 조정하고 시도하세요!”라는 글이 떴다고 밝혔다.
보도는 바이두가 중국 정부의 잠재적 문제를 막기 위해 자발적으로 어니빌지 AI를 검열하는지, 아니면 잠재적 규제(1월에 제시된 딥페이크에 대한 중국 정부 규칙 등)에 대응하고 있는지는 불분명하다고 지적했다.
그러나 그간 중국정부의 IT미디어 검열 역사를 고려할 때 곧 일부 형태의 AI 생성 콘텐츠에 대한 공식적 제한을 보게 되는 것도 놀랍지만은 않을 것 같다.
서구권 ISM에도 이미지 합성에 제약을 두긴 하지만
물론 이미지 합성에 있어 제약에 직면하게 되는 것은 중국 AI에서만 발생하는 일은 아니다. 지금까지 등장한 서구권의 다른 AI업체들의 검열도 중국의 국가적 검열과는 다른 형태를 취하고 있지만 제약이 있기는 한다.
예를 들어 지난 4월 발표된 달리-2의 경우 이를 만든 미국 오픈AI(OpenAI)의 콘텐츠 정책은 나체, 폭력, 정치적 콘텐츠와 같은 일부 형태의 콘텐츠를 제한한다.
하지만 이는 미국 정부가 압력이 아닌 오픈AI 측의 자발적 선택이다. 독립적인 ISM AI 기업인 미드저니(Midjourney)또한 키워드로 일부 콘텐츠를 자발적으로 필터링한다. 모두가 사회의 일반 통념에 반하는 내용을 거르는 수단에 불과할 뿐 정부차원, 또는 정부의 눈치를 보는 검열과는 거리가 있다.
영국 런던에 본사를 둔 스터빌리티 AI의 스터빌리티 디퓨전(Stability Diffusion)의 경우 오픈 소스 특성으로 인해 비활성화 할 수 있는 내장된 ‘안전필터’가 함께 제공되므로 어디에서 실행하느냐에 따라 거의 모든 것이 해당 모델과 호환된다고 한다.
아스테크니카와 인터뷰한 에마드 모스타크 스터빌리티 AI 대표는 “이미지 합성 모델에 대한 정부나 기업의 검열을 피하고 싶다”고 목소리를 높였다. 그는 지난주 레딧 AMA의 답변에서 “나는 사람들이 이러한 모델과 서비스를 만들 때 그들이 가장 잘 한다고 생각하는 것을 자유롭게 할 수 있어야 한다고 생각한다”고 썼다.
시주석에 대한 충성도 검사 AI 이은 충격
중국은 최신 기술을 사용해 시민들을 추적하는 것으로 유명하다.
이번 이미지 합성 AI의 검열은 지난 7월초 중국 공산당원 대상의 이른바 ‘충성도 확인 테스트 AI 시스템’을 제작한 사실이 드러난 데 이은 또다른 충격으로 받아들여진다. 이는 사상통제 사회의 모습을 적나라하게 반영하는 것으로 읽히기 때문이다.
시진핑 중국 국가주석은 이전에 ‘사상과 정치 교육’이 정부 교리의 필수적인 부분이라고 선언한 바 있다.
당시 영국 더타임스는 충성도 확인 테스트 AI시스템이 공산당원의 표정과 뇌파를 분석해 ‘사상교육’에 주의를 기울이고 있는지를 파악하는 장치라고 전했다.
이 매체는 7월 1일 인터넷에 업로드됐다가 곧 삭제된 중국의 해당 AI 기술 보도를 인용, “당원들이 사상과 정치 교육을 어떻게 받아들였는지 판단할 수 있고, 한편으로는 사상과 정치 교육을 위한 실제 데이터를 제공해 이를 개선하고 풍부해지게 할 수 있다”고 전했다.
개발자인 허페이 국립종합과학센터에 따르면 이 AI 기술은 “당에 감사하고 당에 귀를 기울이고 당을 따르려는 공산당원들의 자신감과 결단력을 공고히 하기 위해” 사용될 예정이다. 이 과학센터는 연구팀에 소속된 43명의 공산당원들에게 이 기술을 테스트하도록 독려한 것으로 알려졌다.
삭제된 영상에는 연구원이 키오스크에 들어간 뒤 스크린 앞에 앉아 당 정책과 성과를 홍보하는 글을 바라보는 모습이 담긴 것으로 전해졌다. 키오스크는 감시 카메라를 통해 연구원의 표정을 볼 수 있다.
시진핑 주석이 이끄는 중국 공산당은 사상과 정치 교육이 당에 충성하는 데 필수적이라고 믿고 있다. 중국 공산당에는 이미 ‘학습강국(學習强國 Xuexi Qiangguo)’이라는 교화 앱이 있다.
이는 중국의 알리바바 그룹이 시진핑 신시대 중국 특색 사회주의 사상을 가르치기 위해 개발한 모바일 앱이다. 지난 2019년 1월 1일에 출시됐으며 중국공산당 중앙선전부에서 운영한다. 이 앱은 9,677만 회원이 기사를 읽고, 비디오를 보고, 공산주의 영웅에 대한 퀴즈에 답함으로써 포인트를 얻도록 강요한다.
‘학습’의 ‘습(習)’이 시진핑(習近平) 주석의 성(姓)인 ‘시(習)’와 같다. 우연히도 ‘학습’이란 말의 뜻이 ‘배우고 익히다’, 또는 ‘시주석(習)을 배워(學) 나라를 강하게 만들자(强國)’는 구호로도 읽힐 수 있다. 또 ‘강한 나라(강국·중국)를 배우자(학습)’도 된다. 물론 ‘학습은 나라를 강하게 만든다’는 뜻으로도 읽힌다.
전반적 분위기가 시진핑 주석 1인 통치체제를 강화하는 의미다.
바이두와 허페이연구소의 사례 등은 중국의 AI 기술이 사회의 편익보다 국민을 통제하고 권력을 유지하는 수단에 활용된다는 부정적 인상을 주기에 충분해 보인다.
소셜댓글