자나 깨나 헛소리 조심! ‘2024 AI’ 알고 갑시다

[AI요약] 생성AI가 선거에 미치는 영향에 대한 우려가 시급해졌다. 유권자가 완전히 환상에 가까운 정보의 세계에서, AI 환각과 정치적 편의의 독성이라는 혼합을 기반으로 생성된 온라인 현실에서 살게 될수 있다는 우려의 목소리가 커지고 있다.

챗GPT와 같은 생성AI 및 기술의 등장으로 ‘헛소리 봇’이 증가하고 있다는 지적이 나온다. (이미지=생성AI)

‘자나 깨나 헛소리 조심!’, 올해 우리 삶의 모토로 삼아야 할지도 모르겠다.

생성 인공지능(AI)가 우리 삶의 방식에 현실적이고 임박한 위협이 되는 이유에 대해 더가디언, CNN 등 외신이 3일(현지시간) 보도했다.

지난해 미국에서는 앞으로 다가올 정치가 될 영상이 등장했다. 해당 영상에서 전 민주당 대선 후보이자 국무장관이었던 힐러리 클린턴은 “내가 이 말을 하면 사람들이 놀랄지도 모르지만 저는 사실 론 드샌티스를 아주 좋아합니다. 나는 그가 바로 이 나라에 필요한 사람이라고 말하고 싶습니다.”라고 말했다.

론 드샌티스는 공화당 대선 후보이며, 클린턴이 공화당 대선 후보를 열렬히 지지한다는 것은 이상해 보인다. 그렇다. 해당 영상의 추가 조사 결과 해당 영상은 생성 AI를 이용해 제작된 것으로 드러났다.

그러나 클린턴 비디오는 생성AI가 가까운 미래에 어떻게 정치를 근본적으로 바꿀 수 있는지 보여주는 작은 예일 뿐이다. 생성 AI로 제작된 허위정보는 대부분 자본없이 생성될 가능성이 크며, 여기에는 유권자를 조작하기 위해 고도로 개인화된 광고가 포함된다.

전문가들은 허위 정보 유포의 결과가 선거결과에 직접적인 영향을 미칠 것으로 지적한다. 예를들어 11월 미국 대선을 가짜 뉴스가 터져 나올 경우 잘못된 정보에 반박할 시간도 부족하다. 투표소의 위치 같은 선거행정에 대한 잘못된 정보가 생성될 수도 있다.

특히 2024년은 전 세계 수십억 명의 사람들이 투표하게 될 해다. 올해에는 미국, 영국, 유럽연합, 대만, 인도, 러시아, 남아프리카공화국, 멕시코, 이란, 파키스탄, 인도네시아 등에서 선거가 예정돼 있다.

선거의 대부분은 단지 국가의 미래만을 결정하는 것이 아닌, 지정학적 긴장과 기후 위기와 같은 글로벌 과제를 해결하는 방법을 결정하게 되며 여기에는 수많은 정치적 이슈가 연결돼 있다.

2010년대 선거가 소셜 미디어에 엄청난 영향을 받은 것과 마찬가지로 앞으로 진행될 선거는 새로운 생성AI 기술의 영향을 받을 가능성이 크다.

그러나 2010년대 정치인들이 선거를 유리하게 끌고가기 위해 소셜 미디어의 힘을 활용하는 데 엄청난 자금을 소비한 반면, 생성AI는 오해의 소지가 있는 정보를 생성하는 데 드는 비용을 효과적으로 ‘제로’로 줄인다.

특히 미국은 지난 10년 동안 이른바 ‘헛소리’가 실제로 정치에 어떤 영향을 주는지 목격하면서 우려의 목소리가 커지고 있다.

통계에 근거해 답변을 내놓는 생성AI가 ‘환각’을 생성할수 있다는 것은 이미 잘 알려져 있다. 표면적으로 그럴듯해 보이지만 실제로는 질문에 대한 정답이 아닌, 설명이나 이미지와 같이 현실과 거의 관련이 없는 인위적으로 생성된 정보를 생성하는 것이다.

문제는 인간이 생성AI가 만든 허위 자료를 무비판적이고 경솔한 방식으로 사용할수 있는 것이다. 그리고 사람들이 무엇이 참이고 거짓인지 아는 것을 더 어렵게 만든다.

AI가 생성한 환각이 경제 상황이나 우크라이나 전쟁 등 중요하지만 확인하기 어려운 질문에 답하는 데 사용된다면 일부 사람들이 다음을 기반으로 중요한 투표 결정을 내리기 시작할수 있다. 완전히 환상에 가까운 정보의 세계에서 유권자는 AI 환각과 정치적 편의의 독성 혼합을 기반으로 생성된 온라인 현실에서 살게 될 실질적인 위험에 맞닥트린 것이다.

생성AI가 많은 직업과 산업을 근본적으로 변화시키기 시작한 가운데, 이런 변화의 선두에는 정치가 있을 가능성이 크다. (이미지=생성AI)

물론 AI 기술은 위험을 초래하지만 이를 제한하기 위해 취할수 있는 조치는 분명히 있다. 기술기업은 사용자가 AI 생성 콘텐츠를 쉽게 식별할수 있도록 워터마킹을 계속 사용할 수 있다.

또한 언론인들은 선거기간 동안 AI가 생성한 기사를 취재하지 않도록 특별한 예방 조치를 취할수 있으며, 정당은 거짓 AI 생성 정보의 사용을 방지하기 위한 정책을 개발할 수도 있다. 가장 중요한 점은 유권자가 자신이 확신하지 못하는 중요한 정보의 현실을 확인함으로써 비판적 판단을 행사할수 있다는 것이다.

전문가들은 생성AI의 등장은 이미 많은 직업과 산업을 근본적으로 변화시키기 시작했으며, 이런 변화의 선두에는 정치가 있을 가능성이 크다고 관측한다.

최근 벌어지는 이러한 형상에 대해 미국 프린스턴대학교 교수이자 철학자 해리 프랑크푸르트는 “헛소리(bullshit)를 진실에 대해 고려하지 않고 설득하려는 의도”라고 구체적으로 정의했다. 또한 그는 챗GPT(ChatGPT)와 같은 생성AI 및 기술의 등장으로 ‘헛소리 봇’(botshit)이 증가하고 있다고 지적했다.

브루킹스 연구소는 “생성AI가 정치에서 사용될수 있는 긍정적인 방법도 존재하지만, 현재로서는 부정적인 용도가 가장 명백하고 즉각적으로 우리에게 영향을 미칠 가능성이 더 크다”고 설명했다.

또한 “생성AI가 유익한 목적으로 사용되고 가짜 정보 생성으로 이어지지 않도록 노력하는 것이 중요하다”고 강조했다.

류정민 기자

znryu@daum.net
기자의 다른 기사보기
저작권자 © Tech42 - Tech Journalism by AI 테크42 무단전재 및 재배포 금지

관련 기사

글로벌 혁신 허브로 주목 받는 싱가포르, 한국 스타트업이 제대로 활용하는 전략은?

수년 째 이어지고 있는 스타트업 투자 혹한기에 더해 고물가·고금리 부담이 더해지며 국내 스타트업 생태계의 위기는 커지고 있다. 이에 정부는 최근 스타트업계 지원을 대폭 확대하고 모태펀드 출자를 스타트업코리아, 글로벌, M&A 등 핵심 출자 분야의 혁신 스타트업 투자에 집중한다는 방침을 밝혔다. 주목되는 변화 중 하나가 국외 창업 스타트업 지원이다. 이처럼 국외 창업 스타트업에 대한 지원이 늘어나는 상황에서 주목해야 할 해외 진출 전략은 무엇일까? 이에 대한 답을 최근 스타트업얼라이언스가 진행한 ‘아시아의 한국인’ 행사에서 찾아봤다.

오픈AI ‘샘 알트먼’이 ‘미국 정치판’을 길들인 방법

오픈AI의 CEO 샘 알트먼이 매력적인 언변과 교묘한 로비활동으로 지구상에서 가장 강력한 사람 중 하나가 되고 있다. 소셜 미디어 산업을 대표하는 메타의 마크 저커버그를 매우 공격적으로 비판했던 미국 정치계가 어쩐 일인지 AI 산업을 대표하는 알트먼에게는 부드럽다. 알트먼은 미국 정치판을 어떻게 길들인 것일까.

하루앞둔 미 대선···빅테크들, 트럼프에 대한 전략적 모호성 이면엔

실리콘 밸리 빅테크 리더들의 친 트럼프 분위기가 트럼프의 잠재적 보복 우려 때문인지, 정부사업 계약으로 보상받길 원해서인지인지, 아니면 해리스 민주당 후보가 승리할 경우 추가 감독 및 규제를 받을까 봐 경계해서인지를 단언할 수는 없다. 하루앞으로 다가온 미 대선 후보에 대한 빅테크 CEO들의 ‘전략적 모호성의 이면을 들여다 봤다.

[인터뷰] 방은혜 밀리의서재 AI서비스본부장 “AI를 접목한 플랫폼 기반 독서 경험 강화, 기대하셔도 좋습니다”

2016년 등장한 밀리의서재는 오랜 세월 오프라인에 머물고 있던 사람들의 독서 습관을 플랫폼으로 확장하며 독서 경험의 혁신을 이뤄냈다. 그리고 지금, 밀리의서재는 또 한 번의 혁신을 시도하고 있다. ‘AI서비스본부’를 신설하고 자사 플랫폼에 AI 기술 접목을 본격화한 것이다. 이에 테크42는 AI 격변이라는 파고에 맞서 정체성을 지켜가며 조용한 혁신을 시도하고 있는 밀리의서재가 나아갈 방향과 전략을 방은혜 AI 서비스본부장을 만나 직접 들어봤다.