최근 전세계적으로 ‘인공지능’(AI)을 앞세워 첨단 기업을 표방하면서 기업가치를 높이고 기업 고객과 투자자들을 잘못 인도하는 경향이 늘고 있다고 한다. AI칩과 AI모델을 만드는 미국 대표 기업인 대표 기업인 엔비디아, 오픈AI 같은 회사들의 주가가 천정부지로 치솟기 때문일 것이다.

지난주 BBC는 지난주 기업들이 ‘AI 세탁’(AI washing)하는 이유, 유형, 문제점과 실태, 미국·영국 정부의 AI세탁 기업에 대한 대응 및 실제 처벌 상황, 대처법 그리고 향후 전망에 대해 조명했다. AI세탁은 ‘AI기업’이라고 자처하는 기업들이 수요자 기업들에게 지불한 비용만큼의 효용성을 제공하지 못하거나 투자자들에게 손해를 끼칠 수 있기에 위험하다. 이 내용을 BBC,미SEC 발표내용, 사이버시큐리티뉴스 보도 등과 종합해 공유한다.

아마존이 몰고 온 AI세탁 의혹 보도 파장

아마존은 올해 ‘그냥 걸어 나오세요’(Just Walk Out) 식료품 매장에 사용된 인공지능(AI) 기술에 대한 의문 제기 보도로 곤혹스런 상황에 처했다.

사건의 전말은 이렇다.

AI 기반 시스템은 많은 ‘아마존 프레시’와 ‘아마존 고’ 상점을 찾은 고객들이 단순히 물건을 고르고 나서 떠나기만 하면 별도의 계산을 할 필요가 없게 해 준다. 이 때 AI는 해당 상점에서 고객이 선택한 물품을 알아내기 위해 많은 센서를 사용한다. 그러면 고객이 집어든 물건은 자동으로 계산 청구된다.

그러나 지난 4월, 저스트 워크 아웃은 AI만을 사용하는 것이 아니라 이 가게의 거의 4분의 3에 해당하는 거래를 수동으로 확인하기 위해 약 1000명의 인도 원격 작업자가 필요하다는 비즈니스인사이더의 보도가 나왔다.

아마존은 보도가 잘못됐으며 “인도 직원들이 모든 상점의 비디오 영상을 검토하고 있지 않다”고 재빨리 주장했다.

대신 인도 노동자들이 단순히 그 시스템을 검토하고 있다고 말했다. 아마존은 "이것은 흔히 인간 검토자들을 두는 정확성에 높은 가치를 두는 다른 어떤 AI 시스템과도 다르지 않다"고 덧붙였다.

기업들, AI세탁이 뭐길래?

BBC는 아마존 사건의 정확한 세부 사항이 무엇이간 간에 기업들이 AI 사용에 대해 과도하게 부풀린 주장을 하고 있는지에 대한 새롭고 점점 더 커지는 질문의 주목할 만한 사례로 꼽힌다고 지적했다.

그것은 기업이 환경관련 이슈에 대해 친환경적인 것처럼 포장하는 ‘그린 워싱’에 빗대 ‘AI 워싱’이라고 불려온 현상이다.

그러나 이는 무엇보다도 AI가 정확히 무엇을 의미하는지 상기시킨다. 정확한 정의는 없지만, AI는 컴퓨터가 학습하고 문제를 해결하도록 허용한다. AI는 처음에 엄청난 양의 정보에 대해 훈련을 받은 후에 이것을 할 수 있다.

지난 몇 년간 화제가 된 AI의 구체적인 유형은 이른 바 ‘생성형 AI’다.

이것은 텍스트 대화를 하거나 음악이나 이미지를 제작하거나 새로운 콘텐츠를 만드는 데 특화된 AI다.

오픈 AI의 챗GPT, 구글의 제미나이, 마이크로소프트(MS)의 코파일럿과 같은 챗봇은 인기있는 생성형 AI의 사례다.

다양한 종류의 AI 세탁과 그러는 이유

AI 세탁에 관한 한 여러 종류가 있다.

일부 회사들은 그들이 실제로 덜 복잡한 컴퓨팅을 사용할 때 AI를 사용한다고 주장하는 반면, 다른 회사들은 그들의 AI 효율성을 기존 기술에 비해 과장해 말하거나, 그들의 AI 솔루션이 완전히 작동하지 않을 때도 그런 것처럼 제시한다.

한편, 다른 회사들은 AI 챗봇을 기존의 AI에 운영되지 않는 소프트웨어(SW)에 볼팅(bolting)하고 있다. (볼팅이란 일반적으로 인간의 전문 지식과 AI 능력과 네트워킹 커뮤니티를 혼합하는 것을 의미한다.)

영국과 핀란드에 기반한 신생 테크 스타트업 대상의 투자 펀드회사인 오픈오션에 따르면, 지난 2022년에는 이들 가운데 10%만이 자사가 AI를 사용한다고 언급했지만 지난해엔 25% 이상으로 증가했다. 이 회사는 올해 이 수치가 3분의 1(33%) 이상이 될 것이라고 예상한다.

오픈오션의 팀원인 스리 아양가르는 자금 조달 경쟁과 최첨단에 등장하려는 욕구가 일부 기업들로 하여금 그들의 AI 역량을 과대평가 하게 만들었다고 말한다.

아양가르는 “일부 창업자들은 AI가 그들의 솔루션에서 어떤 역할을 하는지와 상관없이 AI를 언급하지 않으면 불이익을 받을 수 있다고 생각하는 것 같다”고 말했다. 이어 “우리의 분석에 따르면 AI 역량을 주장하는 회사들과 AI가 주도하는 가시적 결과를 보여주는 회사들 사이에는 상당한 차이가 존재한다”고 덧붙였다. 그는 “몇몇 스타트업 사장들은 AI를 언급해야만 한다고 느낀다”고 말한다

또 다른 기술 투자 회사인 MMC 벤처스의 데이터에 따르면, 이같은 현상은 수년 동안 조용히 존재해 온 문제다.

이 회사의 지난 2019년 연구에서는 스스로를 ‘AI 스타트업’이라고 표현한 신생 테크 스타트업의 40%가 사실상 AI를 전혀 사용하지 않는 것으로 나타났다.

사이먼 메나시 MMC 벤처스 총괄 파트너는 “문제는 오늘날에도 마찬가지이며, 여기에 다른 문제도 더해진다”고 지적한다.

그는 “최첨단 AI 능력은 이제 모든 회사가 표준 SW 가격으로 구입할 수 있다”고 설명한다. 그러나 그는 “많은 회사들이 시스템 전체를 AI로 구축하는 대신 단순히 비 AI 제품 위에 챗봇 인터페이스를 만들고 있다”고 말한다.

AI세탁이 수요자 기업에 가져오는 폐해들

거대 회계법인 KPMG의 신흥 기술 리스크 책임자인 더글러스 딕은 “AI에 대한 단 하나의 합의된 정의가 없다는 사실은 AI 세탁 문제(해결)에 도움이 되지 않는다”고 말한다. 그는 “만약 내가 방에 있는 사람들에게 AI에 대한 정의가 무엇인지 물어본다면, 그들은 모두 다른 대답을 했을 것이다. 이 용어는 명확한 기준 없이 매우 광범위하고 느슨하게 사용된다. 이러한 모호함이 AI 세탁이 나타날 수 있게 한다”고 말했다.

그는 또 “AI 세탁은 기술과 서비스에 대한 과도한 비용 지불에서부터 AI가 기업을 도와 이뤄줄 것으로 기대했던 운영 목표를 충족시키지 못하는 등 기업에 우려스러운 영향을 미칠 수 있다”고 지적했다.

AI세탁은 기업에만 우려스러운 영향을 미치는 것이 아니다. 투자자들도 손해를 볼 수 있다

AI기업 세탁 현상의 부작용 가운데에는 투자자들에게도 진정한 AI 혁신 기업을 식별하기 어렵게 만들 수 있다는 점도 꼽힌다.

아양가르씨는 “만약 소비자들이 AI기반의 고급 솔루션을 제공한다고 주장하는 제품들로부터 기대를 충족시키지 못하게 된다면 이는 진정으로 획기적인 작업을 하고 있는 스타트업들에 대한 신뢰를 잠식할 수 있다”고 말한다

美 SEC, AI세탁해 고객기업 오도하자 응징

이런 상황에서 최소한 미국에서는 규제 당국이 AI세탁에 주목하고 과도한 AI세탁을 한 기업에 칼을 빼들었다.

지난 3월 18일 미증권거래위원회(SEC)는 투자자문사 2곳(델피아 USA, 글로벌 프리딕션즈)에 대해 AI 활용 범위에 대해 허위·오해의 소지가 있는 AI세탁 혐의를 적용해 기소했다고 발표했다.

두 회사는 총 40만달러(약 5억2000만 원)의 벌금을 부과받았다. SEC는 델피아가 22만 5000달러(약 3억1000만원), 글로벌 프리딕션이 17만 5000달러(약 2억4000만 원)의 민사 처벌금을 각각 지불하는 선에서 합의됐다고 발표했다.

SEC는 “델피아와 글로벌 프리딕션즈 어느 회사도 AI능력을 갖추지 못하고 있었다. 간단히 말하면 이것은 AI세탁이다. 이는 투자자들을 다치게 한다”고 기소 이유를 밝혔다.

SEC는 그럼에도 델피아는 “어떤 회사와 트렌드가 곧 크게 성장할 것인지 예측한다(predict which companies and trends are about to make it big)”라고 했고, 글로벌 프리딕션즈는 “전문가 AI 기반으로 예측한다(Expert AI-driven forecasts)”고 한 점을 기소 근거로 들었다.

SEC는 투자자들에게 “AI는 우리 삶의 모든 부분을 향상시킨다는 약속을 하고 있지만 진화하는 기술이다. AI는 강력하지만 환각현상등을 보이는 등 불완전한 기술이기도 하다. 따라서 자문사가 AI에 투자하라거나 투자기업이 AI를 통합하려면 한다고 한다면 스스로 물어보고 공부해야 하고, 더좋은 것은 인베스터닷고브(investor.gov)에 들어가 그 회사가 ‘AI’ 주장을 하는 배경과 등록 자격, 투자전문가와 투자회사 배경 등에 대해 알아보라”고 충고했다.

국제 로펌 찰스 러셀 스피컬리스(Charles Russell Speechlys)의 닉 화이트 파트너는 “SEC가 취한 확고한 입장은 AI 세탁과 관련해 가차없다는 것을 보여준다”며 “적어도 미국에서는 규정을 위반한 사람들에게 더 많은 벌금과 제재가 가해질 수 있다는 것을 보여준다”고 말했다.

닉 화이트는 미국 규제 당국이 AI세탁 문제를 단속하는 것을 보는 것이 좋다고 말한다.

영국에서는 마케팅 커뮤니케이션이 실질적으로 오도되거나 그럴 가능성이 있어서는 안 된다는 광고표준청(ASA)의 행동강령을 포함해 AI 세탁을 다루는 규칙과 법이 이미 마련돼 있다.

영국 기업 로펌인 워커 모리스에서 규제팀을 맡고 있는 미카엘 코르도는 “ASA 조사 대상 광고에서 AI 주장이 점점 더 흔한 특징이 됐다”고 말한다. 예를 들어 ASA가 앱 성능을 과장해 오도할 소지가 있다고 판단한 유료 인스타그램 게시물인 “AI로 귀하의 사진을 향상시키세요”라는 자막이 달린 앱이 포함된다. 코르도는 “분명한 것은 AI주장이 점점 더 널리 퍼지고 있으며 아마도 소비자의 관심을 끄는 데 효과적일 것”이라고 말했다.

AI 분야를 주도하는 세계적 전문가인 샌드라 와처 옥스퍼드대 기술 규제 학과 교수는 “우리는 AI 과대광고 사이클의 정점에 있다고 생각한다”고 말했다. 그녀는 “그런데 나는 우리가 모든 종류의 일에 AI를 사용하는 것이 항상 타당한지 묻는 것을 잊었다고 느낀다. 나는 런던 지하철에서 AI로 작동되는 전동 칫솔에 대한 광고를 본 것을 기억한다. 이것은 누구를 위한 것인가? 이것으로 도움받는 사람은 누구인가?”라고 물었다.

그녀는 또한 AI가 환경에 미치는 영향은 종종 간과된다면서 “AI는 나무 위에서 자라지 않는다…그 기술은 이미 항공보다 기후 변화에 더 많이 영향을 미친다. 우리는 이 일방적인 과장된 논의에서 벗어나, 진정으로 AI가 이익이 될 수 있는 구체적인 업무와 분야에 대해 생각해야 하며, 맹목적으로 모든 것에 시행하지 말아야 한다”고 말한다.

그러나 MMC 벤처스의 아드비카 잘란 연구 책임자는 “장기적으로 AI 세탁 문제가 저절로 가라앉을 수도 있다”고 말한다. 그녀는 “AI는 비록 그것들이 챗GPT 포장지에 불과할지라도 매우 보편화되고 있기 때문에 브랜딩 도구로서의 ‘AI 기반’은 시간이 지나면 더 이상 차별화 요소가 되지 않을 것이다. 이것은 마치 ‘우리가 인터넷에 있다’고 말하는 것과 같다”고 지적했다.