‘AI세탁’ 기업에 정부차원 응징할 정도?···뭐가 문제?

최근 전세계적으로 ‘인공지능’(AI)을 앞세워 첨단 기업을 표방하면서 기업가치를 높이고 기업 고객과 투자자들을 잘못 인도하는 경향이 늘고 있다고 한다. AI칩과 AI모델을 만드는 미국 대표 기업인 대표 기업인 엔비디아, 오픈AI 같은 회사들의 주가가 천정부지로 치솟기 때문일 것이다.

지난주 BBC는 지난주 기업들이 ‘AI 세탁’(AI washing)하는 이유, 유형, 문제점과 실태, 미국·영국 정부의 AI세탁 기업에 대한 대응 및 실제 처벌 상황, 대처법 그리고 향후 전망에 대해 조명했다. AI세탁은 ‘AI기업’이라고 자처하는 기업들이 수요자 기업들에게 지불한 비용만큼의 효용성을 제공하지 못하거나 투자자들에게 손해를 끼칠 수 있기에 위험하다. 이 내용을 BBC,미SEC 발표내용, 사이버시큐리티뉴스 보도 등과 종합해 공유한다.

아마존이 몰고 온 AI세탁 의혹 보도 파장

AI로 작동되는 것으로 알려진 아마존 프레시 매장이 사실은 그렇지 않다는 지난 4월 보도가 나가면서 파문이 일었다. 사실여부를 떠나 AI란 이름을 내세워 기업가치를 높이고 수요 기업들을 오도하는 기업들이 늘고 있다. 사진은 영국 세븐 오크스에 있는 아마존 프레시 매장. (사진=위키피디아)

아마존은 올해 ‘그냥 걸어 나오세요’(Just Walk Out) 식료품 매장에 사용된 인공지능(AI) 기술에 대한 의문 제기 보도로 곤혹스런 상황에 처했다.

사건의 전말은 이렇다.

AI 기반 시스템은 많은 ‘아마존 프레시’와 ‘아마존 고’ 상점을 찾은 고객들이 단순히 물건을 고르고 나서 떠나기만 하면 별도의 계산을 할 필요가 없게 해 준다. 이 때 AI는 해당 상점에서 고객이 선택한 물품을 알아내기 위해 많은 센서를 사용한다. 그러면 고객이 집어든 물건은 자동으로 계산 청구된다.

그러나 지난 4월, 저스트 워크 아웃은 AI만을 사용하는 것이 아니라 이 가게의 거의 4분의 3에 해당하는 거래를 수동으로 확인하기 위해 약 1000명의 인도 원격 작업자가 필요하다는 비즈니스인사이더의 보도가 나왔다.

아마존은 보도가 잘못됐으며 “인도 직원들이 모든 상점의 비디오 영상을 검토하고 있지 않다”고 재빨리 주장했다.

대신 인도 노동자들이 단순히 그 시스템을 검토하고 있다고 말했다. 아마존은 "이것은 흔히 인간 검토자들을 두는 정확성에 높은 가치를 두는 다른 어떤 AI 시스템과도 다르지 않다"고 덧붙였다.

기업들, AI세탁이 뭐길래?

AI는 기계학습을 통해 배운다. (사진=링크드인/아미트 데)

BBC는 아마존 사건의 정확한 세부 사항이 무엇이간 간에 기업들이 AI 사용에 대해 과도하게 부풀린 주장을 하고 있는지에 대한 새롭고 점점 더 커지는 질문의 주목할 만한 사례로 꼽힌다고 지적했다.

그것은 기업이 환경관련 이슈에 대해 친환경적인 것처럼 포장하는 ‘그린 워싱’에 빗대 ‘AI 워싱’이라고 불려온 현상이다.

그러나 이는 무엇보다도 AI가 정확히 무엇을 의미하는지 상기시킨다. 정확한 정의는 없지만, AI는 컴퓨터가 학습하고 문제를 해결하도록 허용한다. AI는 처음에 엄청난 양의 정보에 대해 훈련을 받은 후에 이것을 할 수 있다.

지난 몇 년간 화제가 된 AI의 구체적인 유형은 이른 바 ‘생성형 AI’다.

이것은 텍스트 대화를 하거나 음악이나 이미지를 제작하거나 새로운 콘텐츠를 만드는 데 특화된 AI다.

오픈 AI의 챗GPT, 구글의 제미나이, 마이크로소프트(MS)의 코파일럿과 같은 챗봇은 인기있는 생성형 AI의 사례다.

다양한 종류의 AI 세탁과 그러는 이유

2▲AI는 머신러닝을 통해 학습하고 기능해서 효율성을 제공하는 시스템이라고 할 수 있다. 하지만 그렇지 않은 시스템을 AI로 세탁하는 다양한 종류와 사례가 있다. 예를 들면 덜 복잡한 컴퓨팅을 사용할 때 AI를 사용한다고 주장하는가 하면 AI효율성을 과장하기도 하고, AI솔루션이 완전히 작동하지 않는데도 그러는 것처럼 제시한다. (사진=테크피디아)

AI 세탁에 관한 한 여러 종류가 있다.

일부 회사들은 그들이 실제로 덜 복잡한 컴퓨팅을 사용할 때 AI를 사용한다고 주장하는 반면, 다른 회사들은 그들의 AI 효율성을 기존 기술에 비해 과장해 말하거나, 그들의 AI 솔루션이 완전히 작동하지 않을 때도 그런 것처럼 제시한다.

한편, 다른 회사들은 AI 챗봇을 기존의 AI에 운영되지 않는 소프트웨어(SW)에 볼팅(bolting)하고 있다. (볼팅이란 일반적으로 인간의 전문 지식과 AI 능력과 네트워킹 커뮤니티를 혼합하는 것을 의미한다.)

영국과 핀란드에 기반한 신생 테크 스타트업 대상의 투자 펀드회사인 오픈오션에 따르면, 지난 2022년에는 이들 가운데 10%만이 자사가 AI를 사용한다고 언급했지만 지난해엔 25% 이상으로 증가했다. 이 회사는 올해 이 수치가 3분의 1(33%) 이상이 될 것이라고 예상한다.

오픈오션의 팀원인 스리 아양가르는 자금 조달 경쟁과 최첨단에 등장하려는 욕구가 일부 기업들로 하여금 그들의 AI 역량을 과대평가 하게 만들었다고 말한다.

아양가르는 “일부 창업자들은 AI가 그들의 솔루션에서 어떤 역할을 하는지와 상관없이 AI를 언급하지 않으면 불이익을 받을 수 있다고 생각하는 것 같다”고 말했다. 이어 “우리의 분석에 따르면 AI 역량을 주장하는 회사들과 AI가 주도하는 가시적 결과를 보여주는 회사들 사이에는 상당한 차이가 존재한다”고 덧붙였다. 그는 “몇몇 스타트업 사장들은 AI를 언급해야만 한다고 느낀다”고 말한다

또 다른 기술 투자 회사인 MMC 벤처스의 데이터에 따르면, 이같은 현상은 수년 동안 조용히 존재해 온 문제다.

이 회사의 지난 2019년 연구에서는 스스로를 ‘AI 스타트업’이라고 표현한 신생 테크 스타트업의 40%가 사실상 AI를 전혀 사용하지 않는 것으로 나타났다.

사이먼 메나시 MMC 벤처스 총괄 파트너는 “문제는 오늘날에도 마찬가지이며, 여기에 다른 문제도 더해진다”고 지적한다.

그는 “최첨단 AI 능력은 이제 모든 회사가 표준 SW 가격으로 구입할 수 있다”고 설명한다. 그러나 그는 “많은 회사들이 시스템 전체를 AI로 구축하는 대신 단순히 비 AI 제품 위에 챗봇 인터페이스를 만들고 있다”고 말한다.

AI세탁이 수요자 기업에 가져오는 폐해들

AI세탁은 투자자들에게 어느 회사가 진정한 혁신기업인지 식별하기 어렵게 만들 수 있다. (사진=sec.gov)

거대 회계법인 KPMG의 신흥 기술 리스크 책임자인 더글러스 딕은 “AI에 대한 단 하나의 합의된 정의가 없다는 사실은 AI 세탁 문제(해결)에 도움이 되지 않는다”고 말한다. 그는 “만약 내가 방에 있는 사람들에게 AI에 대한 정의가 무엇인지 물어본다면, 그들은 모두 다른 대답을 했을 것이다. 이 용어는 명확한 기준 없이 매우 광범위하고 느슨하게 사용된다. 이러한 모호함이 AI 세탁이 나타날 수 있게 한다”고 말했다.

그는 또 “AI 세탁은 기술과 서비스에 대한 과도한 비용 지불에서부터 AI가 기업을 도와 이뤄줄 것으로 기대했던 운영 목표를 충족시키지 못하는 등 기업에 우려스러운 영향을 미칠 수 있다”고 지적했다.

AI세탁은 기업에만 우려스러운 영향을 미치는 것이 아니다. 투자자들도 손해를 볼 수 있다

AI기업 세탁 현상의 부작용 가운데에는 투자자들에게도 진정한 AI 혁신 기업을 식별하기 어렵게 만들 수 있다는 점도 꼽힌다.

아양가르씨는 “만약 소비자들이 AI기반의 고급 솔루션을 제공한다고 주장하는 제품들로부터 기대를 충족시키지 못하게 된다면 이는 진정으로 획기적인 작업을 하고 있는 스타트업들에 대한 신뢰를 잠식할 수 있다”고 말한다

美 SEC, AI세탁해 고객기업 오도하자 응징

세계 AI 최강국인 미국의 미증권거래위(SEC)는 AI세탁 기업을 엄하게 다뤘다. SEC가 지난 3월18일 델피아와 글로벌 프리딕션의 AI세탁 기소 사실을 발표하고 있다. (사진=미증권거래위 sec.gov)

이런 상황에서 최소한 미국에서는 규제 당국이 AI세탁에 주목하고 과도한 AI세탁을 한 기업에 칼을 빼들었다.

지난 3월 18일 미증권거래위원회(SEC)는 투자자문사 2곳(델피아 USA, 글로벌 프리딕션즈)에 대해 AI 활용 범위에 대해 허위·오해의 소지가 있는 AI세탁 혐의를 적용해 기소했다고 발표했다.

두 회사는 총 40만달러(약 5억2000만 원)의 벌금을 부과받았다. SEC는 델피아가 22만 5000달러(약 3억1000만원), 글로벌 프리딕션이 17만 5000달러(약 2억4000만 원)의 민사 처벌금을 각각 지불하는 선에서 합의됐다고 발표했다.

SEC는 “델피아와 글로벌 프리딕션즈 어느 회사도 AI능력을 갖추지 못하고 있었다. 간단히 말하면 이것은 AI세탁이다. 이는 투자자들을 다치게 한다”고 기소 이유를 밝혔다.

SEC는 그럼에도 델피아는 “어떤 회사와 트렌드가 곧 크게 성장할 것인지 예측한다(predict which companies and trends are about to make it big)”라고 했고, 글로벌 프리딕션즈는 “전문가 AI 기반으로 예측한다(Expert AI-driven forecasts)”고 한 점을 기소 근거로 들었다.

SEC는 투자자들에게 “AI는 우리 삶의 모든 부분을 향상시킨다는 약속을 하고 있지만 진화하는 기술이다. AI는 강력하지만 환각현상등을 보이는 등 불완전한 기술이기도 하다. 따라서 자문사가 AI에 투자하라거나 투자기업이 AI를 통합하려면 한다고 한다면 스스로 물어보고 공부해야 하고, 더좋은 것은 인베스터닷고브(investor.gov)에 들어가 그 회사가 ‘AI’ 주장을 하는 배경과 등록 자격, 투자전문가와 투자회사 배경 등에 대해 알아보라”고 충고했다.

국제 로펌 찰스 러셀 스피컬리스(Charles Russell Speechlys)의 닉 화이트 파트너는 “SEC가 취한 확고한 입장은 AI 세탁과 관련해 가차없다는 것을 보여준다”며 “적어도 미국에서는 규정을 위반한 사람들에게 더 많은 벌금과 제재가 가해질 수 있다는 것을 보여준다”고 말했다.

닉 화이트는 미국 규제 당국이 AI세탁 문제를 단속하는 것을 보는 것이 좋다고 말한다.

영국에서는 마케팅 커뮤니케이션이 실질적으로 오도되거나 그럴 가능성이 있어서는 안 된다는 광고표준청(ASA)의 행동강령을 포함해 AI 세탁을 다루는 규칙과 법이 이미 마련돼 있다.

영국 기업 로펌인 워커 모리스에서 규제팀을 맡고 있는 미카엘 코르도는 “ASA 조사 대상 광고에서 AI 주장이 점점 더 흔한 특징이 됐다”고 말한다. 예를 들어 ASA가 앱 성능을 과장해 오도할 소지가 있다고 판단한 유료 인스타그램 게시물인 “AI로 귀하의 사진을 향상시키세요”라는 자막이 달린 앱이 포함된다. 코르도는 “분명한 것은 AI주장이 점점 더 널리 퍼지고 있으며 아마도 소비자의 관심을 끄는 데 효과적일 것”이라고 말했다.

AI 분야를 주도하는 세계적 전문가인 샌드라 와처 옥스퍼드대 기술 규제 학과 교수는 “우리는 AI 과대광고 사이클의 정점에 있다고 생각한다”고 말했다. 그녀는 “그런데 나는 우리가 모든 종류의 일에 AI를 사용하는 것이 항상 타당한지 묻는 것을 잊었다고 느낀다. 나는 런던 지하철에서 AI로 작동되는 전동 칫솔에 대한 광고를 본 것을 기억한다. 이것은 누구를 위한 것인가? 이것으로 도움받는 사람은 누구인가?”라고 물었다.

그녀는 또한 AI가 환경에 미치는 영향은 종종 간과된다면서 “AI는 나무 위에서 자라지 않는다…그 기술은 이미 항공보다 기후 변화에 더 많이 영향을 미친다. 우리는 이 일방적인 과장된 논의에서 벗어나, 진정으로 AI가 이익이 될 수 있는 구체적인 업무와 분야에 대해 생각해야 하며, 맹목적으로 모든 것에 시행하지 말아야 한다”고 말한다.

그러나 MMC 벤처스의 아드비카 잘란 연구 책임자는 “장기적으로 AI 세탁 문제가 저절로 가라앉을 수도 있다”고 말한다. 그녀는 “AI는 비록 그것들이 챗GPT 포장지에 불과할지라도 매우 보편화되고 있기 때문에 브랜딩 도구로서의 ‘AI 기반’은 시간이 지나면 더 이상 차별화 요소가 되지 않을 것이다. 이것은 마치 ‘우리가 인터넷에 있다’고 말하는 것과 같다”고 지적했다.

이재구 기자

jklee@tech42.co.kr
기자의 다른 기사보기
저작권자 © Tech42 - Tech Journalism by AI 테크42 무단전재 및 재배포 금지

관련 기사

정주영 창업경진대회 현장, “기업가 정신으로 무장한 스타트업 모험가들의 도전 무대”

‘모험가(Risk Taker)’를 주제로 진행된 이번 대회에는 초기 지원 팀은 1400여개에 달한다. 이중 47대 1의 경쟁률을 뚫고 헬스케어, 모빌리티, 콘텐츠, 교육 등 다양한 분야에서 창업한 30개 스타트업들이 선발됐다. 이후 예비 창업팀을 위한 ‘도전 트랙’에서는 20개 팀이, 초기 스타트업을 위한 ‘성장 트랙’에서는 10개 팀이 참여해 약 6개월간 사업 실행과 액셀러레이팅 과정을 거쳤다. 다시 이들 팀들은 지난달 최종 심사를 통해 각 트랙별 6개 팀, 총 12팀으로 이날 데모데이 무대에 올랐다.

아직도 X 쓰세요? 이제 AI가 당신의 모든 게시물을 학습합니다

다음주부터 발효되는 X의 최신 서비스 약관에 따라, 이제 X를 사용하기 원하는 모든 사용자는 플랫폼의 AI가 자신의 게시물을 학습하는 것에 동의해야 한다. 최근 AI 기술이 열광적으로 주목받으면서 사용자들의 콘텐츠를 활용해 AI를 학습하는 것이 또 다른 중요한 문제로 떠올랐다.

[마루에서 만난 사람] 민동찬 브이몬스터 대표 “경량화한 실시간 대화형 AI 휴먼 솔루션을 개발했습니다”

기존 AI 휴먼 솔루션이 기술적 한계로 인해 미리 설정하고 입력한 정보를 일방향으로 전달하는 영상 제작에만 사용됐다면, 이제는 양방향 소통이 가능한 대화형 AI 휴먼 개발이 가능해진 것이다. 이는 생성형 AI 기반 서비스의 등장과 함께 양방향 소통을 위한 기술적 돌파구가 마련된 덕분이다. 더구나 기존 수분에서 수시간이 소요됐던 AI 휴먼 생성 시간 역시 실시간으로 가능해 졌다. 지난해 4월 카이스트(KAIST) AI 연구원 출신의 민동찬 대표가 창업한 ‘브이몬스터’는 바로 이러한 기술력을 기반으로 AI 휴먼 서비스를 선보였고, 즉각적인 시장의 반응을 얻고 있다.

이제 판돈 거둬들여? ‘트럼프’의 승리로 ‘머스크’가 얻게 될 것들

지금까지 일론 머스크만큼 도널드 트럼프를 지지한 기업 리더는 단 한명도 없었다. 그러나 트럼프가 이번 미국 대통령 선거에서 승리하면서 이 억만장자와 그의 기업 제국은 테크 업계에 엄청난 영향력을 미칠 전망이다.