올 한해 대부분 전통적 형태의 인공지능(AI)에 투자한 기업들이 350%라는 막대한 투자수익률(ROI)을 올린 것으로 보고됐다. 시장조사 회사 IDC가 지난해 말 생성형 AI 챗GPT가 등장한 이래 올해 9월까지 전세계 2100개 회사의 임원과 결정권자를 대상으로 조사한 결과다.

IDC에 따르면 이 조사는 특히 특히 응답자들에게 ROI를 정량화하도록 명시적으로 요구한 첫 사례다. 이 조사 결과는 적어도 AI를 현명하게 사용할 줄 아는 기업들에게는 매출 촉매제가 된다는 것을 보여주기에 충분하다. 기업이나 조직들이 평균 14개월 이내에 AI 투자 수익률을 실현하고 있다는 조사 결과는 이를 방증한다.

그렇다면 이 트렌드가 앞으로도 계속 갈지 궁금해진다. 이를 덮어놓고 액면 그대로 받아들여 기업들이 적용하기엔 감안해 봐야 할 요인도 있어 보이기 때문이다. 이처럼 높은 ROI 수치가 생성형 AI에 대한 거센 열풍이 분 시기와 맞아 떨어지기 때문이다. 또한 응답 기업들이 허수나 스스로의 함정에 빠진 낙관적 답변을 내놓은 결과일 가능성도 존재한다. 이들이 낮은 ROI 산출 실험이나 프로젝트를 보고하는 데 시간이나 주의를 기울이지 않았을 수도 있다는 것도 고려해 봐야 한다.

따라서 기업들이 여전히 AI 투자에 섣불리 접근하기에 조심스러운 것도 사실이다.

IDC는 전세계 2100개 기업과 임원급 대상 설문 결과가 기존 조사 때와 어떻게 다른 결과를 도출했는지, AI 사용 실태와 활용 성과는 물론 도입시 장벽 등도 함께 짚었다.

IDC는 “조직들은 AI를 사용할 때 고객 만족도, 직원 생산성, 시장 점유율과 같은 주요 분야에 걸쳐 평균 18%의 성과 향상이라는 결과를 보고했다”고 말했다. 그러면서 AI의 긍정적인 결과에도 기업들은 또한 데이터나 지재권(IP) 손실, 리스크 관리, AI 거버넌스(지배력) 부족과 같은 영역에서 높아진 우려를 보였다“고 지적했다.

벤처비트의 최신 보도를 통해 이 조사 결과를 살펴 본다.

어떻게 IBM 조사후 4개월 만에 이런 엄청난 ROI가?

이 보고서는 기업들의 AI 투자에 대한 새로운 차원의 모멘텀(추진력)을 제시하고 있다.

IDC에 AI 투자후 결과에 대한 ROI 조사를 의뢰한 기업은 마이크로소프트(MS)였다. 하지만 조사는 MS와 별개로 IDC 독자적으로 이뤄졌다.

이번 조사에서 응답자들은 AI 투자 대비 평균 3.5배의 매출을 보고한 것으로 나타났다. 즉, 1달러 투자 당 3.5달러의 매출을 얻고 있다고 밝힌 것이다. 달리 말하면 이는 투자비의 무려 250%나 되는 보상을 가져다 줫다는 것이다. 이는 AI투자를 현금화 조사를 수행한 다른 보고서들과 비교할 때 의심스러울 정도로 엄청나게 큰 성과다.

실제로 지난 5월 IBM이 글로벌 기업 경영진 2,500명을 대상으로 실시한 설문조사에서는 기업들의 AI투자시 평균 ROI가 5.9%에 불과한 것으로 보고됐다. 그 수익률은 전형적인 10% 수준에도 못미치기에 그런 관점에서 볼 때 AI는 위험한 투자 선택으로 간주될 수 있다.

지난해 말 생성 AI 분수령 이후 첫 AI 관련 ROI는 ‘맑음’

지난 9월 실시된 IDC 조사는 지난해 말 등장한 생성 AI를 중심으로 과장 광고가 시작된 이후 AI 현금화에 대해 살펴 본 최초의 보고서 중 하나다.

이 보고서에서 가장 특기할 만한 점은 응답자의 71%가 이미 자사에서 AI를 사용하고 있다고 답했고 22%는 향후 12개월 이내에 AI를 사용할 계획이라고 밝힌 점이다.

조사 결과, AI를 도입한 기업의 92%는 12개월 이하의 배치 시간이 걸렸으며, 이는 이전 기술에서 보이던 배치 속도보다 빠른 것이었다.

특히 각 기업들의 AI 연구 노력에 대한 조사를 이끈 리투 조티 IDC AI 및 자동화 총괄부사장은 “이번 조사는 응답자들에게 ROI를 명시적으로 정량화하도록 시도한 첫 사례”라고 밝혔다.

그녀는 IDC의 ROI 계산 연구 방법론에 대해 “응답자들이 자체 발표한 데이터에 의존하고 있다”고 답했다.

IDC는 또한 응답자들에게 ROI 질문에 대해 넓은 범위에 걸쳐 답할 수 있도록 여러 답지를 제시했다. 예를 들면 응답자가 ‘2배’, ‘3배’, ‘4배’, ‘5배’, ‘ROI 없음’, ‘확실치 않음’으로 답할 수 있게 했다. 응답자의 답변이 ‘5배 이상’이면 응답자에게 그에 대해 자세히 설명하도록 요청했다.

IDC는 향후 보고서에서 각 기업들의 ROI 주장을 추적해 이러한 ROI 추정치가 유지되는지 확인할 예정이다.

벤처비트는 이 조사에 대해 “이 수치들이 거의 정확하다면, 다양화되고 잘 훈련된 기업은 본질적으로 공격적 AI 투자 전략을 추진할 위험성이 거의, 또는 전혀 없다. 다른 한편으로는 AI 투자에 여전히 조심해야 한다. 이 추정 수치는 생성형 AI가 엄청나게 과대 광고된 시기의 많은 응답자들이 그들이 가진 AI에 대한 일반적이고 낙관적인 태도를 반영한 것일 가능성이 있기 때문이다. 또한 응답자들이 낮은 ROI 실험이나 프로젝트 보고에 시간이나 주의를 기울이지 않았을 가능성도 있기 때문이다”라고 쓰고 있다.

기업들 다른 최우선 투자순위 바꿔 AI에 투자했다

조티 IDC 부사장은 “실제로 AI를 둘러싼 흥분이 너무 커서 기업들이 AI투자를 우선시하기 위해 다른 투자우선 순위 구상(이니셔티브)의 순서를 바꾸고 있다”고 말했다. 그녀는 “그것은 새로운 것이다. 지난해 설문조사나 그녀의 팀이 수행한 다른 AI 보고서에서는 볼 수 없었던 것이었다”고 밝혔다.

조티 부사장은 특히 “이는 특히 생성형 AI로 인한 관심의 고조로 촉발됐다”고 말했다.

약 32%의 조직이 AI에 더 많은 투자를 하기 위해 특정 사업 분야에 대한 지출을 평균 11% 줄였다고 말했다. 축소되고 있는 분야는 IT 분야를 벗어난 행정 지원 및 서비스와 같은 분야였다. 예를 들어 C레벨 임원(최고경영자(CEO), 최고운영책임자(COO), 최고기술책임자(CTO) 등)의 행정 보조원들이 지출 감소 및 축소의 도마 위에 오르고 있다. 그 밖의 분야로는 운영, 기술 지원, 인사 및 고객 서비스 등이 있다고 조티는 말했다.

올해 생성형 AI가 큰 역할 할 수 있었던 이유는

조티 IDC 부사장은 올해 생성형 AI가 매우 큰 역할을 하게 된 이유에 대해서도 설명했다.

기존 AI는 아주 높은 수준의 기술자들 영역이었기 때문이고, 종종 IT 내부 또는 사업부 내 하위 부서여서 조직 내에서는 그렇게 잘 눈에 띄지 않았었다는 것이다.

그녀는 이어 “생성 AI가 이를 변화시켰다. 이는 그 앞부분이자 중심이 됐기 때문이다”라고 설명했다.

조티 부사장은 또 “C-레벨 임원, 이사회, 그들은 모두 함께 하면서 AI에 투자하고 AI를 우선시하고 있다. 이번에 내가 본 달라진 점은 AI에 대해 전 세계적으로, 훨씬 더 많은 욕구와 관심이 있다는 것이다”라고 말했다.

생성형 AI의 수익화(현금화)에 대해 보고하기엔 아직 너무 이르다?

하지만 최근 다른 보고서들이 생성형 AI의 약속이 현실이라는 것을 보여주었다.

실제로 지난달 발표된 하버드, 와튼 및 매사추세츠공대(MIT)의 연구에 따르면 엘리트 컨설팅 회사인 보스턴컨설팅그룹(BCG)의 직원들은 다양한 작업에 챗GPT-4를 사용함으로써 업무 효율을 40%나 높일 수 있었다.

그러나 유의해야 할 점은 생성형 AI를 사용함으로써 매출로 이어지는(수익화) 결과를 보고하기엔 아직 너무 이르다는 것이다.

조티 부사장은 이번 AI 사용 수익률 조사 프로젝트에 대해 “대부분의 사람들은 평가 또는 시범 운영의 초기 단계에 있다. IDC 연구에서 보고된 결과는 전통적 형태의 AI에 대한 것이다”라고 확인했다.

그녀는 “조직들은 AI를 사용할 때 고객 만족도, 직원 생산성, 시장 점유율과 같은 주요 분야에 걸쳐 평균 18%의 성과 향상이라는 결과를 보고했다”고 말했다.

(AI 사용시) 긍정적인 결과에도 불구하고 기업들은 또한 데이터나 지재권(IP) 손실, 리스크 관리, AI 거버넌스(지배력) 부족과 같은 영역에서 높아진 우려를 보였다. 조티 부사장은 “이미 기존 AI에 대한 거버넌스 우려가 이미 있었지만, 생성형 AI의 도래는 그 우려를 증가시켰다”고 말했다.

지난 3월 조티 부사장이 이끄는 IDC 조사 그룹은 생성형 AI가 향후 10년간 세계 GDP에 거의 10조 달러(약 1경 3290조 원)를 추가할 것으로 예상했다.

MS 임원, 생성형 AI는 혁신곡선을 구부리는 것이다

앨리사 테일러 MS 부사장은 별도의 인터뷰에서 “AI의 잠재력과 기업들이 가장 큰 이익을 실현하고 있는 곳을 이해하기 위해 이 보고서를 의뢰했다”고 말했다. 그녀는 회사들이 그들의 가장 큰 도전 과제들 중 일부를 해결하기 위해 AI를 사용하고 있으며, 생성 AI를 특히 혁신적인 것으로 본다고 말했다.

테일러 부사장은 “생성 AI는 혁신의 곡선을 구부리는 것이다. 이는 조직들이 기반 기술들을 현대화할 필요가 없고, 시장 출시 시간과 가치 창출 시간을 더 빠르게 하는 일종의 도약을 가능케 한다”고 말했다.

그녀는 또한 생성형 AI를 ‘촉매제’라고 불렀는데 이는 그것의 단순한 폼 팩터가 더 많은 사람들을 AI에 접근할 수 있게 하기 때문이라는 것이다.

사용 사례는 매우 많지만, 그녀는 미국 의료기관의 사례를 꼽았다.

미국 병원 의사들이 53%의 번아웃(극도의 피로감)율을 겪고 있는데 헬스케어와 주변(앰비언트) AI와 생성형 AI 덕분에 수기 임상 문서의 필요성을 줄이는 데 도움을 받는다는 것이다. 앰비언트 AI는 해당 환경에서 인간의 명령없이도 사람과 상호작용하고 적절하게 반응할 수 있게 해주는 퍼베이시브 AI 컴퓨팅 환경 요소를 말한다.

그녀는 “AI는 소프트웨어 개발을 돕고 가속화하는 데 도움을 줄 수 있다. 그리고 소매업에서 AI는 회사들이 고객을 더 깊이 이해하고 정확하게 목표 고객을 겨냥할 수 있도록 돕는다”고 말했다.

보고서에 나온 다른 주요 결과 및 사실은 다음과 같다

▲조직은 평균 14개월 이내에 AI 투자수익률(ROI)을 실현하고 있다

▲조직이 수익화를 계획하고 있는 3대 활용 사례로는 카피라이팅, 시뮬레이션 실행, 비즈니스 프로세스 및 워크플로우 자동화 등이 있다

▲기업이 AI에 1달러를 투자할 때마다 평균 3.5달러(3.5배)의 투자수익률(ROI)을 실현하고 있다.

▲62%의 기업이 이미 생성형 AI를 사용하고 있으며, 24%는 향후 24개월 이내에 AI를 사용하거나 투자할 계획이라고 답했다

▲52%의 응답자는 AI 구상을 확장하는 데 있어 가장 큰 장애물은 그에 따라 필요한 숙련된 인력 부족이라고 답했다.

▲응답자들은 대략적으로 IT 및 비즈니스 부문 리더들이 고르게 분포했다.

▲응답자의 66%가 상위 관리자였으며 63%가 그들의 조직에서 AI 사용과 관련한 의사 결정을 담당자였다.

테일러 MS 부사장은 자사는 전세계적으로 600만 명 이상의 사람들을 자사의 학습(Learn) 프로그램에 참여시키고 40만 명의 파트너들을 교육시킴으로써 이러한 기술 장벽을 해결하기 위해 노력하고 있다고 말했다.