엔비디아의 올해 2분기 실적은 데이터센터 사업을 중심으로 시장 기대치를 뛰어넘는 ‘어닝 서프라이즈’를 기록했다. 2분기 매출은 135억 1000만 달러(약 18조 7100억원)에 달한다. 전년 동기 대비 101% 증가한 수준이다.
이러한 엔비디아의 성과 배경에는 GPU 기술 패권이 자리하고 있다. 생성형 AI 기술의 급격한 발전이 산업 각 분야에 AI 기술 적용을 촉진시켰고, 이른바 ‘H100’으로 불리는 엔비디아의 GPU는 품귀현상까지 보이며 그야말로 부르는 게 값이 되는 시대가 됐다.
향후 산업 각 분야에서 AX(AI 전환)가 더욱 가속될 것으로 전망되는 가운데, AI 기술 기반 서비스를 선보이는 초기 스타트업부터 중견기업, 대기업 할 것 없이 GPU 자원 화보가 향후 사업의 지속성을 좌우하는데 중요한 이슈가 되는 상황이다.
하지만 무작정 비용을 쏟아 붓자니, ROI(투자자본수익률)가 나오지 않을 지경이다. 이러한 기업들에게 최근 희소식이 전해졌으니, 바로 GPU를 직접 확보하지 않더라도 공유경제 모델이 적용된 클라우드 방식으로 GPU 자원을 활용할 수 있는 서비스가 등장한 것이다. 바로 2016년에 창업한 데이터얼라이언스가 네이버클라우드와 협력해 선보이는 ‘지큐브(gcube)’다.
이에 테크42는 GPU 자원 활용에 혁신을 예고하고 있는 데이터얼라이언스의 이광범 대표를 만나, 지큐브 서비스의 개발 배경과 향후 계획 등을 들어봤다.
누구나 유휴 GPU 공유해 부가 수익 창출 가능, 에어비앤비 모델과 유사
지난해 메타(전 페이스북)과 마이크로소프트가 구매한 엔비디아의 H100 GPU는 약 15만대에 달한다 가격으로 치면 4.5조원 규모다. 데이터얼라이언스 사무실이 입주해 있는 서울 강남의 공유 오피스에서 만난 이광범 대표는 “한국 역시 국가 AI 데이터센터에 H100 GPU 1000대 제공을 목표로 4000억원을 투자하고 있다”며 현재 GPU 자원 확보에 고비용 문제를 지적했다.
더 큰 문제는 이 금액이 운영을 통한 수익을 내기 전 투자 비용에 불과하다는 점이다. 향후 전력 등 추가적인 비용 투입이 불가피한 상황이라는 의미다. 이렇듯 인류의 삶을 획기적으로 변화시킬 것으로 기대를 모으는 AI 기반 기술과 서비스는 이를 운영하는 기업들에게는 한편으로 엄청난 GPU 자원을 필요로 하는, 이를테면 ‘돈 먹는 하마’처럼 여겨지는 것이 현실이다.
이러한 상황에서 공유경제 모델의 GPU 클라우드 서비스 ‘지큐브’는 GPU의 고비용, 물량 부족 문제를 상당부분 해소할 획기적인 대안으로 주목받고 있다. 이광범 대표는 이를 ‘에어비엔비’ 모델과 유사하다고 설명했다.
“에어비엔비 서비스는 땅을 사서 건물을 짓지 않으면서도 확보한 유휴 공간을 빌려주며 수익화하는 모델이죠. 지큐브 역시 GPU를 공유하는 모델을 적용했습니다. 전 세계 누구나 유휴 GPU를 공유해 부가 수익을 창출할 수 있고 GPU가 없는 기업은 이들이 제공한 GPU 자원을 클라우드로 활용할 수 있는 거죠. 더구나 직접적인 자본 투자 없이 유휴 GPU를 활용하는 방식이라는 점에서 지큐브는 기존 GPU를 직접 구매·도입 방식에 비해 경쟁력 있는 가격으로 서비스 할 수 있습니다.”
이 대표는 에어비엔비 모델을 언급했지만, 이야기를 들어보니 2010년대 초반 등장한 그리드 컴퓨팅 개념과도 유사하게 느껴진다. 이 대표 역시 “유휴 컴퓨터 자원을 모은다는 점에서 유사하다”며 맞장구를 쳤다.
“'그리드 컴퓨팅'과 유사한 점은 자원을 효율적으로 공유해 비용 절감과 성능 향상을 이룬다는 것입니다. 기존 그리드 컴퓨팅이 CPU와 메모리 자원을 주로 활용했다면, 우리는 이를 GPU 컴퓨팅으로 확장한 개념입니다. 지큐브는 현재 개별적인 수요와 공급 매칭을 통해 필요한 자원만큼 할당 받아 추론, 학습 등에 사용할 수 있는 공유 플랫폼 단계입니다. 향후에는 개별 기업이나 공동 협력 프로젝트로 큰 작업을 나누어 수행하는 그리드 컴퓨팅 모델 관련 서비스로도 확대 적용할 계획입니다.”
이러한 지큐브 서비스는 AI를 통한 수익화를 모색하는 각 기업들의 사업 모델이 최근 봇물 터지듯 쏟아지는 상황에서 특히 주목받고 있다. 이에 대비해 서비스 개발에 속도를 높인 데이터얼라이언스는 최근 지큐브 오픈베타 서비스를 진행 중에 있으며 연내 정식 서비스를 시작한다는 계획이다.
“지큐브 서비스는 SLA(Service Level Agreement)에 따라 티어 1, 2, 3으로 구분됩니다. 티어 1은 클라우드사업자(CSP)의 자원을 온디맨드(On-Demand) 방식으로, 티어 2는 데이터센터급 GPU 스팟 인스턴스(Spot Instance)를 활용합니다. 티어 3는 개인이나 PC방 자원을 인터럽터블 인스턴스(Interruptible Instance) 방식으로 제공할 계획이고요. 이 세 가지 등급의 GPU를 저희 데이터얼라이언스의 클라우드 오케스트레이션, 공유경제 플랫폼, 블록체인 기술 등을 활용해 공급자와 수요자를 연결하고 최적의 서비스를 제공할 준비를 마쳤죠.”
분산 컴퓨팅 전문가, 로봇·유비쿼터스 기술 창업 경험
데이터얼라이언스는 2016년 설립 초기 네트워크망을 공유경제 모델로 만드는 아이템으로 사업을 시작했다. 주요 적용 분야는 스마트시티 영역이다. 물론 현재도 데이터얼라이언스의 스마트시티 관련 사업은 진행 중이다.
“사업 초기에는 공유 모델로 통신, 네트워크 영역의 문제를 풀어보는 것을 시도했어요. 다양한 프로젝트에 참여하며 블록체인과 DID, 전자지갑, 포인트 시스템을 통해 기여도에 따라 투명하게 보상받는 사업을 진행해 오고 있죠. 네트워크 공유뿐만 아니라 데이터 공유, 환승 할인, 에너지 절감 포인트 등 사용자 참여에 따른 보상을 제공하는 사업으로 확장하기도 했고요. 이를 통해 많은 기술적 축적과 사업 경험을 쌓았습니다.”
그 결과 부천, 용인, 평택, 대구 등 다양한 지자체에서 데이터얼라이언스 기술 기반의 서비스를 활용하는 성과를 얻었다. 스마트시티 기술을 적용해 사회적 편익을 창출해 내는데 성공한 것이다. 문제는 공공 영역 사업만으로는 회사의 수익성과 매출 성장을 지속하는데 한계가 있다는 점이었다. 이 대표는 “최근 스마트시티 기술이 민간 사업으로 확대되고 해외 시장이 열리고 있어, 향후에는 사회적 편익과 수익을 함께 얻을 수 있는 사업으로 기대하고 있다”면서도 스마트시티 사업을 통해 확보된 역량을 바탕으로 지큐브 개발에 나선 배경을 설명했다.
“저희는 지큐브에 앞서 데이터가 투명하게 기록되고 그에 따른 보상을 주는 핵심 특허를 확보하며 연속적으로 사업을 이어가고 있고요. 데이터, 통신, AI 컴퓨팅에 대한 특허는 지속적으로 내고 있습니다. 그 사이 생성형 AI가 등장하며 각 산업이 급격한 변화를 겪었어요. 저희는 3년 전부터 여러기관과 협력해 GPU, AI와 관련된 연합학습 R&D를 진행했고, 2년 정도 준비를 거쳐 지큐브 서비스를 런칭하게 된 거죠.”
사실 이 대표가 데이터, 통신에 더해 AI, GPU 등에 공유 모델을 적용하고 이를 사업화하는 시도는 대학원 시절부터 시작됐다. 분산/병렬 컴퓨팅을 전공한 이 대표는 대학원 졸업 후 대기업에 입사하며 안정적인 길을 택하기도 했다. 하지만 곧 로봇 관련 아이템으로 창업을 제안한 선배와 의기투합하게 된다. 그때가 1999년이다. 그러한 시도는 이내 또 다른 도전으로 이어졌다.
“첫 창업에서 제가 그린 그림은 협동 로봇에 분산/병렬 컴퓨팅을 적용하는 것이었어요. 하지만 당시에는 그 영역보다 로봇 자체에 집중을 해야 하는 단계였죠. 제가 관심 있고 좋아하는 영역을 살리지 못하고 있다는 생각해 다시 2000년대 중반 무렵 같은 관심사를 가진 선후배들이 모여 유비쿼터스 기술 기반의 회사를 창업했죠.”
사용자가 네트워크나 컴퓨터를 의식하지 않고 언제 어디서든 자유롭게 네트워크에 접속할 수 있는 유비쿼터스 개념은 사실상 스마트폰이 등장한 이후 현실화됐다. 하지만 이 대표가 창업을 할 당시만 해도 스마트폰을 비롯해 다양한 디바이스가 막 등장하는 시기였던 터라 이를 협업해 연결하는 서비스를 현실화하기에는 어려움이 많았다고. 이야기를 듣고 보니 모두 시장이 열리기 전 시대를 앞선 시도인 듯했다. 그런 지난 경험은 고스란히 자산으로 남았고, 현재의 데이터얼라이언스로 이어지고 있다.
“당시 4차 산업혁명이란 용어가 많이 회자되었지만, 실제로 생산성의 급속한 증가가 있어야 산업혁명이라 할 수 있는데, 기존 IT 기술과 큰 차이가 없었죠. 저는 생산성을 높이기 위해 프로세스 시간을 압축하고 비싼 자산을 공유해 효율을 높이는 것이 필요하다고 생각했어요. 현재 AI와 자동화 프로그램이 프로세스 시간을 획기적으로 줄여주고 있고, 비싼 자산인 GPU를 공유해 AI 생태계를 확산하는 지큐브의 사업 모델이 진정한 4차 산업혁명을 견인할 수 있을 것이라 기대합니다. 다만 이전에 창업했던 회사에서도 공동 창업자로서 어려운 과정과 많은 부침을 겪었기 때문에, 새로 사업을 시작하면 조금 수월할 줄 알았는데, 대표로서 사업을 이끌어가는 것은 역시 많은 부분에서 다르더군요(웃음).”
12월 지큐브 정식 출시, 내년에 글로벌로 간다
지큐브는 단지 GPU 자원을 공유하는 개념을 넘어 이에 참여하는 각 주체들이 모두 혜택을 보게 되는 서비스라는 점도 주목된다. 코로나19 팬데믹을 거치며 줄 폐업 속에서도 살아남은 PC방들은 현재도 어려움을 겪고 있다. 이들 중에는 이더리움 채굴 등을 통해 일부 수익을 보전하는 경우도 있었지만, 이더리움이 에너지 소모 문제로 지분 증명 방식을 채택하며 채굴을 통한 수익이 막힌 상황이다. 지큐브는 이들에게 유휴 PC를 활용해 새로운 수익을 창출할 수 있는 활로로 기대를 모으고 있다. 이 대표는 “자원 규모를 구체적으로 언급하긴 어렵지만 티어 3 방식으로 클로즈드베타 테스터를 신청하신 분들의 GPU 자원 규모는 이미 국가 AI 데이터센터 규모를 넘어섰다”며 말을 이어갔다.
“예를 들어, RTX 4090을 지큐브를 통해 공유하면 한 달(30일) 기준으로 약 18만원에서 22만원의 수익을 얻을 수 있습니다. 수요처의 경우, 유휴 자원과 가성비 높은 데스크톱 GPU를 이용해 동일한 성능을 더 저렴하게 이용할 수 있습니다. 또한 타사는 GPU를 빌릴 때 사용량과 상관없이 고정된 금액으로 운영되지만, 지큐브는 사용량에 따른 유연한 과금 방식을 적용하죠. 이에 수요처는 필요한 자원을 필요한 만큼만 사용해 운영 비용을 효율적으로 관리할 수 있습니다. 티어 1과 2의 경우, 네이버클라우드와 협력을 통해 GPU 리소스를 공급받고 있으며, 다른 기업들도 추가 공급을 원하고 있죠. 현재 공급 측면은 충분히 준비되어 있고, 수요자인 AI 서비스 기업을 확보하기 위해 노력하고 있는 상황이예요.”
지큐브는 클로즈드베타를 이달 중 종료하고 다음달부터 오픈 베타 서비스에 나선다. 12월에는 정식 서비스 출시를 앞두고 있다. 이 대표는 “클로즈드베타에서 데스크톱 환경 마다 설정이 달라 발생한 문제들을 해결했고 가상화 기술의 보안성을 높이기 위해 가이드를 배포해 바이오스(BIOS) 설정을 조정했다”며 “연내 서비스 출시에 차질이 없다”는 자신감을 내비쳤다.
하지만 기존에 없던 방식의 서비스라는 점에서 우려의 목소리가 없는 것은 아니다. 이 대표 역시 “많은 질문을 받고 있다”며 지큐브의 안정성과 높은 수준의 보안을 언급했다.
“지큐브는 최신 보안 기술과 블록체인 기술을 사용해 사용자 데이터와 개인정보를 보호합니다. 특히 일반 데스크톱(개인용 또는 PC방)을 통해 GPU를 공유하는 티어 3의 경우, 다른 기업들은 윈도우의 WSL 기술을 사용해 Windows OS의 보안 취약점에 노출될 수 있지만, 지큐브는 별도의 가상화 기술과 컨테이너 기술을 사용하여 보안을 강화했다는 것이 특징입니다.”
연내 정식 서비스 출시 이후 이 대표가 생각하는 다음 행보는 글로벌이다. “지큐브는 처음부터 글로벌 시장을 목표로 한 서비스”라고 강조한 이 대표는 “현지 공급자와 수요자 확보를 위한 해외 진출 전략을 수립해 준비하고 있다”며 계획을 설명했다.
“아마존이 초기에 한국에 데이터센터 없이 서비스를 제공한 것처럼 지큐브도 글로벌 서비스를 바로 제공할 수 있습니다. 현재 일본, 동남아시아, 중동 시장을 1차 타겟으로 해 현지 기업에 지큐브 서비스를 소개하고 B2B 협업 모델을 검토 중이예요. 향후에는 국가별로 현지 지사를 설립해 적극적인 글로컬라이제이션(Glocalization)을 수행할 예정입니다.”
데이터얼라이너스가 지큐브를 통해 지향하는 방향은 공유를 통한 비용 효율화와 프로세스 시간을 최적화하는 것이다. 이를 위해 데이터 병렬화 학습, 연합 학습 프레임워크, 블록체인을 통한 생태계 활성화에 집중하겠다는 것이 이 대표의 생각이다. 인터뷰 말미, 이 대표는 ‘데이터를 보유한 기업과 기관이 협력해 가치있는 것을 만들어 보자’는 ‘데이터얼라이언스’ 사명에 담긴 뜻을 다시 한번 상기하며 비전을 털어 놨다.
“국가 간 패권 경쟁과 자본 경쟁이 치열한 AI 시장에서 데이터얼라이언스는 공유경제 모델을 통해 그이름처럼 데이터를 가진 개인, 기업, 국가가 연합(Alliance)해 빅테크들과의 경쟁에서 살아남을 수 있는 새로운 대안을 만들고자 합니다.”
