챗GPT를 필두로 한 생성형 AI의 등장 이후 산업 각 분야에 AI 기술 도입은 빠르게 진행되고 있다지만 현실은 어떨까? 실현 여부를 기준으로 할 때 AI 기술이 시사하는 미래상은 아직까지 상당 부분 가능성의 영역에 머물러 있다. 투자업계를 비롯해 많은 전문가들 역시 이 최신의 첨단 기술이 과연 실질적인 수익을 창출할 수 있는가에 대해서는 물음표를 던지고 있다.
실제로 AI 기술을 자사 비즈니스에 적용하고 이를 기반으로 미래 산업을 선점하는 노력은 몇몇 글로벌 빅테크를 비롯해 자금과 기술력이 확보된 대기업을 중심으로 이뤄지고 있고, 그 조차 뚜렷한 수익 모델을 선보이지 못하고 있는 실정이다. 즉 대부분의 기업들은 이 유망하다고 여겨지는 AI 기술을 어떻게 활용해야 할지 방향 조차 잡지 못하고 있는 것이 현실이다.
그럼에도 불구하고 DX(디지털 전환)이 필연적이었던 것처럼 세계 모든 산업계는 이제 AX(AI 전환)을 이야기하고 있다. 언제가 됐든 AI 시대가 도래하리라는 것은 명약관화(明若觀火)라는 것이다. 이러한 상황에서 빠르게 발전하고 있는 AI 기술과 이에 대응할 방법을 고심하는 기업 간의 간극을 메울 수 있는 분야가 바로 ML옵스(MLOps, Machine Learning Operations)다.
흥미로운 점은 앞서 언급한 바와 같이 AI 기술 자체가 최신인 만큼 이 ML옵스 분야 역시 아직까지 전문 기업이 많지 않은 신생 시장이라는 사실이다. 베슬에이아이(이하 베슬AI)는 바로 이 ML옵스 플랫폼을 개발하고 각 분야 기업들의 AI 도입을 돕고 있는 스타트업이다.
카이스트(KAIST) 출신의 안재만 대표가 베슬AI를 설립한 것은 지난 2020년의 일이다. 이후 머신러닝 모델과 Generative AI & LLM 수십 개를 어떤 클라우드에서든 쉽고 빠르게 AI 실험, 학습, 배포하고 지속해서 운영, 개선할 수 있는 End to End ML옵스 플랫폼을 무기로 2021년 미국 캘리포니아 주 San Mateo에 본사를 설립하기도 했다. 현재는 200억 규모의 시리즈 A 라운드를 진행 중이다.
국내외 투자사와 기업들의 관심을 한 몸에 받고 있는 베슬AI의 현재와 앞으로의 계획을 안재만 대표에게 직접 들어봤다.
카이스트 졸업 후 각 분야 스타트업 섭렵하며 경험 쌓아
안재만 대표는 카이스트에서 전기전자공학, 수리공학, 전자공학을 전공하고 2013년 처음 스타트업계에 들어왔다. 가상현실(VR) 기업인 ‘FX기어’를 비롯해 ‘왓챠’, ‘쿠키런’ 개발사 ‘데브시스터즈’, AI 헬스케어 기업 ‘디랙스’ 등을 거치며 데브옵스(DevOps)에 대한 관심을 바탕으로 경험을 쌓았다. 이후 이러한 관심은 데브옵스의 특징인 지속적인 통합과 지속적인 배포의 자동화에 더해 지속적인 학습이 추가된 ML옵스로 확장되며 창업으로 이어졌다.
다시 말해 베슬AI는 데브옵스의 등장으로, 오늘날 소프트웨어 개발에서 널리 사용되는 원칙인 ‘확장성’, ‘추적 가능성’, ‘재현성’을 머신러닝 프로젝트에 도입했고, AI를 활용해 사업을 확장하는 많은 회사들로부터 ML옵스에 대한 요구가 증가할 것이라는 확신을 바탕으로 설립된 셈이다.
2021년 3월 오픈베타로 출시한 베슬AI의 ML옵스 플랫폼에 대한 관심은 폭발적이었다. 현대모터스, 삼성, Cognex와 같은 대기업을 포함해, KAIST AI(한국과학기술원)와 같은 선도적인 학술기관과 컴퓨터 비전 회사들이 주요 고객이 됐고, 현대차 자율주행팀, 야놀자, 스케터랩 등 역시 베슬AI를 통해 다양한 AI 모델을 학습·운영하고 있다.
나아가 베슬AI는 미국 진출과 함께 오라클, 구글 클라우드와 같은 글로벌 빅테크 기업들과의 협력을 통한 더욱 강력한 AI 플랫폼 제공에 나서고 있으며 이를 위한 공동 마케팅과 GTM(시장진출, Go-TO-Market) 전략을 수립 중이다. 안재만 대표는 미국 시장을 중심으로 커지고 있는 ML옵스 시장과 관련된 이야기로 말문을 열었다.
“미국에서 ML옵스, LLM옵스 스타트업들과 밋업과 컨퍼런스 개최를 준비하고 클라우드 파트너들사와 해야 할 일들이 있어 다음달 출국 예정예요. 미국, 그 중에서도 실리콘밸리는 AI나 SaaS의 본고장이라고 할 수 있죠. 그곳에서 확실하게 성과가 나야 글로벌 시장에서 성공할 수 있다는 생각을 창업할 때부터 갖고 있었어요. 미국 시장에서 AI에 대한 관심사는 엄청납니다. 저희가 운영하는 AI 모델 개발용 ML옵스 분야의 경우 시장의 요구가 크지만 아직까지 이를 제공하는 회사가 많지 않아요. 그래서 많은 기업들의 문의가 이어지고 있는 상황이예요. 함께 고객들의 문제를 해결해보자는 회사들의 제안도 이어지고 있습니다.”
빠르게 변화하는 AI 시장, ML옵스에 대한 요구 급증하는 중
안 대표는 빠르게 변화하는 AI 분야의 상황을 언급했다. 불과 지난해까지 AI 모델 자체에 관심도가 높았고 모델을 구축할 수 있는 팀만이 AI와 관련된 비즈니스를 했지만, 올해부터 모두가 AI를 외치는 상황이 됐다는 것이다. 안 대표는 “AI 모델을 적용하는 과정에서 ML옵스를 활용해 파인튜닝(미세조정)하고 배포, 운영하길 원하는 시장의 니즈가 이전에 비해 수십 배는 더 커졌다”며 말을 이어갔다.
“기존 챗GPT를 기업들이 사용하지 못하는 이유는 기업 내 데이터를 외부 솔루션에 넣을 수 없기 때문이었어요. 저희는 기업 내부 인프라에서 AI 모델을 운영할 수 있는 방법을 제공하고 있는 거죠. 기업 내부의 인프라에 베슬AI 플랫폼을 장착해 데이터를 외부로 내보내지 않고도 자유롭게 학습하고 배포, 운영할 수 있도록 하고 있습니다.”
베슬AI 플랫폼의 특징은 복잡한 인프라 구축이나 다양한 툴 연동 없이도 AI 개발과 운영을 가능하게 한다는 것이다. 또 기업의 요구에 따라 온프레미스 방식이나 클라우드 방식 지원이 모두 가능하다. 특히 클라우드의 경우 아마존웹서비스(AWS), 구글 클라우드는 물론 네이버, NHN, KT와 같은 국내 클라우드 등을 하이브리드 형태로 지원한다. 이는 최적화한 그래픽처리장치(GPU) 인프라를 제공을 통해 약 70%의 비용 절감 효과를 얻을 수 있다는 것이 안 대표의 설명이다.
“기업마다 다른 상황에 맞춰 대응하고 있습니다. 완전 온프레미스 인프라 위에서 운영되야 한다는 곳도 있고, 프라이빗한 AWS나 구글 클라우드는 사용해도 좋다는 기업도 있거든요. 저희는 그런 요구를 모두 통합해 AI 모델이 내부 인프라 위에서만 동작하도록 만들어주는 플랫폼인 거죠.”
런(Run) 파이프라인(Pipeline) 그리고 아티팩트(Artifact)
베슬AI의 서비스는 런(Run), 파이프라인(Pipeline), 아티팩트(Artifact)로 구분된다. ‘런’은 다양한 GPU자원을 활용해 개발자가 한곳에서 머신러닝 학습을 할 수 있게 하는 서비스다. ML옵스 도입은 여러 오픈소스 AI 모델을 빠르게 테스트하고 사용할 모델을 정한 뒤 데이터를 넣어 파인튜닝 후 실 서비스에 배포하는 과정을 거친다. 이때 기업이 특정 모델을 기반으로 학습, 배포, 운영하겠다는 계획, 즉 레시피를 주면 베슬AI는 내부 인프라 위에서 자동으로 수백개의 모델을 개발하고 운영할 수 있게 만들어주는데 이것이 바로 ‘런’에 해당하는 과정이다.
이어 ‘파이프라인’은 ‘런’이 실행되는 과정에서 새로운 데이터가 들어왔을 때 자동으로 학습하고 배포하는 워크플로우를 구축하는 기능이다. 마지막으로 ‘아티팩트’는 AI 모델 운영 과정의 데이터 처리, 모델 상태, 프로젝트 현황 등을 실시간으로 확인하는 것을 돕는 기능이다. 안 대표의 설명에 따르면 AI 모델 운영에 필요한 기반 자산들을 관리하는 시스템이라 할 수 있다.
“저희 ML옵스 플랫폼은 저희가 직접 개입해 자동화된 운영이나 개발 과정을 직접 돕는 것이 아닌 자동화된 워크플로어를 통해 기업 스스로 AI 모델을 지속적으로 개발하고 운영할 수 있도록 하고 있어요. 따라서 플랫폼을 제공해 드리면서 어떻게 사용해야 하는지에 대한 교육을 제공하고 있죠. 또 저희 고객 중에는 AI대학원 등의 고객이 많습니다. 이미 AI 대학원이나 교육기관에서 저희 플랫폼에 대해 습득한 학생들이 기업으로 취업하는 케이스가 많아지고 있어서 사용법에 대해서는 어느 정도 쉽게 인식하고 있는 상황이죠.”
이러한 베슬AI 플랫폼의 장점은 앞서 열거된 고객사들의 면면에서 알 수 있듯, 다양한 산업 분야에 적용이 가능하다는 점이다. 그 적용 방식은 몇 가지로 나눠진다. 안 대표에 따르면 우선 회사 데이터를 학습해 업무에 도움을 받는 챗봇을 구축하는 방식이다. 특히 베슬AI 플랫폼을 통해 구축하는 챗봇은 새로운 데이터 업데이트가 자동으로 진행되는 기능이 적용 돼 있다. 또 작성할 서류나 보고서 등이 많은 금융 분야에서는 회사 정보만 넣으면 자동으로 보고서나 신고서가 만들어지는 기능을 도입하고 있다. 시장을 비롯해 대내외 환경 변화, 이를테면 뉴스와 외부 데이터, 내부 데이터 등을 통합해 기업의 의사결정을 돕는 방식에 적용하는 것도 가능하다.
“기업이 의사결정을 할 때는 각종 회사에 있는 정보들이 다 필요하잖아요. 이때 각 담당자를 불러서 자료를 요청하고 회의를 하는 대신 챗봇에 질의를 하며 필요한 정보를 확인하고 이를 통해 최종 의사결정을 하는 사례도 많이 등장하고 있습니다. 저희의 이런 서비스는 지금도 누구나 웹사이트에 가입해 사용할 수 있게 돼 있어요. 대기업은 물론 개인 유저도 많고 연구자, 일반 중소기업도 다양한 방식으로 활용이 가능하죠.”
똑똑한 AI 모델이 많아질수록 범용 인공지능 시스템 시대는 빨리 실현 될 것
과거 여러 스타트업에서 AI 기술을 활용한 비즈니스 모델의 성장을 경험할 당시 안 대표는 AI가 전 산업에 영향을 미칠 것임을 직감했다고 한다. 그런 상황에서 ML옵스는 모든 산업의 AI 혁신 과정을 돕고 그 안에서 임팩트를 낼 수 있는 영역이라는 확신이 들었다고 한다.
“AI 시장, 그리고 저희가 제품에 대해 가지고 있던 시선은 앞으로 수십 수백개의 AI 모델이 나올 것이라는 거였어요. 그렇다면 그 각각의 AI 모델을 만드는 것 자체에 집중하는 것보다 어떤 AI 모델이 나오더라도 뛰어 놀 수 있는 인프라를 만들자는 목표를 세웠죠. 다시 말해 AI 모델이 자동으로 학습하고 계속해서 지능을 획득해 나갈 수 있는 시스템을 만들자는 목표였어요. 결과적으로 저희 예상과 같이 똑똑한 AI 모델들이 많아지고 있고 이를 활용해 비즈니스를 만들어 낼 수 있는 케이스도 더 많아지고 있어요. 저희는 이 과정을 지원할 수 있는 플랫폼, 나아가 AI들이 소통하는 소사이어티 개념의 인프라를 구축하는 중이죠.”
인터뷰 말미, 안 대표는 창업 초기부터 꾸준히 지향해 온 범용 인공지능(AGI) 시스템에 대한 비전을 재차 언급했다. 이는 하나의 커다란 AI 모델을 학습시켜 모든 것에 대답을 잘하는 시스템이 아닌 각각의 모델들이 서로 연결돼 협업하는 방식이다.
“저희는 처음부터 하나의 모델이 모든 일을 다 잘할 수 있게 만드는 것은 너무 오랜 시간이 걸린다고 생각했어요. 대신 각각의 특화된 모델이 존재하고 그 모델들이 서로 연결돼 협업해 문제를 해결해 나가는 것이 훨씬 유효하다고 보고 있죠. 가령 기업도 각 부서의 전문가들이 함께하며 운영되잖아요. AI 모델도 각각의 영역에 특화된 모델이 서로 커뮤니케이션하고 협업하며 문제를 풀어갈 수 있어야 실제 기업들이 활용할 수 있는 인공지능 시스템을 만들 수 있다고 봅니다. 저희가 지금 하고 있는 것이 딱 그런 플랫폼이예요. 저희 고객 사례에서 봤을 때 앞으로 3년, 늦어도 5년 안에 모든 기업들이 AI를 활용해 자동으로 개발하고 운영하고 의사결정을 하는 세상이 올 거라고 생각합니다.”
베슬AI의 사명에 담긴 여러 의미 중 하나는 ‘신대륙을 찾아 나선 배와 같은 팀’이다. 안 대표는 스타트업의 숙명이 목적지가 뚜렷하지 않은 항해에 나선 배와 같다는 생각을 담았다고 한다. 하나의 목표로 4년 째 이어지고 있는 베슬AI의 항해는 이제 점점 더 명확해지는 목적지를 향하고 있는 듯 하다.
