지난 1월부터 온라인 컨퍼런스로 진행된 ‘Agile AI Forum(AI포럼)’의 마지막 3회차 행사가 이달 22일 성공적으로 마무리됐다.
이번 회차에서는 의료 분야에 적용되는 AI 기술의 선결 과제를 짚어보는 한편 마이크로소프트의 생성형 AI 에이전트 ‘Copilot’이 이뤄내는 혁신 사례가 소개됐다.
특히 이건복 마이크로소프트 Digital & App Innovation 리드는 ‘생성형 AI 에이전트 기반 혁신’ 주제 발표를 통해 “생성형 AI가 나와 상관없다고 생각하는 순간, 격차는 이미 벌어지게 된다”며 “다양한 버티컬 산업에서 AI 기반의 대화형 서비스를 통해 코든 것이 새로운 애플리케이션으로 개편될 것”이라고 전망했다.
“아직도 생성형 AI가 과연 잘 사용될 수 있을지에 대한 의구심을 가지고 계신 분들도 있지만, 현실적으로 이미 많은 기업들이 생성형 AI를 업무에 적용하고 있습니다. 그 분야도 영업, 마케팅, 서비스, 서플라이 체인, 파이낸스, 오퍼레이션 등 매우 다양한 영역에 적용되고 있죠. 즉 AI는 이미 우리의 업무 또는 생산성에 긴밀한 영향을 주고 있습니다.”
미래는 대화의 시대, 개별 LLM 모델에 대한 관심보다 변화의 흐름을 인지하는 것이 중요
챗GPT 등장 이후 생성형 AI에 대한 사람들의 관심은 국경을 초월해 폭증하고 있다. 글로벌 빅테크들이 경쟁적으로 선보이는 다양한 생성형 AI 모델을 두고 우열을 평가하는 이들도 적지 않다. 하지만 이건복 리드는 그러한 초거대 언어모델(LLM)에 대한 관심은 이제 조금 다른 영역으로 바뀌어야 한다고 제안하고 나섰다.
“어떤 LLM이 좋다, 나쁘다라는 이야기를 하는 것은 이제 조금 내려 놓고 과연 이 LLM을 가지고 우리가 어떤 형태로 기존의 애플리케이션이나 서비스를 바꿀 것인가, 또 내가 사용하고 있는 서비스 혹은 제공해야 하는 서비스들이 변화하는 부분을 인지하는 것이 더 중요하다고 생각합니다. 앞으로 다가올 미래는 대화의 시대라고 할 수 있습니다. 대화 기반의 혁명을 통해 여러 새로운 서비스들이 등장하기 때문입니다. 특히 제가 말하는 대화의 근본적인 의미는 ‘데이터와의 대화’ 입니다.”
돌이켜 보면 최근까지 데이터에 접근하고 활용하기 위해서는 적잖은 노력과 비용이 필요했다. 특별한 프로그램을 써야하는 것은 물론 DB의 구조와 쿼리 랭귀지에 대한 이해도 있어야 했다. 때문에 많은 기업들은 막대한 비용을 지불하며 시스템을 구축하고 애플리케이션을 개발해 왔다. 그럼에도 데이터를 모으고 활용하는 것은 쉽지 않은 과정으로 여겨졌다. 때문에 대부분 기업의 의사 결정권자들은 특정 데이터에 대한 인사이트를 얻는데 어려움을 겪어야 했다. 하지만 생성형 AI의 등장 이후 이 문제는 전혀 다른 방식으로 해결될 조짐을 보이고 있다. 바로 이 리드가 언급한 ‘대화’를 통해서다.
“만약 AI가 이렇듯 많은 데이터를 인간에게 아주 친숙한 인터페이스와 대화로 이야기해 준다면 어떻게 될까요? 가령 쇼핑몰에서 재무나 실적과 관련된 결과 확인과 문서 작성을 대화를 통해 즉시적으로 처리할 수 있게 되는 거죠. 미래는 대화의 시대입니다. 이렇듯 점점 중요해져 가는 대화형 AI 기반의 모멘텀은 업무의 많은 부분을 대화 형태로 바꾸게 될 겁니다.”
챗봇과는 다른 대화형 AI 서비스, 사람의 역할이 중요하다
이러한 대화형 AI 서비스가 다양한 버티컬 산업에서 변화를 이끌게 된다는 것은 이미 세계 각국의 다양한 전문 기관과 석학들이 공히 언급하는 내용이기도 하다. 그 시점은 대략 2026년으로 전망되고 있다. 현재는 기존의 콘텐츠, 데이터가 대화형 AI 서비스에 맞게 변화 되는 과정이라는 것이 이 리드의 설명이다. 그 기반이 되는 인프라, 즉 클라우드, GPU, 보완 등이 구축되는 과정이라는 의미기도 하다. 이 리드는 자신이 몸담고 있는 MS의 ‘코파일럿’과 관련해 “말 그대로 부조종사의 컨셉을 가지고 모든 영역에서 활용될 수 있는 시나리오로 접근하는 중”이라며 말을 이어갔다.
“간혹 코파일럿과 자동화 솔루션을 혼동하는 경우가 있는데, 이는 구분이 돼야 합니다. 코파일럿은 말 그대로 고객 영업, 개발, 지식근로자 및 운영자, 보안과 관련한 LLM에 대한 부분을 어디까지나 부조종사의 역할로 지원하는 방식입니다. 사람의 역할, 프롬프트는 기본적으로 들어가야 하죠. 생각했던 것들을 말하지 않아도 자동으로 만들어주는 자동화 혹은 독심술과는 전혀 거리가 멉니다. 그렇기 때문에 각 분야 종사자들은 대화를 통해 코드를 작성할 수 있는 방식으로 코파일럿에 접근하고 있습니다. 아주 간단히 말씀드리자면, MS는 새로운 제품을 만들었다기 보다 (엑셀, 파워포인트, 워드와 같은)기존 제품에 생성형 AI를 결합시켜 그 가치를 극대화 시키고 사용자가 더 잘 느끼게 하는 형태로 가고 있는 거죠.”
이어 이 리드는 실제 코파일럿을 활용하는 방식의 시연 영상을 통해 사용자가 코파일럿과 대화를 통해 원하는 작업을 진행하는 과정을 소개하기도 했다. 보험사기와 관련된 연구 문서를 코파일럿에게 제시하고 이를 기반으로 FAQ를 만들고 다시 12장의 파워포인트 문서를 만드는 과정은 총 5분이 걸리지 않았다.
기존 적잖은 시간을 투자해야 했던 작업을 단축하는 과정을 선보이던 이 리드는 “여기에 할루시네이션이나 잘못된 정보는 일체 없다”며 “사용자가 제시한 워드 문서를 기반으로 그 내용만을 가지고 작업을 진행하기 때문”이라고 강조했다. 이러한 방식은 비단 파워포인트 뿐만이 아니라 크라우드 환경에서 서비스되는 MS의 모든 제품에 적용돼 있다.
“지난달 기준 이미 전 세계 6만여 기업이 코파일럿을 활발하게 사용하고 있습니다. 국내 기업들 역시 그 숫자를 정확하기 밝힐 순 없지만 게임사, 스타트업를 비롯해 주요 기업들이 코파일럿을 활용해 코딩을 하고 업무를 진행하고 있습니다. 물론 보안을 이유로 쓰지 않는 기업도 있지만, 제가 봤을 때 그 격차는(사용 여부에 따른 격차)는 몇 년 단위가 아니라 지금 당장 몇 시간 단위로 벌어지고 있습니다. 즉 여러분들이 지금 생성형 AI는 나랑 상환없다고 얘기하는 그 순간에 격차는 벌어지고 있는 거죠.”
이어 이 리드는 이러한 대화형 AI 서비스가 보편화되는 시대의 변화에 대해 이야기했다. 모든 앱과 서비스에 대화형 AI가 적용되면 때때로 적용해야 하는 업데이트와 같은 부분은 뒷단으로 사라져 사용자의 불편을 줄이게 된다는 것이다. 대신 모든 앱들은 자연어 기반으로 상호작용을 통해 초개인화된 서비스를 제공할 수 있게 된다. 이 리드는 은행 사이트를 사례로 설명하며 말을 이어갔다.
“기존 은행 사이트는 엄청나게 많은 메뉴가 있어 원하는 메뉴를 찾는 게 일이었는데, 대화형 AI가 적용되면 찾지 않고 대화를 하면 됩니다. ‘나는 어떤 대출을 받고 싶어’ ‘조건은 뭐야’ ‘내 담보 대출 한도는 얼마야’와 같이 대화로 풀면 되죠. 여기에는 시멘틱 커널 혹은 랭체인과 같은 플러그인이 적용됩니다. 사용자의 질문으로부터 시작해 커널 기반의 플래너가 각 테스크를 구분하고 이를 해결할 수 있는 스킬을 수집하는 거죠. 이때 데이터들은 API형태로 커넥터를 가져옵니다. 이걸 단계별로 실행한 다음 결과물을 가지고 다시 새로운 결과물을 만들어 내는 방식이 앞으로 생성형 AI를 사용하는 중요한 패턴의 변화라고 볼 수 있습니다. 이러한 시멘틱 커널은 오픈소스로 누구나 사용할 수 있도록 하고 있습니다. 이걸 기반으로 다양한 서비스나 업무 분야에서 여러분 만의 코파일럿을 만들 수 있죠.”
이어 이 리드는 코파일럿에서 ‘생성형 AI 관련 사용권, 저작권 문제’와 관련해 “MS는 저작권을 가지고 있는 콘텐츠 업체를 보호하면서도 코파일럿을 사용하는 사용자가 저작권 침해 걱정 없이 자유롭게 이미지나 텍스트 등의 저작물을 생성할 수 있도록 지원하는 프로그램을 발표했다”고 설명했다. 만약 코파일럿 사용자가 저작권 관련 법적 문제가 생겼을 경우 모든 법적 비용을 지원하겠다는 것이다. 이 외에도 MS는 리스판서블 AI(Responsible AI)를 통해 윤리적인 문제 방생을 거르는 필터링을 제공하고 있다. 일종의 AI 필터인 셈이다.
발표 말미, 이 리드는 “MS의 LLM, 오픈 AI 서비스를 활용할 경우 윤리적인 문제를 최소화 할 수 있는 필터 엔진을 제공하고 있다”며 “신뢰성, 투명성, 포괄성 문제에 대한 부분을 다양한 코파일럿을 구축할 수 있는 방법과 함께 제공하고 있다”고 강조했다.
