지난해 11월 밮표된 대화형 인공지능(AI)인 챗GPT로 널리 알려진 미국 오픈AI가 챗GPT 쿼리당 4센트(약 13원)나 되는 고비용에 시달리게 되자 더 값싼 AI 칩 솔루션을 찾고 있다. AI칩 공급 부족도 한몫한 것으로 알려졌다. 로이터 통신, 디인포메이션 등을 통해 전해진 오픈AI의 칩개발 검토 배경과 가능성, 그리고 넘어야 할 장애물 등 향배를 알아본다.

오픈AI가 왜 AI칩까지?···공급부족과 비싼 비용 견디기 힘들다

로이터통신은 지난 6일 미국의 오픈AI가 자체 AI 가속기 칩 제조 가능성을 타진하고 있다고 보도했다. 오픈AI는 알려졌다시피 대화형 챗GPT-3/4와 달리-3 같은 생성형 AI 제품을 만들어 AI붐을 일으킨 회사다.

보도는 익명의 소식통을 인용, 오픈AI가 전문 AI 그래픽칩(GPU) 부족과 이를 구동하는 데 따른 높은 비용 때문에 이같은 자체 개발 옵션을 고려하고 있다고 전했다.

현재 오픈AI는 최종 결정을 내리지 않았지만 적어도 지난해부터 다양한 옵션을 검토하며 이 논의를 계속해 온 것으로 알려졌다.

여기에는 잠재적으로 칩 제조 회사를 인수하는 것, 그리고 엔비디아 같은 다른 칩 제조업체들와 더욱 긴밀히 협력하는 것도 포함된다.

현재 오픈AI는 AI모델 서비스를 위해 최대 후원투자사 중 하나인 마이크로소프트(MS)사가 만든 대형 슈퍼컴퓨터에 의존하고 있기 때문에 하드웨어(HW)적인 상황 해결이 최우선 과제로 여겨진다.

오픈AI가 사용하는 이 회사 후원자 마이크로소프트(MS)의 슈퍼컴퓨터는 엔비디아 그래픽처리장치(GPU)를 1만대를 사용한다.

엔비디아는 AI 응용분야에 최적화된 AI 칩 개발 및 공급을 주도하는 회사로서 전세계에서 80% 이상의 점유율을 갖고 있다.

샘 올트먼 오픈AI 최고경영자(CEO)는 이러한 칩의 부족과 가격 앙등에 대해 공개적으로 우려를 표명했다.

번스타인의 분석가인 스테이시 라스곤에 따르면 챗GPT 운영에는 상당한 비용이 소요되며, (충분한 매출이 뒷받침되지 못하는 가운데) “각각의 쿼리(질의)에 약 4센트(약 13원)의 비용이 들어가는” 돈먹는 하마가 되고 있다.

문제는 앞으로 오픈AI 사용자들의 쿼리가 구글 검색 규모의 10분의 1까지로 증가할 경우다. 이럴 경우 지금대로 간다면 GPU에 대한 초기 투자액은 약 481억 달러(약 64조 5000억원), 연간 유지보수 비용은 약 160억 달러(약 21조 5000억원)라는 천문학적인 비용이 들게 된다는 계산이 나온 것이다.

맞춤형 AI칩 개발로 노리는 것

오픈AI가 독자적인 맞춤형 AI칩을 개발하면 이 회사는 앞서 이를 감행한 구글, 아마존 같은 다른 대형 IT 회사들의 반열에 오르게 될 것이다.

개발에는 위험이 따르는 법

칩을 생산하는 것은 AI SW 개발업체인 오픈AI에는 중대한 전략적 변화이며 상당한 재정적 투자를 해야 한다.

올해 1월 발표한 대로 MS가 오픈AI에 지원하는 충분한 자금을 바탕으로 인력을 확보하더라도 AI칩을 처음부터 개발하기 어려울 수 있다.

오픈AI가 진심으로 AI칩을 개발하고자 한다면 기존 칩 회사를 인수하는 방법이 있을 수 있다.

이 방식으로 잠재적으로 AI 칩 개발 프로세스 속도가 높일 수 있게 된다.

아마존이 2015년 안나푸르나 랩스(Annapurna Labs)를 인수한 사례가 있다. 그리고 성과를 보였다. 아마존은 안나푸르나 랩스 인수 이후 5세대 AWS 니트로(AWS Nitro) 시스템, 3세대 암 기반 그라비톤(Graviton) 프로세서, 머신러닝 교육 및 추론에 최적화된 AWS 트레이니움(Trainium) 및 AWS 인퍼렌시아(Inferentia) 칩 등을 개발했다.

그러나 오픈AI가 반드시 이같은 결실을 내리라고 장담하긴 어렵다. 즉, 위험을 감수해야 한다.

로이터 통신은 오픈AI가 전문 회사를 인수하더라도 맞춤형 AI 칩을 개발하기까지 몇 년이 걸릴 가능성이 있다고 지적한다. 또 그때까지 오픈AI는 엔비디아나 AMD와 같은 상용 공급업체에 높은 의존성을 갖게 될 것이며 이는 쉽지 않은 과정이라고도 지적했다.

이같은 칩 개발 노력 실패의 사례로는 이미 자체 AI 칩을 개발하려다 문제에 부딪친 메타의 사례가 거론된다.

자체 칩 개발의 최대변수는 인수 대상인가, 시간인가, MS인가?

디인포메이션은 6일 오픈AI의 주요 투자자인 MS가 엔비디아 GPU칩 구입 비용을 줄여줄 맞춤형 AI 칩을 개발 중이며, 현재 오픈AI가 이 칩을 테스트 중이라고 보도했다.

보도는 이 사안에 직접적인 관계자의 말을 인용, MS가 다음 달 연례 개발자 회의에서 AI용으로 설계된 자사의 첫 번째 칩을 공개할 계획이라고 전했다. MS는 지난 수 년 간 해 온 작업의 정점인 이 칩을 통해 AI칩 수요 급증에 따른 수급상의 어려움을 해소하면서 엔비디아 AI 칩 의존도를 낮추려 할 것으로 보인다.

MS칩은 엔비디아 GPU와 비슷하게 오픈AI의 챗GPT와 같은 대화형 AI 기능 뒤에 있는 소프트웨어(SW)인 대형 언어 모델(LLM)을 훈련하고 실행하는 데이터 센터 서버용으로 설계된 것으로 알려졌다. MS 데이터 센터 서버는 현재 엔비디아 GPU를 사용해 오픈 AI 및 인튜잇을 포함한 클라우드 고객용 최첨단 거대언어모델(LLM) 및 AI 모델에 컴퓨팅 기능을 제공한다.

이런 상황의 MS는 과연 오픈AI의 ‘자체 AI칩 개발 검토’ 소식이 달가울까.

올해 1월 MS는 지난 2019년과 2021년의 이전 투자에 이어 “다년간 수십억 달러의 투자"를 받았다”고 발표했다. 두 회사가 공식적으로 금액을 발표하지는 않았지만 이 발표 2주 전에 100억 달러(약 13조 4000억 원) 수준의 투자설이 나왔다. 수년간 오픈AI에 대규모 투자 의지를 드러낸 것에 다름아니다.

현 상황에서 MS는 오픈AI의 엄청난 기능을 가진 AI SW에 막대한 투자를 하고 있고, 오픈AI의 AI 언어모델을 빙 검색엔진에 활용하고 있으며, 이제 자체 AI칩 발표까지 앞두고 있다.

하지만 MS의 후원에 의존하는 오픈AI가 자체 AI칩을 확보하며 양손에 SW와 HW를 모두 쥔다면 MS와 오픈AI 관계에 변수가 될 수도 있다.

오픈AI가 자체 AI칩을 개발할 것인가, 아니면 그 계획을 접고 MS와 협력의 길을 갈 것인가. 그 열쇠는 MS가 다음달 발표할 GPU의 성능에 좌우될 수도 있을 것 같다.

샘 올트만 오픈AI CEO는 지난 1월 “지난 3년간 우리의 파트너십은 훌륭했다”고 말했다. 그는 당시 발표자료에서 “MS가 우리의 가치를 공유하고 우리는 우리의 독립적인 연구를 계속하고 모두에게 이익이 되는 진보된 AI를 만들기 위해 노력하게 돼 기쁘다”고 말했다.

하지만 현시점에서 보자면 그의 말대로 두회사가 MS의 AI칩 등장 이후에도 공동의 노력을 하게 될지는 더 두고 봐야 할 것 같다. AI칩이 가져다 줄 변수가 그만큼 커 보이기 때문이다.