①AI 붐이 낳은 최고 슈퍼스타...세계 IT업계 요동
③대안을 찾아 나선 기업들
지난달 23일 엔비디아 2분기 실적 발표로 전세계는 AI시대의 슈퍼스타 기업에 또다시 환호했다. 이 회사는 올초 시총 1조 달러를 달성하더니 증권가의 사상 최고 실적 전망을 훌쩍 뛰어넘는 놀라운 실적, 테슬라의 3배에 이르는 주가수익률 등으로 도다시 놀라움과 부러움의 대상이 되고 있다. AI시대의 기린아 엔비디아의 놀라운 실적, 한번 맛들이면 빠져나오기 힘들다는 성공적인 GPU 확산의 비결과 품귀 현상의 향배, 그리고 다양한 엔비디아칩 대체 노력 등을 세차례에 걸쳐 소개한다.
세계 반도체 역사상 몇 손가락 안에 들 만한 엔비디아 칩의 인기 비결은 AI시대의 흐름과 맞물린 점과 떼놓고 생각할 수 없다. 하지만 고객 편의 위주로 조성된 칩 사용자 생태계 형성 노력도 간과할 수 없다. 이는 추격자 구글, 인텔, AMD가 안간힘을 쓰면서도 쉽사리 따라잡지 못하는 이유로 꼽힌다. 현재 AI붐이 이어진다면 엔비디아 GPU 전성시대는 꽤 오래 갈 것 같다. CNBC, 더레지스터, 디코더, 비즈니스 인사이더, 뉴욕타임스, 비주얼 캐피털리스트 등을 참고했다.
AI붐이 낳은 슈퍼스타···전문가들의 호실적 전망도 가볍게 넘어
젠슨황 엔비디아 창업자이자 최고경영자(CEO)는 지난 6월에 열린 회사 연례 주주총회에서 “(지난해 11월 출시된)챗GPT는 AI(인공지능)의 ‘아이폰의 순간’이었다”며 “"모든 것이 누구나 이해할 수 있는 간단한 사용자 인터페이스에서 이루어졌다. 하지만 우리는 그것의 완전한 잠재력을 처음으로 엿봤을 뿐이다. 생성 AI는 새로운 컴퓨팅 시대를 시작했고 인터넷의 혁신적인 영향에 맞설 것이다”라고 말했다.
그리고 엔비디아는 그의 말을 웅변적으로 증명이라도 하듯 지난달 23일 사상 최고의 2분기(5.1~7.30) 실적을 보고했다. 그리고 3분기에도 월가의 예상치를 훌쩍 뛰어넘는 엄청난 가이드라인을 내놓았다.
놀랍게도 엔비디아의 2분기 매출은 전년 동기의 67억 달러에서 125억1000만달러로 증가했다. 였다. 3분기 예상 실적도 예상치 126억1000만달러를 크게 웃도는 160억달러로 제시됐다. 분기중 순익도 1년 전의 6억 5600만달러에서 61억 9000만달러로 10배 가까이로 껑충 뛰었다. 이 회사의 GPU가 세계 반도체 시장의 눈길을 온통 이 회사로 쏠리게 만들고 있었다.
매출 증대는 AI 칩 부문이 포함된 데이터센터 매출이 103억2000만달러로 지난해 같은 기간보다 171% 증가한 것이 영향을 미쳤다.
이 회사의 대표적 AI용 칩인 A100과 H100 GPU는 오픈AI의 챗GPT와 같은 AI 애플리케이션과 간단한 텍스트 쿼리를 받고 대화형 답변 또는 이미지로 응답하는 기타 서비스를 구축하고 실행하기 위한 필수 칩이다. 엔비디아는 이윤이 풍부한 이 데이터 센터용 AI칩 판매 성장 덕분에 총마진이 25.3% 포인트나 늘어난 71.2%를 기록했다고 덧붙였다.
젠슨황 엔비디아 최고경영자(CEO)는 분석가들과의 컨퍼런스콜에서 지속적 성장 가능성을 숨기지 않았다. 그는 “세상에는 클라우드, 기업 등에 약 1조 달러(약 1320조원) 규모의 데이터 센터가 설치돼 있다. 그 1조 달러 규모의 데이터 센터는 가속화된 컴퓨팅과 생성 AI로 전환하는 과정에 있다”고 말했다.
그의 말대로 엔비디아의 실적은 AI칩과 연관되는 데이터 센터 사업 기업들에 의해 힘을 받았다. 클라우드 서비스 공급업체와 알파벳, 아마존, 메타와 같은 대형 소비자 인터넷 회사가 엔비디아의 차세대 프로세서(H100)을 대규모로 사들였다.
콜렛 크레스 엔비디아 최고재무책임자(CFO)는 최근 미 행정부의 GPU 대중 수출 제한 조치의 영향에 대한 질문에도 “즉각적인 영향을 받지 않을 것”이라고 자신했다.
엔비디아의 핵심 사업이었던 게임 사업부 매출도 전년 동기비 22% 증가한 24억 9000만 달러를 기록하며 평균 예상치인 23억 8000만 달러를 웃돌았다. 하지만 이 회사의 게임용 고급 그래픽 애플리케이션용 칩조차도 더 이상 큰 관심사가 되지 못한다.
이날 엔비디아 주가는 8%나 상승했다. 엔비디아의 주가는 지난달 23일 실적 보고 이전에도 올해 S&P 500에서 3배 이상으로 상승해 S&P 500 최고의 실적을 보였다. 24일에 장마감후 시간외 거래에서 최고치인 약 500달러까지 치솟았다. 7월 18일의 종가 기준 최고치는 474.94달러였다. 9월 1일 종가는 485달러였다.
1조 달러 이상의 시총을 기록한 엔비디아는 지난해 시장 침체 이후 올해 기술 반등 기간 동안 다른 모든 기업을 앞지르며 AI시대 최고 기업임을 새삼 각인시키고 있다.
또하나 주목할 부분은 AI칩 주도로 주가가 급등하면서 수익률에서 아마존의 2배 수준이며, 테슬라에 비교하면 3배나 되는 높은 수익률을 보인 점이다. 팩트셋에 따르면 지난 12개월 간 엔비디아의 주가수익률(PER)은 220을 기록, 아마존의 PER 110의 2배, 테슬라(70)의 3배를 넘기고 있다.
엔비디아의 올해 주식 랠리는 인상적이지만 실제 눈에 띄는 것은 지난 10년 동안의 실적 차트다. 10년 전 엔비디아의 가치는 약 84억 달러로, 칩 대기업 인텔 시총의 아주 작은 부분에 불과했다. 이후 인텔의 주가는 55% 오른 반면 엔비디아의 주가는 1만 1170% 이상 급등해 인텔보다 7배 이상 기업 가치가 높아졌다.
그 기간 중 주가가 급등해 일론 머스크를 세계 최고 부자로 만들어준 테슬라의 주가 상승률이 2279%였을 정도다.
젠슨황 엔비디아 창업자는 그의 순자산이 380억 달러로 증가하면서 블룸버그 억만장자 지수에서 33위를 차지했다.
핫케이크처럼 팔리는 엔비디아 H100은 얼마나 수지맞는 장사인가?
더디코더 보도에 따르면 글로벌 파이낸셜 서비스 회사 레이먼드 제임스는 엔비디아가 H100 GPU를 제조하는 데 약 3320달러(약 438만 원)가 소요될 것으로 예상한다. 이 칩세트 소매 가격이 평균 2만5000~4만달러(약 3299만~5278만 원)인 것을 감안할 때 최대 1000%의 마진을 얻는다는 분석이 나왔다.
물론 이 수치에 순수 제조 비용 이외의 요소가 포함되어 있는지가 불분명하기에 이 가격에 약간의 과장이 있을 수 있다고 봐야 한다. 패키징 및 재료를 포함하는 전체 비용이 더 높을 수 있지만 엔비디아가 각 가속기(GPU) 판매에서 여전히 막대한 이익을 내고 있는 것만은 분명하다.
파이낸셜타임스(FT)에 따르면 TSMC는 올해 55만 대의 H100 GPU를 생산해 엔비디아에 공급할 예정이다. 이럴 경우 올해 엔비디아의 잠재적 H100 매출액만도 137억 5000만~220억 달러(약 18조~29조 원)에 이를 것으로 예상된다. 엔비디아는 칩당 60~90%의 마진으로 올해에만 H100 매출에서 100억 달러(약 13조 2000억 원) 이상의 순익을 거둘 수 있다는 계산이 나온다.
3◆엔비디아가 여기에 이르기까지
물론 엔비디아가 이처럼 엄청난 매출과 순익을 내는 기업에 오른 것이 거저 얻어진 것은 아니다.
엔비디아는 AI가 등장하기 전에 비디오 게임의 핵심 기술을 생산하는 업체로 유명했다. 1993년 캘리포니아 산호세 데니에서 시작한 것으로 알려진 이 회사는 게이머들이 컴퓨터 게임에서 정교한 그래픽을 렌더링할 수 있도록 도와주는 게임용 GPU를 만들었다. 자연히 이 회사의 상징적인 제품은 소비자 PC용 주기판이나 노트북에 연결된 칩과 보드인 GPU 카드였다. 비디오 게임은 여전히 이 회사의 큰 사업이다.
하지만 월가를 흥분시키는 것과 이 회사 게임용 칩과는 아무런 관련이 없다. 엔비디아의 핵심이었던 게임 사업은 계속해서 축소되고 있다. 오히려 엔비디아의 데이터 센터 관련 아이템과 묶여져 떠오르는 AI칩 사업이 공전의 관심을 기록하고 있다. 이 칩셋카드의 지난해 매출은 41% 증가한 150억 달러를 기록하며 게임을 앞질렀다. 팩트셋이 조사한 분석가들은 투표 결과에 따르면 이 회사 2024 회계연도 매출은 그 2배 이상인 312억 7000만 달러(약 41조 2600억원)로 커질 것으로 예상됐다.
분석가들에 따르면 엔비디아는 AI 칩 시장의 최소 80% 이상을 장악하고 있다.
앞서 모건스탠리 분석가들은 엔비디아 2분기 실적 발표 9일을 앞둔 지난달 14일 내놓은 투자자 노트에서 “공급의 제약에도 불구하고 여전히 의미있는 비트와 분기 증가를 기대하고 있으며, 더 중요한 것은 향후 3~4분기에 걸쳐 강력한 가시성을 기대하고 있기 때문에 최근의 매도는 좋은 진입점이라고 생각한다”며 “엔비디아는 AI에 대한 지출의 대규모 변화와 다음 분기에도 지속될 상당히 예외적인 공급 수요 불균형을 배경으로 우리의 톱픽으로 남아있다”고 썼을 정도다.
엔비디아 15년 만에 황금어장 수확…대성공 열쇠는 생태계
지난 2007년에 엔비디아는 쿠다(CUDA)라고 불리는 약간의 주목을 받은 SW 패키지와 프로그래밍 언어를 출시했다. 이는 프로그래머들이 엔비디아 GPU 칩의 모든 하드웨어 기능을 활용할 수 있도록 한 것이었다.
개발자들은 금방 이 SW가 AI 모델을 교육하고 실행하는 데 효과적이라는 것을 간파했으며, CUDA는 이제 AI 교육 과정의 필수적인 부분이 됐다.
여기서 주목할 것은 AI 기업들과 프로그래머들이 일단 쿠다와 엔비디아의 GPU를 사용해 모델을 구축하고 나면 AMD의 칩이나 구글의 텐서 프로세싱 유닛(TPU) 등 경쟁사로 전환할 가능성이 적다는 분석이 나올 정도라는 점이다.
무어 인사이트의 반도체 분석가 패트릭 무어헤드는 “엔비디아는 최고 성능의 훈련 HW를 보유하고 있다는 점에서 현재 (경쟁사에 대해) 이중으로 된 해자(垓子.moat)를 가지고 있다”며 “그 다음에는 SW 입력 측면인 AI에 라이브러리와 쿠다가 있다”며 이를 넘기가 쉽지 않음을 지적했다.
파이퍼 샌들러의 하르스 쿠마르 분석가는 “간단히 말해서 그들은 최고의 GPU를 보유하고 있다”고 말했다.
UBS의 재무 분석가 티모시 아르쿠리는 “구글의 제품은 (성능은 어떨지 모르지만)프로그램하기 어렵고, 사용하기 어렵고, 좋은 활용도를 얻기 어렵고, 접근하기 어렵다. 내부 작업에는 좋지만, 외부에서는 실수했다”고 지적해 이같은 분석을 뒷받침했다.
올들어 구글, MS, 아마존(AWS)을 포함한 클라우드 공급업체는 대부분 엔비디아GPU에 의존하는 데이터 센터를 확장하기 위해 (여전히) 막대한 비용을 지출할 것이라고 말하고 있다.
엔비디아는 현재 GPU 아키텍처 사이클의 중간점에 가까워지고 있다. 최신 하이엔드 AI 칩인 H100은 엔비디아의 호퍼(Hopper) 아키텍처를 기반으로 한다. 엔비디아는 지난해 3월 호퍼를 발표했는데 내년 2분기에 후속 제품을 출시할 것으로 예상되고 있다.
엔비디아, 지난 10년간 꾸준히 경쟁사 따돌려 왔다
젠슨황은 지난달 23일 2분기 실적 발표회에서 “새로운 컴퓨팅 시대가 시작됐다. 전 세계 기업들은 범용 컴퓨팅에서 가속화된 컴퓨팅 및 생성 AI로 전환하고 있다”고 말했다.
실제로 이 기록적 분기 매출실적에서 AI 칩 매출이 큰 역할을 했다. 이는 미국의 다른 경쟁사들인 AMD, 인텔과 비교하면 잘 드러난다.
엔비디아는 AMD가 13억 달러, 인텔이 40억 달러인데 비해 엔비디아는 올해 2분기(5.1~7.30)에 103억 달러의 데이터 센터 매출을 기록하며 초고속 성장세를 보이고 있다.
회사들은 AI 칩에 대한 매출을 구체적으로 보고하지는 않지만 데이터 센터 부문에 대한 매출을 공유한다. 이를 보면 엔비디아는 생성AI의 초기 승리자라는 점이 분명하게 드러난다.
데이터센터 부문은 중앙처리장치(CPU), 데이터처리장치(DPU), 그래픽처리장치(GPU)와 같은 칩을 포함하며, 특히 GPU는 많은 간단한 작업을 동시에 효율적으로 수행할 수 있어 AI 모델 훈련에 선호된다.
지난 2년간 엔비디아의 데이터센터용 칩 증가세를 AMD 및 인텔과 비교해 그야말로 업청나다.
각사 발표치를 비교해 보자면 지난 2021년 2분기 3사의 데이터센터용 칩 매출은 각각 ▲24억 달러(엔비디아) ▲8억 달러(AMD) ▲57억 달러(인텔)였다.
이후 올해 2분기가 되자 ▲엔비디아가 103억달러를 기록해 8분기 만에 5배를 넘겼다. 반면 ▲AMD는 13억달러로 2배도 되지 못했고 ▲인텔은 40억달러로 2년 전에 비해 오히려 감소했다. (인텔은 올해 가속컴퓨팅시스템앤그래픽스(AXG) 그룹을 데이터 센터 그룹에 통합했다.)
엔비디아의 데이터센터 매출은 지난 2년간 4배로 늘었고, AI 칩 시장 점유율도 80% 이상을 차지할 것으로 추정된다.
이 회사는 AI 트렌드를 조기에 인지하고 칩, SW, 특화된 컴퓨터에 대한 접근을 제공하는 원스톱 숍이 되면서 지배력을 확보했고, 올초 1조 달러의 주식시장 시가총액을 기록한 이후 주가는 계속 치솟으면서 주당 500달러 근처에 머물고 있다.
엔비디아,AMD,인텔 모두 향후 AI칩 늘린다
비주얼 캐피털리스트는 지난달 25일자에서 엔비디아와 AMD를 비교해보면 AMD의 MI250 칩은 엔비디아의 A100 칩에 비해 80% 수준의 속도를 보이는 것으로 나타났다고 전했다.
그러나 AMD는 최근 엔비디아의 141GB 메모리를 제공하는 새로운 GH200과 비교할 때 192GB의 더큰 메모리 용량을 가진 새로운 MI300X 칩을 발표하며 AI에 초점을 맞추고 있다. 더 많은 메모리는 필요한 GPU의 양을 줄이고 AMD를 이 분야에서 더 강력한 경쟁자로 만들 수 있다. 대조적으로, 인텔은 매년 매출이 감소하면서 사실상 AI 칩 시장 점유율을 갖지 못하고 있다. 이 회사는 전통적 CPU를 만드는 것으로 더 잘 알려져 있고, AI 공간으로의 진출은 이슈로 가득 차 있다는 평가까지 받는다. 이 회사의 사파이어 래피드 프로세서는 복잡한 설계와 많은 결함 때문에 수년간의 지연에 직면했다.
이런 가운데 세 회사는 모두 향후 AI칩 제공을 늘릴 계획임을 시사했다. 더 많은 AI모델 개발 경쟁이 진행되면서 이 모델 훈련에 힘을 실어주는 인프라는 엄청난 수익 기회가 될 것이다.
최근 엔비디아는 GH100의 직접적인 후속작인 ‘그레이스 호퍼 슈퍼칩’ GH 200을 발표했다. 이는 세계최고 사양의 고대역폭메모리인 하이닉스 HBM3e를 함께 탑재한 최초의 GPU다. HBM3e는 초당 1.15테라 비트 이상의 데이터를 처리한다. 이는 풀HD급 영화 230편을 단 1초만에 처리할 수 있는 수준이다. 이 141기가바이트(GB) 메모리는 이전 칩의 1.55배의 메모리 대역폭과 1.7배의 메모리 용량을 제공한다. 하이닉스는 내년 상반기부터 HBM3e양산에 들어간다. 더 빠르고 큰 메모리는 AI 교육 및 AI 모델 추론에 도움이 될 것으로 예상된다.
AI시대의 기린아 엔비디아는 더큰 성장을 위해 내닫고 있다.
