컴퓨터 생태계의 진화와 반도체 기업들의 역사는 서로 분리할 수 없는 관계이다. 컴퓨터의 발전을 가속화 시킨 주인공들은 반도체 기업들이라고 해도 과언이 아니다. 수많은 기업들 중에서 역사는 짧지만 가장 강력한 파워를 가진 GPU의 강자 엔비디아(NVIDIA)가 존재한다. 생성형 AI 시대를 준비하고 있는 그들이 진정 원하는게 무엇인지를 알아 보고자 한다.
Table of Contents
엔비디아(NVIDIA) 출생과 성장
탄생
엔비디아는 1993년에 AMD 엔지니어 출신의 젠슨 황(Jensen Huang), 커티스 프리엠(Curtis Priem), 크리스 말라초스키(Chris Malachowsky)에 의해 캘리포니아주 서니베일에서 태어났다. 그들은 창업초기 CUP 생산을 염두에 두고 창업을 하였으나, 그당시 절대강자였던 인텔과 AMD와의 직접적인 경쟁은 어렵다고 판단하여, 그래픽 칩셋으로 사업계획을 변경하였다.
기업명인 ‘엔비디아(NVIDIA)’는 로마 신화에 나오는 라틴어인 질투 ‘인비디아(Invidia)’에서 유래되었다고 한다. 기업명은 야심이 가득한 ‘질투의 눈빛’으로 바라 본다는 격정적인 감정을 내포하고 있고, Nvidia는 인비디아로 불려지기도 하며, 눈과 연관되어 있고 질투의 열정적인 의미를 가지고 있다.
기업의 로고는 ‘눈(Eye)’을 문양화 한 것으로, 신의 눈과 질투의 감정을 시각화 한 것이다. 그들은 제품의 마케팅 전략으로 제품 라인업 명칭으로 신화에 나오는 표현들을 자주 사용하고 있다. 대표적인 예로 지포스 8시리즈 슬로건에 ‘녹색 질투(Green with Envy)’을 사용했으며, 엔비디아를 대표하는 라인업이 ‘타이탄(TITAN)’이다.
성장
창립 2년후 1995년에 자체 개발한 그래픽 칩셋 ‘NV1’을 출시하였으나, 전용 API(Application Programming Interface) 적용과 가격대비 낮은 성능으로 인해 첫작품은 실패로 끝났다. 첫작품의 실패를 거울삼아, 1997년에 새롭게 출시한 ‘RIVA 128’ 모델은 그래픽시장의 호평을 받으면서 비로소 전세계에 그들의 존재감을 알렸다.
1998년 ‘RIVA TNT’ 이어 1999년에는 ‘RIVA TNT2’ 를 출시했다. 연이어 출시된 RIVA 시리즈 제품군은 당시 시장 1위 기업이었던 3dfx의 부두(Voodoo) 제품군을 넘어섰다.
그들의 본격적인 성장과 방향성은 아래의 기업인수와 실패사례에서 찾을 수 있다.
- 2000년 그래픽 칩셋과 카드 1위기업인 3dfx 자산 인수: 3dfx는1994년에 창립되어 1996년에 ‘Voodoo’라는 3D 가속카드로 돌풍을 일으켰으며, 1999년 초반까지 그래픽 칩셋과 카드 분야에서 선두를 달리고 있었다. 그들은 그래픽 칩셋과 카드 뿐만아니라 자사 전용 그래픽 API도 보유했던 기업이었다. 그당시 게임 그래픽 카드에서는 경쟁 대상이 없을 정도로 압도적인 성능을 과시했지만, 독적점인 시장 지배를 원했던 3dfx 는 무리한 투자로 인해서 결국 파산에 이르렀다. 사실상 NVIDIA 와 ATI의 새로운 라인업 출시가 3dfx에게 치명타를 주었다. 엔비디아는 2000년에 자금난으로 파산을 준비하던 3dfx로 부터 지적재산권 관련 자산 일체를 인수했다.
- 2019년 네트워킹 칩 제조사인 멜라녹스(Mellanox) 인수: 이스라엘 기업인 멜라녹스는 1999년 창립 되었으며, 인피니밴드(InfiniBand: 고성능 커퓨팅에 쓰이는 네트워크 기술) 상호 연결 기술의 초기 도입 분야에서는 개척자로 평가되었다. 멜라녹스의 고속 이너넷 제품은 전세계 슈퍼컴퓨터에 사용되고 있으며, 선도적인 하이퍼스케일 데이터센터 대다수가 사용하고 있었다. 엔비디아는 인텔, 마이크로소프트, 자일링스등 다수와의 경쟁 끝에 멜라녹스를 69억 달러에 인수했다. 그들은 역사적으로 기업의 인수합병에 매우 소극적이었으나, 이번 멜라녹스 인수는 기업의 방향성을 제시한 대형 인수합병인 셈이다. 컴퓨팅제품에만 집중해왔던 NVIDIA가 이제 네트워크 솔루션까지 비즈니스를 확장 가능하게 되었다.
- 2020년 반도체 설계기업 ARM 인수실패: 엔비디아는 소프트뱅크 그룹과 소프트 비전 펀드로 부터 400억 달러에 ARM(Arm Limited)를 인수한다고 밝혔다. ARM은 영국의 세계적인 반도체 설계기업이다. 전 세계 휴대폰의 90%이상이 ARM의 기술을 택할 정도로 과점 기업이다. 칩 설계를 원하는 기업들은 ARM에게 원하는 설계도를 구매해서 사용한다. 미국 연방거래위원회(Federal Trade Commission, FTC)는 반독점이라는 이유로 ARM 인수 관련하여 엔비디아에게 소송까지 제기하였고, 미국은 엔비디아로부터 인텔이나 퀄컴, 구글과 같은 기업들을 보호하려는 의지를 보였다. 영국 경쟁시장청(Competition and Markets Authority, CMA) 뿐만아니라 유럽연합(European Union, EU),중국도 ARM 인수합병에 따른 시장 공정경쟁의 문제점을 제기하고 나서면서 엔비디아의 인수시도는 결국 실패로 돌아갔다. 반도체시장의 생태계에서 팹리스 기업들에 대한 ARM의 존재감을 안다면 엔비디아의 ARM 인수를 찬성하는 나라들은 없을 것이다. 그래픽처리장치(GPU)시장에서 80%이상 점유율을 차지하고 있는 기업과 ARM 만남은 경쟁자들에겐 너무나 위협적이라 이미 결론은 정해져 있었다고 본다.
- 2022년 HPC SW 기업 브라이트 컴퓨팅 인수: CEO 젠슨 황은 전 세계 700개 이상의 기업에서 사용되는 컴퓨터 시스템 관리용 SW(Software) 기업인 브라이트 컴퓨팅(Bright Computing)를 인수한다고 밝혔다. 2009년에 설립된 기업으로 암스테르담에 본사를 두고 있으며, 보잉(Boeing), 나사(NASA), 존스홉킨스대학, 지멘스(Seimens)등 기업들과 단체들에게 고속네트워트로 연결된 그룹서버 관리를 위한 소프트웨어 ‘브라이트 클러스터 매니저(Bright Cluster Manager)’를 제공하고 있다. 엔비디아는 브라이트 컴퓨팅과 10년 넘게 협력적인 관계를 유지해 왔으며, 브라이팅 컴퓨터의 소프트웨어와 GPU, 네트워킹, 쿠다(CUDA), DGX 시스템(딥러닝과 AI분석 가속화를 위한 목적으로 세계 최초로 개발된 GPU기반 슈퍼컴퓨터)을 통합해 왔다. 그들은 자사 소프트웨어 기능을 결합하여 HPC(High Performance Computing) 데이터센터의 시스템 구축과 운영이 가능하게 되었다.
엔비디아의 방향성
구글과 OpenAI-마이크로소프트간 생성형 인공지능 전쟁의 승자는 엔비디아
생성형 인공지능(generative artificial intelligence)은 고성능 슈퍼컴퓨터가 고객의 요구에 대응하여 텍스트, 이미지, 소설, 코딩, 그림, 비디오등을 생성할 수 있는 인공지능(AI) 시스템이다. 생성형 AI는 데이터의 요약, 분석, 추론, 분류, 창작,그림등의 작업을 동시에 수행할 수 있는 대규모 AI 모델을 기반으로 하고 있다.
AI의 선구자 구글
구글은 2015년 알파벳(Alphabet)를 지주회사로 두고 전체그룹을 2개의 그룹으로 나눈 조직개편을 단행하였다. 이로 인해 출범된 그룹이 Google(구글)과 Other Bets(신규사업)이었다. 구글 그룹에서는 AI를 검색과 광고 서비스에 도입시켰고, 신규사업(Other Bets) 부문에서는 AI를 활용한 미래 전략사업으로 ‘AI퍼스트’ 를 본격화 하였다. AI 자율주행 전문기업 ‘웨이모(Waymo)’, 자율주행 무인기(드론) 기업 ‘윙(Wing)’, 머신러닝(기계학습)을 활용한 생명공학기업 ‘칼리코(Calico)’, 알파고로 알려진 ‘딥마인드(DeepMind)’, AI 기술로 온라인 악풀, 괴롭힘을 방지하는 ‘직소(Jigsaw)’ 등이 신규사업에 포함되어 있었다.
최근 딥마인드가 오픈AI의 ChatGPT와 경쟁할 새로운 대형언어모델(LLM,Large Language Model)개발에 나섰다. 테크크런치에 따르면 딥마인드가 개발중인 신규 LLM은 일명 ‘Gemini(제미니)’로 방대한 규모의 유튜브 비디오 데이터들이 기계학습에 활용되고 있다고 알려졌다. 제미니(Gemini)는 LLM 기술과 강화학습 기술을 결합한 모델로 소개 되었으며, 이미지 인식 및 생성기능이 추가될 것으로 보인다. 사실상 시각, 청각을 비롯한 여러 인터페이스를 통해 정보를 주고 받는 ‘멀티 모달’ 기능이 장착되는 것이다. 그리고 1조개가 넘는 파라미터로 구성된 초대형 언어모델로 자체 개발한 신경망처리장치(NPU)인 TPU(Tensor Processing Units)를 수만개 활용해 제미니를 훈련시킬 예정이다.
OpenAI와 마이크로소프트사의 ChatGPT
ChatGPT는 2022년 11월에 OpenAI에 의해 처음으로 선 보였으며, GPT-3.5와 GPT-4를 기반으로 하는 대화형 인공지능 서비스이다. 지도학습과 강화학습을 모두 사용해 기존 성능 보다 강력한 기계학습을 구현하였다. 다른 챗봇과는 달리, 챗지피티는 주고받은 대화와 대화의 문맥을 기억할 수 있으며, 데이터의 분석을 통한 글의 요약도 가능하다. 지시에 따른 다양한 추론,분석, 음악, 텔레플레이, 동화, 그림 등 다양한 섹션까지 활용이 가능한 특징도 가지고 있다.
마이크로소프트에서 130억 달러 투자를 받은 오픈(Open)AI는 마이크로소프트의 생성형 AI 제품개발을 담당했다. 2022년 오픈AI는, ‘챗GPT 엔터프라이즈’는 엔터프라이즈급 보안과 개인정보 보호, 무제한 고속 GPT-4 엑세스, 대량의 데이터 입력이 가능한 컨텍스트 창, 고급 데이터 분석기능, 사용자 정의에 대한 다양한 옵션을 제공한다고 밝혔다.
이 투자로 마이크로소프트는 자사의 모든 제품에 오픈AI의 모델을 사용할 수 있다. AI 기반인 마이크로소프트 ‘코파일럿(Copilot)’ 에는 빙(Bing), 깃허브, 마이크로소프트 365, 팀즈, 마이크로소프트 다이내믹 365 ERP용 코파일럿이 포함된다. 이들 모두 오픈 AI 기술이 기반이다.
최근 마이크로소프트는 기업용 생성형 인공지능(AI) 챗봇 ‘빙 챗 엔터프라이즈’를 출시했다. 기존의 AI 기반 검색 서비스 ‘빙 서치’ 를 활용한 제품이다. 개인정보 유출방지, 데이터 접근권한 제한 등을 강화해 기업 고객의 요구에 적극 대응했다. 일반 유저들은 기존의 웹 검색엔진에서 개인용 챗봇 ‘빙 챗’을 이용 가능하며, AI 기반 서비스 ‘MS 365 코파일럿’의 소비자 이용료가 월 $30달러로 확정되었다.
생성형 AI 시장의 규모
챗 봇 ‘ChatGPT’의 등장으로 인간을 대신해서 글을 쓰고, 그림을 그리고, 과제를 수행 가능한 생성형 AI에 대한 수요가 폭발적으로 증가하고 있다. 2032년 생성형 AI 시장규모(블룸버그 인텔리전스)가 1조3000억 달러까지 성장할 것으로 예상되며, 이러한 수치는 2022년 시장 규모(약 400억 달러)에 비하면 10년간 30배이상 커진다는 의미이다.
생성형 AI 시장의 확장으로 인해 AI 시스템을 교육하는 인프라 투자만 2032년까지 2,470억 달러에 이를 것이며, AI 디지털 광고 부문은 1,920억 달러, AI 서버시장도 1,340억 달러까지 커질 것으로 예상했다. 이러한 흐름은 기존의 정보통신분야에 많은 변화를 가져올 것이며 특히 상업 광고시장, 사이버 보안, 교육시장의 영역까지 영향을 미칠 것으로 보인다.
생성형 AI 시대 엔비디아의 경쟁력
미래 AI 시장을 선점하기 위한 AI 반도체 전쟁은 이제 시작에 불과하다. AI 학습과 연산에 특화된 AI 반도체는 오픈AI의 ChatGPT를 필두로 한 생성형 AI의 수요 급증으로 인해 반도체 산업의 중심이 되어가고 있다. AI 반도체와 파운드리, 데이터센터 등을 포함한 AI 시장 규모(가트너)가 2030년에는 3,050억 달러까지 이를 것으로 예상했다. AI 반도체가 미래 반도체 산업의 주역이 된다는 의미이다.
현재 생성형 AI가 주인공인 AI 반도체 시장은 엔비디아가 전 세계시장의 80%이상을 장악하며, 절대적인 강자의 자리를 차지하고 있다. 엔비디아의 강점은 특화된 GPU로 구글의 바드(Bard)나 오픈AI의 ChatGPT 등 생성형 AI 소프트웨어를 지원 가능하며, 특히 대형 AI 모델에 최적화된 성능을 구현한다는 점이다. 이러한 점 때문에 글로벌 빅테크와 클라우드 기업, 신생기업들이 자체 AI 모델 개발을 위한 GPU 용량을 확보하기 위해 경쟁에 뛰어들고 있어 당분간 엔비디아 칩의 수요는 지속될 것으로 보인다.
그들은 생성형 AI 시장을 선도하고 있으며, 생성형 AI 구현에 최적화된 A100 모델과 H100 모델을 보유하고 있다. 엔비디아 A100 텐서 코어 GPU는 암페어 아키텍처로 구동되며, 대용량 데이터 가속화를 제공하여 AI, 데이터 분석 및 HPC(고성능 커퓨팅, High-performance computing)를 위한 최고 성능으로 테이터센터를 지원한다. H100은 A100의 뒤를 이은 플래그쉽 AI 칩으로 호퍼 아키텍처 기반의 최신 GPU 시스템이다. 최대 256개를 연결해 엑사스케일 작업을 가속화 하도록 설계 되었으며, 전용 트랜스포머 엔진으로 조단위 매개변수를 가진 대형언어모델(LLM)를 지원한다. 현재 AI 시스템을 실행하기 위한 가장 최적화 된 칩이라 볼 수 있다.
엔비디아의 데이터 센터 분기별 매출은 2021년 2분기 24억 달러에서 2023년 2분기 103억 달러로 2년만에 4배이상 증가하는 실적을 보이고 있다. 같은 기간 인텔은 57억 달러에서 40억 달러까지 감소했으며, AMD는 8억 달러에서 13억 달러로 소폭 상승에 그쳤다. 최근 미즈호 증권 비제이 리케쉬 분석가는 엔비디아가 2027년까지 AI시장에서 우월한 위치를 유지할 예정이며, AI 서버시장 점유율 75%로 3,000억 달러 이상의 매출을 기록할 것이라고 예상했다.
엔비디아의 소프트웨어 기업 전략
전통적인 하드웨어 기업인 엔비디아가 이제는 소프트웨어 서비스분야까지 비즈니스 영역을 확대하고 있다. 그들은 고성능 컴퓨팅 소프트웨어 기업인 브라이트 컴퓨팅 인수를 통해 HPC 데이터센터 구축을 위한 전략을 취했다.
그들이 출시한 하드웨어와 소프트웨어 결합한 신제품은 2가지로 아래와 같다.
- DGX 클라우드 서비스: 엔터프라이즈 AI를 위해 설계된 NVIDIA DGX 플랫폼은 클라우드에서 온프레미스 데이터센터에 이르는 최신 통합 AI 개발 솔루션에 최고의 NVIDIA 소프트웨어, 인프라 및 전문성을 제공하고 있다. 쉽게 얘기 하자면, 하드웨어부터 소프트웨어까지 제공하는 Full-Stack 솔루션을 말한다. 그들은 패키지 플랫폼인 DGX Base POD(DGX 4~19대 통합)와 DGX Super POD(DGX 20~140대 통합) 을 선보이며, DGX 클라우드 서비스는 마이크로소프트(MS), 구글, 오라클 등 파트너쉽을 체결한 클라우드 기업을 통해서도 가능하다고 밝혔다. 기업들에게는 생성 인공지능(AI) 개발을 위한 슈퍼컴퓨팅 인프라에 대한 대규모 투자없이 거대규모의 GPU 기반 슈퍼컴퓨팅 인프라를 대여하여 사용할 수 있는 길이 열린 셈이다. DGX 클라우드는 DGX AI 슈퍼컴퓨팅과 AI 엔터프라이즈 소프트웨어가 결합된 것으로 원하는 기업들은 어디서나 웹 브라우저를 사용하여 AI 슈퍼컴퓨터에 접근이 가능하다.
- AI 파운데이션: AI 파운데이션은 자체 LLM, 파운데이션 모델을 개발할 기술력 및 투자비용이 없는 기업들을 위해 AI 인프라를 제공하고 있다. 현재 사용가능한 주요 파운데이션은 대화형 AI 모델로 언어기반인 ‘니모(Nemo)’, 이미지 기반인 ‘피카소(Picasso)’, 바이오 기반으로 된 ‘바이오니모(BioNeMo)’ 세가지 이다. 기업들은 엔비디아가 제공하는 파운데이션 모델은 활용하면 쉽게 원하는 언어 AI, 이미지 생성 AI, 신약 개발자들을 위한 분석및 예측 AI구축이 가능해진다. NVIDIA는 개별 기업이 독점 보유한 데이터를 통해 기업들에게 맞춤형 생성형 AI 를 구축할 수 있도록 소프트웨어까지 지원하고 있는 것이다.
GPU(Graphic Processing Unit)의 글로벌 강자인 엔비디아는 오랜기간 인텔, AMD와 경쟁관계를 지속해 왔으며, 외장형 그래픽처리장치(GPU) 분야에서 대표적인 하드웨어 기업이라고 볼 수 있다. 그들은 글로벌 GPU 시장에서 독보적인 위치에 올라 있음에도 불구하고 아주 큰 변화를 원한다. 사실상 차세대 생성 AI 혁명을 이끌고 싶어하는 엔비디아는 하드웨어를 넘어 소프트웨어 기업으로의 변신을 통해서 새로운 시장을 창출하고자 한다.