[경제신문스크랩] 엔비디아 AI칩 격차 벌린다 2배 빠른 신형 'H200' 공개

기사 헤드라인

엔비디아 AI칩 격차 벌린다 2배 빠른 신형 'H200' 공개
기사링크 - https://www.mk.co.kr/news/it/10874789


인공지능(AI)을 학습시키고 서비스하는 과정에서 반드시 필요한
'AI 반도체'를 만드는 엔비디아가 최신 제품인 H200을 공개

신문기사 본문

인공지능(AI)을 학습시키고 서비스하는 과정에서 반드시 필요한 'AI 반도체'를 만드는 엔비디아가 최신 제품인 H200을 공개했다.

엔비디아는 13일(현지시간) AI 학습에 쓰이는 고성능 데이터센터에 들어가는 제품인 HGX H200을 출시한다고 밝혔다. HGX H200에는 H200 텐서코어 그래픽처리장치(GPU)와 고성능 메모리인 HBM3e가 탑재된다. 141GB 메모리의 HBM3e는 SK하이닉스가 공급하는 것으로 알려져 있다. 엔비디아에 따르면 H200은 이전 모델 중 하나인 A100에 비해 거의 2배의 용량과 2.4배 많은 대역폭을 제공한다.

 

메타의 오픈소스인 라마2를 기준으로 하면 직전 모델인 H100에 비해 추론 속도가 거의 2배로 빨라졌다. 엔비디아는 H200을 내년 2분기에 출시할 예정이며 이를 통해 아마존웹서비스(AWS), 구글 클라우드, 마이크로소프트(MS) 애저, 오라클 클라우드 같은 클라우드 서비스 업체들이 H200을 고객들에게 제공할 수 있을 것이라고 설명했다.

 

AMD와 빅테크 기업들이 AI 반도체 시장에 계속 뛰어들자 1위인 엔비디아가 신제품으로 경쟁을 따돌리려는 모습이다. 챗GPT 같은 생성형 AI가 AI 컴퓨팅 수요를 폭발시키면서 AI 반도체 시장의 80%를 점유하고 있는 엔비디아는 실적과 주가가 급상승했다.

 

한편 챗GPT를 만드는 샘 올트먼 오픈AI 최고경영자(CEO)는 한 인터뷰에서 엔비디아의 AI 반도체 시장 우위가 지속되지 않을 것이라고 전망했다. 또한 최신 대규모언어모델(LLM)인 GPT-5도 준비 중이라고 밝혔다. 올트먼 CEO는 이날 파이낸셜타임스(FT)와 인터뷰에서 엔비디아 H100의 공급이 부족했지만 이를 확보했고 내년에는 상황이 더 좋아질 것이라고 설명했다.

 

하지만 그는 구글, MS, AMD가 경쟁 제품을 내놓는 상황이기 때문에 엔비디아 의존도는 줄어들 것이라고 전망했다. 올트먼 CEO는 또 주요 주주인 MS와 매우 좋은 관계로 지내고 있다면서 MS로부터 더 많은 투자를 기대한다고 말했다.

 

추가 조사

반도체면 반도체지… AI 반도체는 무엇일까?

AI는 수많은 데이터를 학습하고 이를 통해 추론한 결과를 도출 한다. 학습 데이터를 단시간에 받아들이고 처리하기 위해서는 특별한 프로세서가 필요한데, 이 프로세서가 ‘AI 반도체’다. AI 반도체는 AI 서비스 구현에 필요한 대규모 연산을 초고속, 초전력으로 실행하는 효율성 측면에서 특화된 비메모리 반도체로, AI의 핵심 두뇌에 해당한다.

 

AI 반도체가 개발되기 전에는 이 핵심 두뇌 역할을 CPU(중앙처리장치)와 GPU(그래픽처리장치)가 담당했다. 다만, 이 둘은 AI를 처리할 수 있는 성능은 갖췄지만 애초에 AI용으로 개발된 것이 아니다 보니 AI연산 외의 부분에 성능이 낭비되고, 비용이나 전력 소모 등 비효율적인 부분이 발생했다. 인간의 뇌처럼 수많은 데이터를 처리하려면 높은 전력과 빠른 속도가 필수적이다. CPU, GPU 대비 범용성은 낮지만, AI 알고리즘에 최적화된 AI 전용 반도체가 등장하게 된 배경이다. AI의 딥러닝에 특화되었다는 의미에서 흔히 NPU, Neural Processing Unit(신경망 처리장치)라고 부르기도 한다.

 

AI 반도체는 누가 만드는가? AI 반도체 시장은 얼마나 될까?

AI가 미래 IT 산업의 판도를 바꿀 핵심 기술로 부상하면서 AI 반도체 시장은 뜨겁다. AI 반도체 시장을 선점하기 위해 전통적인 반도체 기업인 퀼컴, 인텔, 엔비디아는 물론, SKT, 구글, 아마존, 애플, 테슬라 등 글로벌 빅테크 기업들도 AI 반도체 개발에 뛰어들고 있다. AI 서비스 컴퍼니로의 전환을 선언한 SK텔레콤도 2020년에 첫 국산 AI 반도체 ‘사피온 X220’을 상용화하며 AI 반도체 산업을 이끌고 있다.

 

일부 빅테크 기업들은 각 기업의 서비스에 맞는 AI 반도체를 직접 만드는 게 더 낫다는 판단에 자체 AI반도체 개발도 고려하고 있다. 예를 들어, 테슬라가 자율주행에 특화된 자체 AI 반도체를 만드는 것이 이에 해당한다.

 

시장조사업체 가트너는 AI 반도체 시장이 2023년에 343억 달러(약 40조) 규모로 성장할 것으로 전망했으며, 2030년에는 전체 시스템 반도체 시장의 31.3%를 점유할 것으로 내다봤다.

 

AI에 사용하는 반도체 중 범용성이 높은 CPU, GPU 시장은 기술 성숙 단계에 접어들었고, 최적화된 저전력, 고효율의 ASIC 중심으로 시장이 성장 중이다. 향후 AI 반도체는 데이터 센터(Data Center) 등 고성능 서버에 활용 가능한 반도체에서 자동차, 스마트폰 등에 탑재되는 디바이스용으로, 학습용에서 추론용으로 시장 비중이 확대될 것으로 전망된다. 초기에는 머신러닝 학습 목적의 ‘학습용’ 수요가 높지만, 장기적으로는 학습 데이터를 기반으로 AI 서비스를 구현하는 ‘추론용’ 수요 증가가 예상된다.

 

단순 호기심

국내 인공지능(AI) 반도체 기술 관련 특허건수는 세계 3위이지만, 실질적인 기술경쟁력은 세계 선진 10개국 평균 이하라는 주장?  국내 AI 반도체 생태계 육성을 위해 정부의 스타트업 지원 정책, 규제 완화, 기업 간 협력이 절실하다 

 

 

참고자료

https://news.sktelecom.com/177133

https://www.thelec.kr/news/articleView.html?idxno=23245