'형님' 언제든 바뀐다…AI 시대 필수재 'HBM' 희비 가를 핵심은

AI반도체 시대…HBM, 영원한 승자는 없다

SK하이닉스·삼성전자·마이크론 HBM 현황 비교/그래픽=윤선정

고대역폭메모리(HBM)가 메모리 반도체 업계 판도를 뒤흔들고 있다. 현재 글로벌 HBM 시장을 선도하는 기업은 SK하이닉스 (191,800원 ▲1,800 +0.95%)다. 그 뒤를 삼성전자 (80,900원 ▲500 +0.62%)와 미국 마이크론이 뒤쫓고 있다. 이는 곧 지난 30년간 메모리반도체 1위 자리를 지켜온 삼성전자 반도체(DS)의 압도적 우위가 흔들리고 있다는 의미다. 그야말로 격세지감이다.

위상 변화는 당장 현장에서부터 감지된다. 글로벌 장비업체들이 시장 선도 업체인 SK하이닉스에 신물질과 장비 우선 평가를 요청하고 있다. 장비사들은 개발 속도가 가장 빠른 회사에 제품을 제공해 자사 레퍼런스에 활용한다. SK하이닉스의 한 반도체 엔지니어는 "투자액이 적더라도 (장비사들의) 대응이 빨라졌다"며 "대우 변화를 직접 피부로 느끼고 있다"고 말했다.


뒤바뀐 상황은 점유율에서도 그대로 나타난다. 시장조사업체 트렌드포스는 지난해 글로벌 HBM 시장 점유율을 SK하이닉스 53%로 추정했다. 삼성전자가 38%, 마이크론이 9%로 뒤를 이었다.

실적에서도 희비가 갈렸다. 지난해 4분기 SK하이닉스는 영업이익 3460억원을 내며 삼성전자보다 먼저 흑자전환했다. 같은 기간 삼성전자 반도체는 2조1800억원의 영업손실을 냈다. 다만 메모리반도체에 주력하는 SK하이닉스와 시스템LSI, 파운드리 사업부까지 갖춘 삼성전자 DS의 실적을 단순 비교하긴 어렵다.



◆ 5세대 HBM3E 개화…올해 '경쟁 2막' 시작


삼성전자와, SK하이닉스, 마이크론 등 메모리 빅3는 HBM 시장 주도권을 두고 혈투를 벌이고 있다.

SK하이닉스가 다음달부터 엔비디아에 8단·24GB(기가바이트) HBM3E(5세대)를 공급하기로 하면서 2라운드 경쟁의 막이 올랐다. (본지 2월 21일자 '[단독]SK하이닉스, 3월 세계 최초 HBM3E 양산' 참조) 엔비디아의 최종 성능 평가 기준을 만족시키는 물량들은 지난 1월부터 양산되고 있다. 삼성전자는 이달 27일 12단·36GB HBM3E 개발 성공 소식을 발표하며 맞불을 놨다. 마이크론은 26일(미국 현지시간) 8단·24GB HBM3E를 대량 양산시작했다고 밝혔다.

선택은 엔비디아에 달렸다. 엔비디아는 AI(인공지능) 개발 플랫폼 쿠다를 바탕으로 강력한 생태계를 구축해 왔다. 쿠다를 통해 엔비디아는 AI 반도체 칩 시장에서 90% 이상의 독점적 지위를 유지한다. 메모리 기업들의 HBM 개발과 양산 소식 그 자체보다 엔비디아에 대한 공급이 더 주목받는 이유다. 엔비디아에 HBM을 납품하는 것은 HBM 기술력 입증의 의미를 갖는 동시에 수익 창출과 연결된다. HBM3E는 엔비디아가 올해 출시 예정인 GPU(그래픽처리장치) H200, B100에 탑재된다.

범진욱 서강대 전자공학과 교수는 "현 상태에선 엔비디아의 GPU가 거의 유일한 AI 솔루션"이라며 "엔비디아 GPU에 탑재되는 HBM 수요도 높아지고 있다"고 말했다. 시장조사업체에 따라 다르지만 올해 HBM의 연간 성장률은 적게는 40%, 크게는 60% 이상일 것으로 관측된다.

◆ 개발 속도·캐파 싸움 격화

엔비디아뿐만이 아니다. 오픈 AI의 샘 올트먼, 메타의 마크 저커버그, 텐스토렌트 짐 켈러 최고경영자(CEO)등 빅테크 거물들이 지난달 말부터 한 달 사이 잇따라 한국 메모리 기업들을 찾으면서 HBM3E를 둘러싼 경쟁이 더욱 격화하는 모양새다.

영원한 승자는 없다. 과거 D램은 양산형 제품으로 여겨졌다. 그러나 복잡한 설계 기술과 패키징을 요하는 HBM의 경우 고객 주문형 특성이 커 경쟁이 더욱 심해졌다. 엔비디아의 HBM 성능 검증은 반년에 걸쳐 진행될 정도로 꼼꼼하고 세밀하다. 뒤집어 얘기하면 제품 성능과 개발 속도에 따라 언제든 승자가 바뀔 수 있다는 얘기다. 수요가 공급을 초과하는 만큼 강력한 캐파(CAPA,생산능력)싸움도 치열하다. 업계는 올해 메모리 3사의 HBM 출하량이 수요의 절반에 불과할 것이라 본다.

SK하이닉스·삼성전자·마이크론 HBM 개발 연혁 비교/그래픽=윤선정

현재로선 SK하이닉스가 기술력 측면에서 가장 앞서나가고 있지만, 생산능력은 삼성전자가 월등하다. 패키징까지 한번에 가능한 턴키(일괄 수주·생산)를 제공할 수 있다는 점도 삼성전자만의 강점이다. 인텔을 등에 업은 마이크론은 뛰어난 설계 능력이 장점으로 꼽힌다.

이종환 상명대 시스템반도체공학과 교수는 "SK하이닉스가 향후 메모리 시장을 지배할 HBM에서 앞서나가면서 (삼성전자와) 강력한 라이벌 관계가 형성됐다"면서도 "HBM이 패키징 기술 역시 굉장히 중요한만큼, 삼성전자가 그런 측면에선 조금 더 유리할 것"이라고 말했다.

박영준 서울대 전기정보공학부 명예교수는 "SK하이닉스가 HBM을 먼저 시작한 것이 주효했다"며 "삼성전자와 마이크론도 빨리 캐치업할 것"이라고 말했다.

▶HBM이란
HBM은 여러 개의 D램을 수직으로 연결해 기존 D램보다 데이터 처리 속도를 혁신적으로 끌어올린 고성능·고용 제품이다. 막대한 양의 데이터 처리가 필요한 AI 시대 필수재로 여겨진다. 기존 제품 대비 제품의 영업이익률이 50%를 훌쩍 넘어서 수익성 확보에도 유리하다.


AI 칩 90% 독점한 엔비디아, 그 중심엔 '쿠다'…장기 집권의 무기

/사진 = 이지혜 디자인기자

시가총액 2조달러(한화 약 2660조원)를 돌파한 엔비디아는 AI(인공지능) 반도체 시장을 주무르는 공룡 기업이다. 지난해 영업이익은 전년 대비 3배 넘게 증가했고 AI 칩 점유율은 90%를 웃돈다. 삼성전자·SK하이닉스 등 대형 메모리 기업도 엔비디아에서 얼마나 많은 주문을 받았느냐가 성공의 척도가 됐을 정도다. 엔비디아는 어떻게 'AI 천하'의 선두에 섰을까.

첫손에 꼽히는 것은 엔비디아의 GPU(그래픽처리장치) 기반 소프트웨어 프로그래밍 플랫폼 '쿠다'(CUDA)다. 엔비디아는 2006년 100억달러(한화 약 13조원)를 투입해 쿠다를 개발하고, 무료로 공개했다. 무료 배포는 대부분의 AI 제품이 쿠다 사용을 전제로 개발되는 데에 큰 영향을 끼쳤다. 쿠다를 활용할 때 AI용 딥러닝 모델(정보 처리 모델)을 가장 빠르게 구동하기 때문에, 모든 AI 개발자가 쿠다로 탑을 쌓았다.

지난해 AI 열풍 속에서도 쿠다의 위상은 건재했다. 엔비디아의 그래픽카드 외 다른 제품에서 쿠다는 작동하지 않는다. AI 가속기가 보편화되면서 고성능 그래픽카드의 중요성이 확대됐지만, 80% 이상의 제품이 쿠다에 기반했기 때문에 다른 회사의 그래픽카드 사용이 어렵다. 딥러닝의 창시자로 꼽히는 제프리 힌튼 캐나다 토론토대 교수는 "쿠다 없이 딥러닝을 실행하는 것은 불가능에 가깝다"고 말했다.

결국 데이터센터를 구축하려는 고객사들은 쿠다를 쓰기 위해서는 엔비디아의 칩을 반드시 사용해야 한다. 칩을 납품하는 메모리 업체들도 AI 시장을 사실상 독점하고 있는 엔비디아에 공급량을 늘려야 하는 것이 필수적이다. 젠슨 황 엔비디아 CEO는 "2022년 한 해에만 2500만건의 쿠다가 다운로드됐다"며 "엔비디아 기술을 사용하는 대기업은 4만여개가 넘는다"고 자신했다.

당분간 쿠다 독점 체제는 견고할 전망이다. AI 개발의 핵심인 텐서플로나 파이토치 같은 프레임워크(개발용 핵심 체제)가 쿠다에서만 작동하는데다, 엔비디아 역시 이에 발맞춰 쿠다 생태계를 더 확장하고 있기 때문이다. 업계 관계자는 "쿠다를 활용하기 위해 엔비디아 칩을 사려는 대형 고객사들은 아직도 줄을 서 있다"며 "9000만원이 넘는 AI가속기 H100도 없어서 못 팔 지경"이라고 말했다.

아직 대항마가 뚜렷하지 않다는 점도 이런 시각에 힘을 더한다. 경쟁사 AMD는 지난해 말 GPU 'MI300' 시리즈와 함께 이를 지원하는 소프트웨어 플랫폼 'ROCm6'을 출시했다. 인텔과 ARM 등은 OpenCL 등 다른 그래픽카드에서도 구동이 가능한 소프트웨어에 힘을 주고 있다. 모두 쿠다 생태계를 대체하려는 의도다. 하지만 코딩의 난이도가 너무 높고 호환성·범용성이 쿠다에 못 미친다.

쿠다를 앞세운 엔비디아의 독주도 이어질 것으로 보인다. 올해 AI용 GPU인 H200과 B100의 출시를 예고했다. 여기에는 SK하이닉스의 HBM3E가 탑재된다. 엔비디아의 판매량이 늘어날수록 SK하이닉스도 신바람을 낼 수 있다. 업계 관계자는 "엔비디아의 AI 칩 판매량이 오르면 고성능 HBM의 수요도 덩달아 증가한다"며 "국내 메모리 업체들의 HBM 수주량이 올해 크게 늘 것"이라고 말했다.