"호퍼보다 환상적" 신무기 '블랙웰' 꺼내든 젠슨 황

젠슨 황 엔비디아 CEO, 2023년 5월 대만 컴퓨텍스 포럼 /로이터=뉴스1

엔비디아가 새로운 반도체 아키텍처 블랙웰을 선보였다. 블랙웰 기반의 반도체는 현재 전세계를 휩쓸고 있는 데이터센터용 GPU(그래픽 프로세싱 유닛)인 H100의 기반이 되는 반도체 아키텍처 호퍼보다 적은 전력으로 더 빠르게 AI(인공지능) 모델을 실행할 수 있다.

엔비디아는 18일(현지시간) 미국 캘리포니아주 새너제이에서 연례 GPU 테크놀로지 콘퍼런스(GTC)를 개최했다. 젠슨 황 엔비디아 최고경영자(CEO)는 오는 21일까지 4일간 이어지는 GTC의 개막을 알리는 기조연설에서 "호퍼도 환상적이었지만 우리에겐 더 큰 GPU가 필요하다"며 블랙웰 기반의 칩을 소개했다.


블랙웰은 2080억개의 트랜지스터로 구성됐다. 이는 800억개의 트랜지스터로 구성된 기존 H100보다 2.5배 늘어난 것이다. 블랙웰은 기존 기술로 생산하기에는 너무 크기 때문에 2개의 칩을 연결해 하나처럼 작동시키는 구조다.

황은 최신 AI 모델을 훈련시키는 데 2000개의 블랙웰 GPU로 90일간 4메가와트의 전력이 필요하다고 밝혔다. 기존 칩으로 같은 기간 동안 AI 모델을 훈련시키려면 8000개의 GPU에 15메가와트의 전력이 필요했던 것에 비해 훨씬 기능과 효율성이 높아진 것이다.

엔비디아는 블랙웰 기반의 반도체인 GB200을 올해 말 출시할 예정이다. GB200은 2개의 블랙웰 GPU와 영국의 칩 설계회사 Arm의 아키텍처를 기반으로 한 엔비디아의 그레이스 CPU(중앙처리장치) 한 개로 구성돼 있다. 엔비디아는 GB200을 활용한 제품이 기존 H100 활용 제품에 비해 최대 30배의 LLM(대규모언어모델) 추론 성능을 제공할 수 있다고 밝혔다.


엔비디아는 신형 칩의 가격을 정확히 공개하지 않았다. 다만 H100 가격이 개당 2만5000~4만달러라는 점을 고려할 때 UBS는 최소 5만달러 이상일 것으로 예상했다.

엔비디아는 NIM(엔비디아 인퍼런스 마이크로서비스)이라는 기업용 소프트웨어(SW)도 새로 선보였다. NIM을 이용하면 기존 엔비디아 GPU에서 AI 소프트웨어를 더 쉽게 실행할 수 있어 기존 엔비디아 GPU를 계속 사용할 수 있게 된다. NIM을 이용하려면 엔비디아 GPU 기반의 서버를 구입한 뒤 GPU당 연간 4500달러를 내야 하는 엔비디아 엔터프라이즈에 등록해야 한다.

마누비르 다스 엔비디아 엔터프라이즈 부사장은 "지금도 그렇긴 하지만 정말 바뀐 것은 엔비디아가 이제 상업용 소프트웨어 사업도 하고 있다는 점"이라고 말했다.