[르포] 노트북 50만대 연산, 1초 컷…돈 있어도 못 사는 AI칩 1000여개

광주광역시 국가AI데이터센터./사진제공=NHN클라우드

국내 최고수준 연산능력을 자랑하는 'NHN클라우드 광주 국가AI데이터센터'가 가동 5개월 여 만에 베일을 벗었다.

지난 21일 취재진이 방문한 국가AI데이터센터. 공사가 한창인 광주광역시 첨단3지구에 연면적 3200㎡(약 968평) 규모의 3층으로 지어진 건물을 보면 "데이터센터 치고는 아담하다"는 첫 인상을 받을 수 있다. 하지만 '88.5PF(페타플롭스, 1초당 8경8500조번 연산능력)'에 달하는 이곳의 연산능력을 알고 나면 누구나 놀랄 법하다. NHN클라우드는 이를 "일반 업무용 노트북 50만여대 규모의 연산처리량을 1초만에 수행 가능한 수준"이라고 설명했다. 이 센터는 데이터 크기가 상당한 AI 연산의 특성을 감안해 저장용량 또한 107PB(페타바이트, 약 1억1200만기가바이트)로 넉넉하게 확보했다.


NHN클라우드는 2021년 과학기술정보통신부와 광주시가 추진하는 'AI(인공지능) 중심 산업융합 집적단지 조성사업'에서 클라우드 인프라 구축·운영 사업자로 선정돼 국가AI데이터센터 조성에 돌입했다. 2년간 건설 과정을 거쳐 지난해 4월 완공된 이곳은 장비 설치·시험가동 등 절차를 거쳐 같은 해 10월 정식 운영을 개시했다.

국가AI데이터센터의 전산실./사진제공=NHN클라우드

현장 직원들은 귀마개를 권했다. 먼지를 덜기 위한 덧신을 신은 채 전산실에 들어서자 랙(Rack·장비 고정용 틀)에 빽빽히 설치된 AI·HPC(초고성능컴퓨터) 특화 서버 '델 파워엣지 XE9680'가 냉각팬으로 굉음을 내며 취재진을 반겼다. 엔비디아의 고성능 GPU(그래픽 처리장치) H100을 탑재한 모델이다. H100은 '돈 주고도 못 산다'는 평이 나올 정도로 전세계적 GPU 품귀현상을 겪었는데, NHN클라우드는 구체적인 보유량에 대해 말을 아끼면서도 H100을 1000개 이상 확보해 이곳에 구축했다고 밝혔다.

KDCEA(한국데이터센터에너지효율협회) 자료에 따르면 국내 데이터센터의 평균 랙당 전력밀도는 4.8kW(킬로와트) 수준이지만, 국가AI데이터센터의 전력밀도는 랙당 15kW로 3배를 웃돈다. 전력 소모와 발열이 압도적인 GPU의 특성을 감안한 설계다. NHN클라우드는 안정적인 전력수급을 위해 설비를 최적화하고 GPU를 효율적으로 식힐 수 있도록 최대 풍량 88만CMH(시간당 세제곱미터)를 확보했다. 또 전산실을 구획별로 나눠 찬 공기와 더운 공기를 분리하는 차폐구조를 채택했다. 실제로 더운 공기가 통하는 '핫 아일(Hot Aisle)'로 걸어 들어간 취재진은 몸으로 확연한 온도차를 느낄 수 있었다.


이렇게 구축된 고성능 AI가속기는 기업·연구기관이 짧은 시간에 방대한 데이터를 학습·분석·활용하는 핵심 연구개발 인프라로 이용된다. NHN클라우드가 밝힌 최근 가동률은 100%에 육박한다. NHN클라우드는 이용자가 AI 서비스와 제품을 개발하는데 필요한 개발도구와 데이터 수집·가공·분석에 필요한 데이터 레이크 등을 통합 지원하고 있다고 설명했다. 국가AI데이터센터는 이른바 '망중립 데이터센터'로 이용자가 인터넷 회선 사업자를 자유롭게 선택하도록 돕는 MMR(Meet Me Room), NHN클라우드의 다른 데이터센터와 연결할 수 있는 고속 전용망도 갖췄다.

재난 대비와 에너지 절감을 위한 고민도 빼놓지 않았다. NHN클라우드는 국가AI데이터센터에 대해 전력 공급이 끊기는 돌발상황에서도 UPS(무정전 전원공급장치)로만 15분을 견딜 수 있고, 그 이후 비상발전기 4대(가동 3·예비 1)가 구동된다고 밝혔다. 데이터센터 옥상에는 공랭식 프리쿨링 냉동기가 설치됐다. 물의 증발잠열로 냉방을 돕는 기술이 적용된 장비다. 모든 장비의 가동 현황은 종합운영실에서 실시간으로 감시한다.

광주 국가AI데이터센터 옥상의 공조설비./사진제공=NHN클라우드

NHN클라우드는 25일 발표한 '초고성능 인프라'를 중심으로 하는 'NHN클라우드 2.0 전략'에서 국가AI데이터센터가 핵심 역할을 수행한다고 설명했다. 김동훈 NHN클라우드 대표는 지난 21일 기자간담회에서 "국가AI데이터센터를 통해 남들보다 2년 정도 앞서서 AIDC(AI 데이터센터)를 건립했다"며 "선두권 사업자로 성장할 것"이라고 말했다.