'AI 전력난' 글로벌 숙제 푼 국내 기술…"절반 전력에 같은 성능"

머니투데이

김성휘 기자

[서울=뉴시스]윤석열 대통령이 21일 청와대 영빈관에서 화상으로 열린 '인공지능(AI)서울 정상회의'에서 브래드 스미스 마이크로소프트(MS) 사장 발표를 경청하고 있다. (사진=대통령실 제공) 2024.05.21. [email protected] *재판매 및 DB 금지 /사진=조수정

#샘 올트먼 오픈AI 최고경영자(CEO)가 투자한 원자력에너지업체 오클로(Oklo)는 2027년 가동을 목표로 소형모듈원자로(SMR) 개발을 진행 중이다. 마이크로소프트(MS)는 미국 최대 원전 서비스 업체인 콘스텔레이션 에너지와 원자력 전력 공급계약을 체결했다.

AI 기술이 급속도로 발전하면서 이에 따른 전력수요 폭증이 글로벌 화두로 떠올랐다. 빅테크와 AI 기업들이 차세대 원전까지 손을 뻗는 이유는 AI 시스템을 가동하는 데 막대한 전기가 들기 때문이다. MS와 오픈AI가 짓는 초대형 데이터센터 역시 '전기먹는 하마'가 될 가능성이 높다.

이런 가운데 국내 스타트업이 기존의 절반 이하 전력으로 동일한 성능을 낼 수 있는 AI 소프트웨어 기술을 개발했다. 이정우 서울대 전기정보공학부 교수가 설립한 호두에이아이랩은 보다 효율적인 AI 알고리즘을 설계, 전력 에너지를 적게 쓰고도 성능을 유지하는 기술을 개발했다고 17일 밝혔다.

이 교수는 머니투데이 유니콘팩토리와 인터뷰에서 "AI 소모전력 절감 노력은 반도체 하드웨어 개선과 소프트웨어 개선 두 가지로 나뉜다"며 "이번 기술은 소프트웨어 분야"라고 했다. 그러면서 "우리 소프트웨어를 사용하면 특정 작업을 동일하게 수행하면서 소모전력은 50% 이하로 든다는 점을 협력사인 사피온과 함께 검증했다"고 말했다.

이정우 서울대 교수 (호두에이아이랩 대표) /사진=김휘선 기자 hwijpg@

이 교수는 "AI의 사용목적에 따라 꼭 필요한 연산만 하면 불필요한 에너지를 소모하지 않아도 된다"며 "영상 속 물체가 사람인지 고양이인지 구별해야 한다면, 영상의 배경 픽셀(화소)까지 일일이 점검하는 대신 물체 부분만 확인하면 된다"고 설명했다. 이어 "중학생 수준 수학 문제를 푸는데 우주로켓을 쏘기 위한 슈퍼 컴퓨터를 가동할 필요는 없지 않느냐"며 "그와 같은 원리로 AI 연산량을 줄여도 동일한 목적을 달성할 수 있다"고 말했다.

AI 반도체 사용 폭발적 증가…전력난 우려 제기

마크 저커버그 메타(페이스북) CEO는 지난 1월 "올해 말까지 회사의 컴퓨팅 인프라에 35만 개의 H100을 포함하는 게 목표"라고 밝혔다. 엔비디아 H100은 개당 4만~5만달러 선이어서 구입에 천문학적 비용이 들 뿐 아니라 이 칩을 한꺼번에 가동할 경우 전력소모도 상당할 걸로 예상된다. 이처럼 AI가 일으킨 전력난을 완화하려면 '고성능 저전력' AI 알고리즘을 찾아야 한다는 목소리가 커지고 있다.

이 교수는 "기존의 AI 연구 방향은 에너지를 얼마나 쓰든 고성능을 내면 된다는 것이었다"며 "반대로 우리 팀은 더 적은 에너지로 같은 기능을 낼 수 있다는 발상의 전환을 했다"고 말했다.

새 기술은 국내 제약회사의 검수 장비(머신비전)에 이미 적용하고 있다. 호두에이아이랩은 사피온코리아를 포함, 국내 협력사들에 이 소프트웨어를 납품할 예정이다. 데이터센터용 AI 반도체나 자율주행차에 탑재되는 NPU(신경망처리장치)에 적용할 수 있을 전망이다. 남은 과제는 지속적인 투자와 연구개발을 통한 기술 개선이다.

이 교수는 "영상 기반 AI에 비해 자연어 처리는 난이도가 높아 완성도를 더 높여야 한다"며 "LLM(거대언어모델) 등 AI의 전력소모를 줄이는 기술로 생성형 AI발 전력난 해소에 기여하겠다"고 말했다.