삼성·네카오 지갑 열게 한 신기술..."AI 속도 4배 높인다"

[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.]

스퀴즈비츠의 공동창업자들. (왼쪽부터)안대현 테크팀장, 김형준 CEO, 김태수 CTO/사진=스퀴즈비츠

한 달에 18억명이 이용한다는 챗GPT의 하루 운영비는 얼마일까? 업계에서는 챗GPT를 하루 운영하는데 약 70만달러(9억4000만원)가 소요된다고 추정한다. 초거대 AI를 가동시키기 위해서는 막대한 데이터센터 운영비와 전기요금이 발생해서다. 오픈AI가 챗GPT 신드롬을 일으키고도 2022년 5억4000만달러(7200억원)의 적자를 기록한 이유다.

이에 AI업계에서는 '더 뛰어난 AI모델만큼 운영비용 절감'이 화두로 떠오르고 있다. AI모델을 활용한 서비스가 확산되기 위해서는 비용을 줄이는게 무엇보다 중요하다는 판단에서다.


포스텍 대학원 딥러닝 가속기 하드웨어(NPU) 연구팀이 창업한 스타트업 스퀴즈비츠도 AI의 운용비를 낮춰주는 'AI 경량화' 솔루션을 개발하고 있다. 데이터를 이른바 압축시키는 기술로 AI 구동 시 하드웨어 연산을 간소화해 비용을 절감시키는 기술이다.

2022년 3월 설립된 스퀴즈비츠는 출범 4개월만에 네이버D2SF에서 시드투자를 받더니 1년 반이 지난 최근에는 카카오벤처스, 삼성넥스트, 포스코기술투자, 포스텍홀딩스로부터 25억원의 프리시리즈A 투자를 유치했다. 투자 라운드 때마다 빅테크 및 대기업 투자자들이 참여하면서 AI업계에서도 주목을 받고 있다.
"정확도 유지하면서 경량화 성공…4배 빠른 연산 가능"

스퀴즈비츠의 양자화 기술 /사진=스퀴즈비츠

스퀴즈비츠의 경량화 솔루션은 다양한 데이터 경량화 기술 중 양자화(Quantization) 기술을 활용한다. 32비트(32자리의 0과1)로 표현하는 데이터를 4비트(4자리의 0과1)이하로 압축하는 방식으로, 숫자를 반올림해 계산을 단순하게 만드는 것에 비유된다.

이번 투자를 리드한 신정호 카카오벤처스 선임심사역은 이같은 방식으로 데이터를 경량화하는 기업들 중에서도 스퀴즈비츠의 기술력과 성과는 탁월하다고 밝혔다. 스퀴즈비츠가 공개한 벤치마크 결과에 따르면, AI모델이 스퀴즈비츠의 경량화 솔루션을 사용하면 유사한 정확도에서 3~4배 가량 연산 속도가 빨라졌다. 그만큼 전력 소모와 운영비를 줄일 수 있다는 의미다.


신 선임은 "비트를 단순화하는 경우 정확도의 손실로 이어질 수 있지만, 스퀴즈비츠는 정확도를 유지하면서도 경량화에 성공했다"며 "업계 레퍼런스나 PoC(실증)을 통한 실제 성과 지표들로 높은 기술력을 입증했다"고 설명했다.
"빅테크부터 HW기업까지…AI 밸류체인 전반이 잠재시장"스퀴즈비츠가 공략할 수 있는 시장의 규모가 큰 것도 강점이다. 빅테크 등 AI를 개발하는 소프트웨어 기업은 물론 AI 기능을 구현하려는 하드웨어 기업까지 AI 밸류체인 전반에 솔루션을 제공할 수 있어서다.

신 선임은 "AI모델을 직접 개발하는 소프트웨어 기업에 직접 솔루션을 공급할 수 있을 뿐 아니라 스마트폰, 웨어러블, 드론, 로봇 등 개별 기기(엣지 디바이스)에 AI모델을 내장시키려는 소프트웨어 기업 및 하드웨어·반도체 기업에도 솔루션을 공급할 수 있다"고 말했다. 기기를 만드는 하드웨어 기업이 스퀴즈비츠의 솔루션을 활용하면 기기의 스펙보다 높은 성능의 AI모델을 활용할 수 있다는 설명이다.

예컨대 어떤 가상 스마트폰에서 GPT-3를 1회 구동하려면 3번의 재충전이 필요하다고 하자. 이때 스마트폰 제조사는 GPT-3 사용을 포기하거나 이에 맞춰 반도체 성능 등을 3배 강화한 스마트폰을 제조해야 한다. 그러나 스마트폰 제조사가 스퀴즈비츠의 솔루션을 사용하면 추가적인 하드웨어 보강 없이도 GPT-3를 사용할 수 있다.

신 선임은 "자율주행 모빌리티나 로봇 등 하이엔드급 기기에서는 더 성능이 좋은 AI모델을 활용할 수 있고, 상대적으로 낮은 스펙의 기기에서도 AI를 가동시킬 수 있게 되는 것"이라며 "AI를 활용하려는 다양한 기업들과 협업할 수 있을 것"이라고 말했다.
"7년간 논문 70편 이상 발표한 창업팀"스퀴즈비츠 창업맴버들에 대한 높은 신뢰도 투자 결정에 영향을 미쳤다고 밝혔다. 공동창업자인 김형준 CEO, 김태수 CTO, 안대현 기술팀장은 모두 포스텍 NPU 연구팀 출신으로, CVPR, NeurIPS, ICLR 등 머신러닝 분야 세계 최고 학회에서 7년간 꾸준히 경량화 관련 논문을 발표해왔다. 현재까지 발표한 국제 논문만 70편 이상이다.

신 선임은 "스퀴즈비츠는 김재준 서울대학교 전기·정보공학부 교수 연구실과 박은혁 포스텍 컴퓨터공학과 교수 연구실 등 두 곳과 연구를 함께하고 있다"며 "두 교수 모두 AI 경량화 분야에서 연구실적이 가장 뛰어나다고 평가받는다"고 말했다.

스퀴즈비츠가 당초 AI반도체 팹리스 기업들이 AI를 구동시키는데 필요한 소프트웨어를 개발하는 팀이었다는 점도 투자 이유로 꼽았다. 신 선임은 "높은 정확도로 경량화를 하려면 소프트웨어는 물론 하드웨어에 대한 높은 이해도가 필수"라며 "하드웨어와 소프트웨어를 둘 다 잘 한다는 것은 스타트업으로서 유니크한 역량"이라고 평가했다.

[머니투데이 스타트업 미디어 플랫폼 유니콘팩토리]