SK하이닉스, 가우스랩스와 AI기반 반도체 계측 기술 성과 발표

가우스랩스 김영한 대표(가운데)가 가우스랩스 구성원들과 함께 기념사진을 촬영하고 있다./사진제공=SK하이닉스

SK하이닉스 (191,800원 ▲1,800 +0.95%)와 SK그룹 AI(인공지능) 전문 기업'가우스랩스'가 25~29일 미국 캘리포니아주 새너제이에서 열리고 있는 국제학회 'SPIE AL 2024'에 참가해 AI 기반 반도체 계측 기술 개발 성과를 발표했다고 29일 밝혔다.

SPIE AL은 1955년 미국에서 설립된 광학, 광자학 분야 가장 권위 있는 국제 학회 '국제광전자공학회'(SPIE)가 주최하는 컨퍼런스로 반도체 회로를 그리기 위한 노광기술 전반에 대한 논의가 이뤄진다.


이번 논문 발표를 통해 가우스랩스는 AI 기반 가상 계측 솔루션 'Panoptes VM(Virtual Metrology)'의 예측 정확도를 높이는 알고리즘인 '통합 적응형 온라인 모델(Aggregated AOM)'을 소개했다. AOM은 공정 상태 변화에 따른 데이터 변화 문제를 해결하고 높은 예측 성능을 유지하도록 하는 모델링 알고리즘이다.

SK하이닉스는 2022년 12월부터 Panoptes VM을 도입해 현재까지 5000만 장 이상의 웨이퍼에 가상 계측을 진행했다. 이를 시간으로 환산하면 초당 1개 이상의 웨이퍼를 가상 계측한 것으로, 회사는 이 소프트웨어의 성능에 힘입어 공정 산포를 약 29% 개선할 수 있었다. 산포: 해당 공정에서 생산된 제품들의 품질 변동 크기로, 산포가 줄어들수록 불량 가능성이 줄어들기에 산포가 적정 수준을 넘어서지 않도록 관리해야 한다.

가우스랩스가 학회에서 새로 공개한 알고리즘은 기존 AOM을 업그레이드한 버전으로, 동일한 패턴을 공유하는 장비 등의 데이터를 통합 모델링해 데이터 부족 문제를 해결하는 동시에 예측 정확도를 높였다. 이 알고리즘을 적용하면 공정 산포 개선율이 높아진다는 것이 가우스랩스의 설명이다.


또 가우스랩스는 이번 학회에서 '범용 노이즈 제거 기술'도 소개했다. 반도체 계측 중 일부 작업은 반도체 구조 검사용 전자 현미경(CD-SEM) 이미지를 바탕으로 진행된다. 극도로 작은 나노미터 단위까지 정확하게 측정하기 위해서는 전자 현미경 이미지의 노이즈(잡티)를 제거해 해상도를 높이는 것이 중요하다. CD-SEM은 전자 광학 현미경과 적외선 광학 현미경을 결합하여 반도체 패턴의 크기, 모양 및 위치 등을 측정하는 장비다.

가우스랩스가 개발한 이 기술은 AI를 이용해 다양한 형태의 이미지에서 노이즈를 한번에 제거해 준다. 가우스랩스는 "SK하이닉스와 테스트를 진행한 결과, 이미지 획득 시간이 기존 기술의 1/4까지 단축되는 것을 확인했다"며 "앞으로 이 기술이 반도체 계측 장비의 생산성을 42% 개선할 것"이라고 내다봤다.

김영한 가우스랩스 대표는 "당사는 산업용 AI 소프트웨어가 반도체 제조 현장에서 효과적으로 사용될 수 있도록 하는 연구개발에 힘쓰고 있다"며 "앞으로도 AI 기반의 다양한 솔루션 제품을 지속 출시해 제조 현장 인공지능화를 선도할 것"이라고 말했다.

SK하이닉스는 "반도체 수율과 생산성을 높이기 위해 그동안 가우스랩스와 다양한 영역에서 협업을 진행해 왔고, 이번에 권위 있는 국제학회에서 양사의 개발 성과가 담긴 논문 2편을 발표하게 됐다"며 "앞으로도 가우스랩스와 지속 협력해 기술 우위를 확보하기 위해 노력하겠다"고 설명했다.