"데이터 모을 때부터…" 업스테이지, 美 국무부서 'AI 윤리' 발표

[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.]

김성훈 업스테이지 대표가 12일 미국 워싱턴 국무부에서 열린 '한미 ICT 정책 포럼'에서 AI 윤리와 관련해 발표하고 있다. /사진=업스테이지 제공

인공지능(AI) 기술 스타트업 업스테이지의 김성훈 대표가 미국 워싱턴 국무부에서 열린 '한미 ICT 정책 포럼'에 참석해 AI 윤리 및 신뢰성에 대한 발표를 진행했다.


15일 업스테이지에 따르면 이번 포럼은 지난 12~13일 민간기업과 정부가 함께 참여하는 민·관 세션과 정부 세션으로 각각 진행됐다.

김성훈 대표는 민관 세션 중 AI 윤리와 신뢰성, 양자 과학기술 적용 등을 논의하는 ICT 신흥기술 세션에 참석했다. 그는 'AI 윤리·신뢰성 확보를 위한 국제적인 협력 방안과 업스테이지의 노력'을 주제로 발표를 진행했다.

이와 관련, 업스테이지가 주도하는 '1T 클럽'을 대표적인 사례로 소개했다. 1T 클럽은 '1조(Trillion) 토큰 클럽'의 약자로, 1억 단어 이상의 한국어 데이터에 기여하는 파트너사들로 구성된다. 데이터 제공자와 모델 제작자 모두 혜택을 볼 수 있도록 운영할 계획이다.


김 대표는 "1T 클럽은 데이터를 모으는 과정에서 양질의 데이터를 모으기 위해 콘텐츠 제공자와 수익을 공유한다. 이를 통해 AI가 만들어내는 결과물의 신뢰성과 윤리적 측면까지 강화할 수 있다"고 했다.

김 대표는 글로벌의 연구그룹과 기업 등 다양한 조직들이 거대언어모델(LLM)의 대중화에 기여하고 있지만 주로 모델 개발에만 집중하고 있다고 지적했다.

그러면서 "AI 기술 발전의 절반 이상은 데이터의 역할"이라며 "데이터 수집 단계부터 집중하면서 수익을 공유하면 데이터를 제공하는 콘텐츠 부문도 더욱 활성화될 것"이라고 전망했다.

업스테이지는 'AI 올림픽'으로 불리는 캐글(Kaggle) 대회에서 매번 금메달을 따며 업계에선 '국가대표 AI 기업'으로 불린다. 광학문자판독(OCR) 분야 최고 권위의 대회에서도 아마존·엔비디아 등 글로벌 빅테크를 제치고 1위에 오르기도 했다.

김 대표는 업스테이지가 좋은 데이터를 모으기 위해 △사람중심 △신뢰성 △공정성 △안전성 △보편성 등 5대 윤리 원칙에 기반해 데이터를 정제하고 모델을 만든다고 설명했다. 이를 통해 윤리적인 양질의 데이터를 모으는 데 앞장서고 있다고 강조했다.

그는 "이번 한미 ICT 정책 포럼은 AI 윤리와 신뢰성에 대한 국제적인 공감대를 형성하고 협력을 강화하는 중요한 기회가 될 것"이라며 "AI의 사회적 책임과 가치를 실현하기 위해 끊임없이 노력하고 다양한 파트너들과 협력하겠다"고 말했다.

[머니투데이 스타트업 미디어 플랫폼 '유니콘팩토리']