게임사가 AI 윤리 기술을?…엔씨소프트 이색 행보

엔씨소프트

AI(인공지능) 연구조직을 개편한 엔씨소프트 (171,200원 ▼1,300 -0.75%)가 단순히 AI 기술을 게임에 접목하는 데 그치는 게 아니라 AI 윤리 관련 기술까지 개발하는 모습이다. AI 기술로 게임을 제작하는 것을 넘어 B2B(기업간거래) 사업까지 확대하려는 만큼 위험성을 사전에 줄이자는 취지다.

25일 엔씨소프트의 2023년 사업보고서에 따르면 이 회사는 AI 윤리 기술을 별도의 주제로 잡고 R&D(연구개발)를 진행 중이다. 엔씨소프트의 AI 윤리 기술은 크게 △스팸 필터링 기술 △개인정보 비식별화 기술 △국가 간 비하 표현 방지 기술 △비윤리·혐오 발화 인식 기술 △윤리적 대화 제어 기술 △AI 윤리 솔루션 서비스 등 6가지다.


스팸 필터링 기술은 한국어나 영어, 중국어 등 13개 언어에 대해 게임 채팅 시 끊임없이 발생하는 다양한 패턴의 광고를 식별해 차단하는 기술이다. 외국인 유저가 많은 TL(쓰론앤리버티), 리니지W, 아이온, 리니지 2M 등 게임에 적용 중이다. 개인정보 비식별화 기술은 AI 엔진에 공개 채팅 등이 입력될 때 개인정보가 포함되지 않도록 문장 내 개인정보를 식별하고 가명화 또는 삭제하는 기술이다.

국가 간 비하 표현 방지 기술은 AI 번역 엔진에서 소스 언어에서 타깃 언어로 번역할 때 국가 간 분쟁 요소를 식별하고 번역 시 중립적인 표현이 되도록 제어하는 기술이다. 비윤리·혐오 발화 인식 기술은 챗봇과 대화형 에이전트의 대화 엔진을 개발할 때 또는 채팅 번역 등에서 비윤리적인 표현이나 혐오 표현을 인식하고 적절히 대응하는 기술을 가리킨다.

윤리적 대화 제어 기술은 AI와 사람이 대화할 때 AI가 비윤리적 표현을 학습하지 못하게 하거나 생성할 수 없도록 제어하는 기술이다. AI 윤리 솔루션 서비스는 금칙어 등을 포함한 텍스트 관련 AI 윤리 관련 이슈를 쉽게 모니터링하며 관리할 수 있는 솔루션이다. 채팅 및 텍스트 생성이 필요한 다양한 도메인에 적용할 수 있다.


국내 게임사 AI 개발 분야 선두 주자로 꼽히는 엔씨소프트는 2021년 ESG(환경·사회·지배구조) 리포트를 통해 AI 윤리 원칙이자 가이드라인인 'NC AI 윤리 프레임워크'를 공개했다. 이후 엔씨소프트는 △데이터 보호 △비편향성 △투명성 등을 세 가지 핵심 가치로 선정해 전사 AI 개발과 운영 전반에 반영해오고 있다.

아울러 윤송이 엔씨웨스트홀딩스 대표와 세계적 석학이 나눈 대담 시리즈인 'AI 프레임워크' 콘텐츠를 도서로 출간하고 생성형 AI 시대 속 인간 공존을 탐구하는 'Be Human(비 휴먼)' 시리즈를 제작했다. 또 NC 문화재단을 통해 2020년부터 MIT(매사추세츠공과대학)와 스탠퍼드대학교 등에서 AI 윤리 커리큘럼 개발을 후원하고 있다.

엔씨소프트는 2011년 출범한 AI 연구조직을 최근 김택진 대표 직속 리서치본부로 재편했다. AI 센터와 NLP(자연어처리) 센터로 양분돼있던 조직을 통합했다. 이 조직은 현재 AI 기술을 게임 개발에 적극적으로 활용할 수 있도록 개발 중이다. 엔씨소프트는 AI를 게임 개발에 활용해 신작 공개 시기를 앞당겨 실적 개선을 서두르겠다는 입장이다.

엔씨소프트 관계자는 "바르코 스튜디오 등 기존 B2B용으로 개발 중이던 것들도 계속 개발해 나가겠지만 일단 게임 개발에 바로 적용할 수 있는 AI를 개발해야 한다는 목소리가 있었다"며 "결국 실적 개선의 키(열쇠)는 신작이 가지고 있는 만큼 AI를 안전하게 적극적으로 활용해서 개발을 서두를 예정"이라고 말했다.