생성AI에 들어간 내 민감정보, 어디서 샜나 봤더니…

12일 오전 여의도 페어몬트 앰버서더 서울에서 진행된 파수의 ‘FDI 서밋 2023’에서 조규곤 파수 대표가 환영사를 하고 있다. / 사진제공=파수

생성형 AI(인공지능)이 개인·기업의 민감정보를 학습해 다른 이용자에게 대거 공개하는 사고가 터지는 이유 중 상당 부분은 개인·기업이 소위 'ROT 데이터', 즉 쓸모없는(Redundant), 한물간(Obsolete), 하찮은(Trivial) 것으로 여겨지는 자료를 제대로 관리하지 않은 데서 비롯된다는 분석이 나왔다.

이강만 파수 (6,480원 ▲10 +0.15%) 부사장은 12일 서울 여의도 페어몬트 앰버서더 서울 호텔에서 '생성형 AI 시대를 준비하는 데이터 관리 및 보안 전략'이라는 주제로 열린 'FDI 서밋(파수 디지털 인텔리전스 서밋) 2023' 행사에서 국내 보안·IT 담당자 1012명이 참여한 설문 조사 결과를 통해 이같이 밝혔다.


이 부사장에 따르면 기업들은 프라이빗 AI 서비스 도입에 높은 관심을 가지고 있지만 AI학습을 위한 조직 내 ROT 데이터에 대한 관리는 제대로 안하고 있는 것으로 나타났다. 응답자의 56%가 '관리 노력은 하지만 정확한 현황 파악은 되지 않고 있다'고 답한 것이다. 관리되지 않은 ROT 데이터는 '민감정보 및 개인정보 유출'(63.1%, 중복응답) '데이터 관리 및 유지비용'(48.5%) 등 문제를 야기할 것이라는 응답도 많았다.

아울러 김용길 파수 상무는 AI를 학습시킬 내부 데이터의 양과 질이 AI 활용의 성공을 결정한다고 했다. 또 생성형 AI 언어모델의 알고리즘 특성을 고려하면 최적의 학습 데이터 유형은 '일반 텍스트형'이고 대개 조직 내에서도 일반 텍스트의 90% 이상이 문서형 데이터로 존재한다고 설명했다. 이어 파수의 문서관리 플랫폼 '랩소디'로 콘텐츠를 가상화하면 내부 비정형 문서 데이터의 자산화, 버전 관리, ROT 관리 등이 가능할 것이라고 했다.

윤경구 파수 전무도 AI기술을 바탕으로 비정형 데이터 내에 있는 개인정보를 식별해 보호하는 '파수 AI-R 프라이버시', 생성형 AI로 내보내는 정보를 모니터링하고 제어하는 '파수 AI-R DLP' 등 솔루션을 소개했다. 윤 전무는 내년 초 출시될 기업용 프라이빗 LLM(거대언어모델) '파수 엔터프라이즈 LLM'도 소개했다.


조규곤 파수 대표는 "AI의 도입과 활용은 산업의 구분을 넘어 모든 기업과 기관에 가장 중요한 과제로 자리잡을 것"이라며 "이에 발빠른 내부 점검과 대응이 시급하다"고 했다.

또 "파수는 AI의 수준을 결정하는 학습 데이터의 관리 및 보안을 위한 솔루션 외에도, 내년 초에는 프라이빗 LLM도 선보이는 등, AI 활용을 위한 혁신 방안을 선제적으로 제시해 나갈 것"이라고 했다.