챗GPT 쓰다가 기밀 줄줄 샐라…'AI 보안' 걱정 틀어막는 이 회사

[이 기사에 나온 스타트업에 대한 보다 다양한 기업정보는 유니콘팩토리 빅데이터 플랫폼 '데이터랩'에서 볼 수 있습니다.]

[보스턴(미 매사추세츠주)=AP/뉴시스]023년 12월8일 보스턴의 한 휴대폰에 챗GPT가 생성한 컴퓨터 화면 이미지에 표시된 오픈AI의 로고가 보이고 있다. 유럽연합(EU) 의원들이 13일 EU 27개국의 인공지능(AI)법을 최종 승인했다. 이 법은 올해 말 발효될 예정이다. 2024.03.13. /사진=유세진

"우리 회사의 올해 영업 전략을 만들려면 어떤 자료가 필요하지?" (이용자)

"주요 데이터는 다음과 같습니다. 과거 실적, 강점과 약점, 재무 데이터..." (생성형AI)

오픈AI의 챗GPT, 구글의 제미나이와 같은 생성형 AI(인공지능)와 주고 받을 법한 대화다. 이처럼 챗GPT 등 거대언어모델(LLM)에 프롬프트(명령문)를 넣을 때 개인정보나 기업의 민감한 데이터를 무심코 입력하기 쉽다. 지난해 5월 삼성전자 (78,300원 ▼100 -0.13%)는 회사 내부 기기에서 생성형 AI 사용을 금지했다. 한 엔지니어가 소스코드를 챗GPT에 업로드해 유출된 사례가 있어서다.


보안분야 글로벌단체인 OWASP(오픈웹 애플리케이션 보안 프로젝트)는 프롬프트 입력 단계에서 기밀정보 유출 우려가 있고 답변의 편향성, 유해성 등 우려가 있다고 지적했다. 이런 가운데 기업에 생성형 AI 보안솔루션을 제공하는 스타트업이 등장했다. '세이프엑스'를 개발한 이로운앤컴퍼니다.
대화형 AI, 민감정보 입력해도 괜찮을까

윤두식 이로운앤컴퍼니 대표/사진= 산업방송 제공

지난달 서울 마포구의 창업공간 디캠프 프론트원에서 만난 윤두식 이로운앤컴퍼니 대표는 국내 대표적 보안 소프트웨어 전문가다. 그는 지란지교소프트 비상장에 1999년 입사했으며 여기서 분사한 지란지교시큐리티 (4,315원 ▼35 -0.80%)의 CEO(최고경영자)를 10년간 맡았다. 지란지교시큐리티의 코스닥 상장도 이끌었다.

"한 직장서 25년 일했다"는 그가 올해 이로운앤컴퍼니를 창업한 건 AI 보안 시장의 가능성을 봤기 때문이다. 윤 대표는 "미국 전체 기업의 60%가 생성형AI 서비스를 업무에 이미 쓰고 있다"며 "우리는 늦은 편이지만 언젠가 기업이 AI를 안 쓸 수 없게 될 것이고 정보보안 문제도 발생할 것"이라고 내다봤다.

기업에 세이프엑스를 설치한 다음 외부의 생성형AI를 사용하면 민감한 정보를 필터링해주므로 그 내용이 여과없이 AI로 흘러들어가는 것을 막는다. 결과를 사용자에게 보여줄 때는 처음 입력한 정보를 반영, 사용자에게 맞는 답으로 바꿔준다. 이렇게 하면 사용자는 편리하게 생성형AI를 이용하고 AI에겐 필터링한 정보를 제공하므로 보안 우려를 줄일 수 있다. 세이프엑스(SAIFE X)라는 명칭은 세이프(safe)의 에이(a)를 에이아이(AI)로 바꿔 붙였다. 안전한 AI 사용을 돕는다는 뜻이다.


윤 대표는 "기업들은 생산성을 급격히 올릴 수 있는 챗GPT를 활용하려는 니즈가 있을 것"이라며 "개인정보가 생성형 AI로 들어가면 이 정보는 그 서비스를 이용하는 다른 쪽에도 흘러갈 수 있다"고 말했다. 이어 "챗GPT와 같은 LLM을 쓸 때 안전장치, 일종의 데이터 방화벽으로 세이프엑스를 두자는 것"이라고 말했다.

이로운앤컴퍼니 개요/그래픽=윤선정

25년 보안전문가의 창업…부부가 함께 이로운앤컴퍼니는 올해 1월1일 설립됐지만 윤 대표의 경력에 기술력이 가미되면서 주목 받고 있다. 윤 대표 자신이 보안 프로그램 전문가다. 그가 지란지교에 있을 때 스팸메일을 걸러주는 솔루션 '스팸스나이퍼'를 개발했다. 그는 "스팸스나이퍼는 지금도 국내에 4000개, 일본 1만개 기업이 사용중"이라고 말했다.

윤 대표는 "AI 보안 분야는 우리나라도 아주 늦은 건 아니라 패스트 팔로워가 충분히 될 수 있다"며 정책과 자본투자가 필요하다고 강조했다. 그는 "엔비디아 A100같은 GPU 하나가 3000만원 정도인데 빅테크 기업들은 그런 하드웨어를 몇 만 장씩 들여놓고 AI 학습을 시킨다고 한다"며 "우리나라는 그렇게 할 수 있는 곳이 극소수이므로 중소 업체들도 하드웨어를 사용할 수 있도록 지원이 필요하다"고 말했다.

윤두식 이로운앤컴퍼니 대표(왼쪽)가 김홍일 케이유니콘인베스트먼트 대표와 대화하고 있다./사진=산업방송 제공

정부는 지난해 9월, 2027년까지 1300억원 규모의 사이버보안펀드를 조성할 방침을 밝혔다. 2030년까지 크게는 3조원 규모의 AI 보안 시장을 키운다는 계획이다.

윤 대표는 지란지교 시절 회사에서 만나 결혼한 배우자와 창업을 함께했다. 부인은 이로운앤컴퍼니라는 회사명을 제안하고 최고고객책임자(CCO)를 맡는 등 AI 보안 시장 개척에 힘을 보태고 있다. 윤 대표는 고등학생인 쌍둥이 딸들에 대해 "실패하더라도 창업을 해보라고 권하고 싶다"며 "스스로 시장 요구를 파악하고 창업해보는 경험이 (인생에) 도움이 될 것"이라고 말했다.
김홍일 대표(Q)와 윤두식 대표(A) 일문일답

윤두식 이로운앤컴퍼니 대표/사진= 산업방송 제공

Q. 상장사 CEO까지 지내고 창업했다. 계기가 있다면.
A. 40대부터 창업을 생각했다. 특히 생성형AI가 비즈니스를 바꿀 때가 되면 우리가 보안 측면에서 할 일이 있을 거라고 봤다.

Q. 이로운앤컴퍼니라는 회사 이름은 어떤 뜻인가.
A. 고객을 이롭게 하겠다는 모토다. 기업이 안전하게 생성형AI를 사용할 수 있게 보안을 제공하려고 한다. 그런데 너무 앞서가면 상품이 팔리지 않을 것이다. 반 발자국 앞서서 고객이 원하는 니즈를 들어줄 수 있는 반 발자국 혁신을 지향한다.

Q. 생성형 AI의 보안 리스크는 평소 잘 인지하지 못했다.
A. 개인정보 문제에 그치지 않는다. 예를 들어 AI에 환각(할루시네이션·근거없는 거짓말을 답하는 현상)을 일으키면 사용자 정보가 툭 튀어나오곤 한다. 그러다 '마약 제조법을 알려줘' 하면 답이 나올 수도 있다. 그런 데이터가 나오면 안 되지 않겠나. 세이프엑스는 그런 경우가 없게끔 필터링할 수 있다.

Q. 이런 혁신적 제품이 나왔을 때 공공기관들이 좀더 나서서 믿고 써주면 좋을 것이다.
A. 앞으로 내놓는 서비스가 조금은 부족하더라도 기업들이 써보면서 향후의 보안 위협을 미리 대비하면 좋겠다. 글로벌하게는 관련 스타트업들이 있지만 국내에 생성형 AI 특화 보안회사는 우리 밖에 없는 것으로 안다.

Q. 창업을 고민하는 청년에게 조언한다면.
A. 지금 대학생들의 창업환경은 예전보다 좋아졌다. 그들에게 하고싶으면 빨리 하라고 말한다. 제대로 된 길인지 밟아보지 않으면 모르지 않나. '준비가 돼야 창업한다'면 그런 준비는 거의 되지 않을 것같다.

Q. 자녀에게도 창업을 권할 생각인가.
A. '실패하더라도 창업해보라'고 하고싶다. 딸들이 아직 학생이지만 나중에 같이 창업하자고 제안했다. 스스로 시장 요구를 파악해보고 어렸을 때 창업해 보면 나중에 취직을 하더라도 동료가 뭘 원하는지 잘 파악할 수 있지 않을까.

[머니투데이 스타트업 미디어 플랫폼 '유니콘팩토리']