갈림길에 선 AI 기술…"섣부른 규제보다 합리적 윤리기준 필요"

인공지능(AI)을 활용한 20세 여대생 컨셉의 챗봇 ‘이루다’에서 불거진 혐오·성희롱 등 사회적 논란은 AI 산업생태계에 무거운 화두를 던졌다.


AI를 단순히 기술적·비즈니스 관점에서만 접근할 것이 아니라 개발 단계에서부터 ‘AI 윤리’ 원칙을 적용해 AI의 편향성을 해소하고 데이터베이스의 공정성을 확보해야 한다는 목소리가 커졌다.

하지만 국내에는 아직 확립된 AI 윤리가 없다. 사용자들이 고도화된 AI 기술을 요구할수록 혐오·성희롱 등의 문제를 해결하는 것은 더욱 어려워진다고 업계 관계자들은 지적한다.

“특정 단어·맥락 제거, 밋밋하고 재미없는 AI 개발”
AI 스타트업의 한 개발자는 15일 “AI 챗봇을 만들기 위해 각종 언어 데이터를 이용할 때 특정 단어만 제거해서는 문제를 해결할 수 없다. 단어가 아니라 대화의 앞뒤 맥락에서 오는 불편한 흐름까지 잡아내야하기 때문”이라고 했다.

그는 “이것 빼고 저것 빼면 혐오·성희롱 문제가 없어질 수 있지만 밋밋하고 재미없고 떨어지는 성능의 AI 제품이 개발돼 시장에 진입하기 어렵다”며 “비즈니스적 시각에서 보면 모든 AI가 반드시 똑똑하고 착하기는 어렵지 않나 싶다”고 말했다.


이어 “어떤 회사가 AI 알고리즘에 따라 회사 성향에 맞는 이력서를 추천받았다고 하자. 그런데 그 결과값이 대부분 남성이었다면 이것을 문제로 보고 여성 비율을 높이는 보정작업을 해야 하는 것이냐”며 “또 다른 차별이 생기는 것”이라고 설명했다.

“법과 정책적 시각에서 AI에 대한 정의 필요”

고학수 한국인공지능법학회장(서울대 로스쿨 교수) /사진=서울대 AI연구원 유튜브 캡쳐

한국인공지능법학회장인 고학수 서울대 법학전문대학원 교수는 법과 정책의 시각에서 AI를 어떻게 정의할 것인지가 AI 윤리의 시작점이 될 것으로 판단했다.

고 교수는 “이루다의 혐오 발언 문제에서 출발해 법안을 만든다고 하면 어떤 내용을 담을 수 있을까. 당연히 법이 있어야 한다고 생각할 수 있지만 그 법을 통해 달성하고자 하는 게 무엇인지 질문이 필요하다”고 했다.

그는 “사람이 하는 차별과 AI가 하는 차별은 다르다. 사람은 차별을 안 하는 것처럼 하면서도 3자가 봤을 때 차별하는 것일 수 있다. AI의 차별은 어떤 식의 알고리즘을 썼는지 알 수 있다면 파악할 수 있다”고 덧붙였다.

향후 AI가 위법을 일으켰을 때는 어렵게 생각할 것 없이 개발사를 처벌하면 된다고 지적했다. 고 교수는 “AI에 인격을 부여하는 것은 비현실적이다. 개발자와 개발사, 서비스 출시회사 등 문제가 되는 회사에 책임을 물으면 된다”고 했다.

업계·전문가들 “법률적 강제보다 민간 자율적 규제”

(인천=뉴스1) 정진욱 기자 = 25일 인천에서 열린 스타트업 파크 개소식에서 권칠승 중소벤처기업부 장관, 박남춘 인천광역시장 등 참석자들이 기념촬영을 하고 있다.(인천시제공)2021.2.25/뉴스1

AI 기반 기업들은 정부와 국회가 이루다 사태를 계기로 AI 윤리와 관련해 어떤 제도적 보완에 나설지 주목하고 있다. 사회적 부작용을 막는다는 명분으로 ‘규제’에 무게가 실려 AI 산업 발전에 제동이 걸릴 가능성을 우려하고 있다.

업계와 전문가들은 AI 윤리 문제를 법률적 강제가 아닌 자율적 규제를 통해 해결해야 한다고 지적했다. 최성진 코리아스타트업포럼 대표는 "섣부른 규제보다는 발생하는 문제를 최소화하면서 기술과 서비스를 발전시키는 정책이 필요하다"고 했다.

이성엽 한국데이터법정책학회장은 "법 문언에 치중하기 보다는 유연하고 탄력적인 법 해석이 필요하다"며 "AI기술이 우리 사회에 기여할 수 있도록 합리적인 윤리 가이드라인을 마련하는 것이 중요하다"고 말했다.