AI가 날 노린다면?4IR시대 '스마트 윤리체계'가 먼저다

#AI(인공지능)가 도로 상황을 인식해 스스로 판단으로 운전하는 자율주행차. 운행 도중 보행자가 갑자기 나타났는데 방향을 틀어 보행자를 피하면 운전자가 다치게 되는 상황이다. 자율주행차는 어떤 선택을 할까.

#지난해 미국 캘리포니아주 한 쇼핑센터에서는 보안 로봇이 16개월 된 유아를 공격하는 일이 발생했다. 아이를 밀어 바닥에 넘어뜨리고 나서도 계속 아이를 향해 돌진했다고 알려졌다. 이 로봇은 범죄를 탐지하고 제지하는 자율로봇으로 환경 변화나 소음, 지명 수배자를 인식하는 임무를 맡았다.

/그래픽=김현정 디자이너

가까운 미래에 나타날, 혹은 이미 현실로 나타나고 있는 문제들이다. 인공지능(AI), 사물인터넷(IoT), 가상현실(VR) 등 이른바 4차산업혁명이 현실화되면서 미래 사회의 ‘그늘’에 대한 우려도 가시화되고 있다.

하지만 기술의 편리성과 효율성의 뒷면에 있는 그늘에 대해서는 아직 본격적인 논의가 시작되지 않고 있다. 선진국 대비 늦은 기술적 발달이나 줄어들 일자리에 대한 걱정만 막연할 뿐, 표면화되지 않은 부작용들에 대한 심층적인 연구나 사회적인 토론은 부재하다. 시기를 놓치면 인터넷, 모바일 혁명 때 겪었던 사회적 부작용들이 4차산업혁명 시대에는 더 큰 파급력으로 다가올 지 모른다.

◇1년 전 알파고의 승리..현실화되는 4차산업혁명=구글의 AI 알파고가 이세돌 9단을 이겨 ‘AI 포비아’가 나타날 정도로 사회적 쇼크였던 게 1년 전이다. 그 이후 IBM의 AI ‘왓슨’은 의료 분야에서 맹활약 중이고 테슬라, 구글, 네이버 등의 자율주행차는 도로에서 달리고 있다. 스마트폰으로 현관문을 여닫고 전기, 가스 등을 조절하는 것은 기본이다. AI 음성비서에게 뉴스 검색, 음악·동영상 재생을 부탁하는 일도 가능하다.


자율주행차는 시험 운행에 돌입했고 AI비서나 IoT도 속속 상용화되고 있지만, 이들 서비스가 일상화됐을 때 나타날 현상에 대한 연구와 부작용에 대한 대비는 미흡하다. 특히 기기의 오류나 오작동으로 인한 안전사고나 기기를 이용하는 과정에서 이용자의 행태 등으로 예기치 않은 상황 등이 나타날 수 있다는 지적이다.

지난해 7월 출시되면서 선풍적인 인기를 끈 AR(증강현실) 게임 ‘포켓몬고’가 대표적인 사례다. 이전에도 다양한 AR 서비스가 출시됐지만 대부분 보편화 되지 못했다. ‘포켓몬고’가 대중적인 인기를 끌면서 예상하지 못한 부작용이 속출했다. 포켓몬고 게임을 하며 길을 걷다 넘어지거나 교통사고가 나는 경우가 심심찮게 발생했고 운전 중 포켓몬고를 하다 적발된 사례도 많았다. 포켓몬고를 미끼로 강도 행각을 벌인 사건도 발생했다. 지난해 미국 미주리주에서 무장강도 4명이 ‘포켓스톱’을 방문한 10대 청소년들을 상대로 강도 행각을 벌이다가 경찰에 붙잡혔다. 국내에서도 지난 2월 정식 출시 이후 크고 작은 안전사고들이 일어났고 일부 지방자치단체에서는 ‘안전주의보’를 내리기도 했다.

◇초연결사회의 ‘역설’ 범죄도 쉬워진다=한 대형 백화점에서 화재로 인한 폭발 사고가 일어났다. ‘해킹’ 테러다. 테러 단체가 해킹을 통해 건물 제어관리시스템에 접속해 설비에 과부하를 일으켜 화재가 발생했고 폭발로 이어졌다. 가상의 사건이지만 불가능한 일은 아니라는 게 전문가들의 지적이다.

4차산업혁명은 ‘기기의 지능화’ ‘초연결’로 요약할 수 있다. 기기들이 통신망을 통해 정보를 공유하고 스스로 합리적인 선택을 해 사용자들의 편의성을 높이다. 그러나 역설적으로 이로 인한 부작용은 상상을 초월할 수 있다.

IoT로 연결된 편리한 집안 환경은 범죄에 노출되면 쉽게 악용될 수 있다. 보안에 대한 충분한 준비 없이 우후죽순으로 기기들이 개발되면서 문제가 발생하기도 했다. 지난해 한 보일러업체가 출시한 IoT서비스는 초보적인 암호화도 없이 평문으로 전송해 빈축을 사기도 했다.

빅데이터를 통한 개인정보보호 측면도 마찬가지다. 최근 숙박 앱 ‘여기어때’가 해킹을 당하며 숙박정보, 개인 휴대전화 번호 등 민감한 정보가 노출됐다. 특히 피해자에게 수치심이 들 수 있는 문자를 보내며 파문이 커졌다. 해커들은 여기어때 측에 이메일을 보내 수 억원대의 비트코인을 요구한 것으로 알려졌다. 금융, 의료, 법률 등 민감한 정보가 이용되는 전문분야에서까지 빅데이터는 일상화 돼 개인정보보호에 대한 중요성은 더욱 커지고 있다.

스마트 기기에 대한 과몰입, 의존성, 중독 등의 문제도 더욱 심각해질 수 있다. 지난 2013년 개봉된 영화 그녀(Her)에서는 인공지능 OS(운영체제)와 사랑에 빠진 주인공의 얘기가 담겼다. 영화는 로맨틱했지만 현실에서는 심각한 중독 현상이다.

◇법·제도적 대응 미흡 ‘스마트 윤리체계’ 마련해야…=기술의 발달은 현실로 다가왔지만 법령 정비나 제도적인 체계는 제대로 정비돼 있지 않다. 주로 산업적인 측면에서 접근이 이뤄지다보니 4차산업혁명 시대에 맞는 윤리적인 체계 마련이 필요하다는 지적이 나오고 있다.

곽규태 순천향대학교 교수는 “AI, 스마트팩토리, IoT 등 글로벌 선진국 대비 기술적인 발달이 늦었고 산업적인 측면에서 효용을 높이는 데만 치중하다보니 나타날 수 있는 부작용에 대한 연구나 논의는 제대로 이뤄지지 않고 있다”며 “특히 기술, 산업 측면에서의 연구 뿐 아니라 사회학, 윤리, 교육 등 전반적인 분야에서 학계 등 전문가들이 심도 있게 논의하는 자리가 있어야 할 것”이라고 조언했다.