AI 윤리 기준 마련했다지만…소비자는 AI 이용에 불만

많은 기업이 개인정보보호를 위해 인공지능(AI) 기반 솔루션 및 서비스를 책임있고 윤리적으로 운영하도록 노력했지만 소비자들을 만족시키기 위해선 더 노력해야 한다는 설문 결과가 나왔다.

시스코시스템즈가 개인정보보호 전략에 대한 전문가들의 견해를 조사해 8일 발표한 '2023 개인정보보호 벤치마크 보고서'에 따르면 개인정보보호에 대한 조직별 평균 투자액은 2019년 120만 달러(한화 약 14억6000만원)에서 2022년 270만 달러(한화 약 33억원)로 증가했다.


설문에 응한 기업 중 96%에 달하는 대부분의 조직이 AI 기반 솔루션 및 서비스에 대해 고객이 기대하는 책임감있고 윤리적인 기준을 충족하기 위한 절차를 마련했다고 답했다.

또 설문에 응한 기업 70% 이상은 고객과의 신뢰 구축, 판매 지연 감소, 데이터 침해로 인한 손실 완화 등 개인정보보호에 대한 투자를 통해 '상당한' 또는 '매우 상당한' 효과를 얻고 있다고 응답했다.

보고서에 따르면 평균적으로 기업은 투자 대비 1.8배의 이익을 얻는 것으로 추정되며 전체 응답자의 94%는 개인정보보호로 얻는 혜택이 전체 비용보다 크다고 생각한다고 응답했다.


이밖에도 개인정보보호가 비즈니스에서 우선적으로 고려돼야 하는 주요 요소로 부상하며 기업의 모든 구성원이 데이터를 보호하는데 중요한 역할을 한다는 인식도 확대되고 있는 것으로 나타났다.

이번 보고서에서 응답자의 95%는 모든 직원이 데이터 개인정보보호 방법을 알아야 한다고 응답한 것으로 나타났다. 또 전체 응답자 중 79%가 개인정보보호법이 긍정적인 영향을 미쳤다고 답했다.

하지만 이번 설문에서 응답자의 92%는 고객이 개인정보보호에 대해 안심하기 위해서는 소속 조직이 더 큰 노력을 기울여야 한다고 응답했다.

앞서 시스코가 발표한 '2022 소비자 개인정보 연구 결과'에 따르면 소비자의 60%가 오늘날 기업의 AI 적용 및 사용방법에 우려를 표했고 65%는 이미 AI가 활용된 사례를 보며 조직에 대한 신뢰를 잃었다고 답했다.

당시 소비자들은 AI 기반 솔루션을 사용하지 않을 수 있는 선택지가 있는 것이 안심할 수 있는 최선의 방법이라고 응답했지만 이날 보고서에 따르면 소비자들이 AI 기반 솔루션을 사용하지 않을 수 있도록 했다는 응답자는 22%에 불과했다.

데브 스타코프(Dev Stahlkopf) 시스코 부사장 겸 최고 법률책임자(CLO)는 "법률을 준수하는 것보다 기업이 개인정보보호를 위해 어떤 접근 방식을 선택하는지가 더 큰 영향을 미친다"며 "개인정보보호에 대한 투자는 비즈니스 가치를 주도한다"고 말했다.