남녀에 한도 차별 부여한 '애플카드'…당국 알고리즘 조사 착수

애플카드 <자료사진> © AFP=뉴스1

(서울=뉴스1) 박혜연 기자 = 올 초 애플과 투자은행 골드만삭스가 출시한 신용카드 애플카드가 성별에 따라 신용한도를 차별 적용하고 있다는 논란이 제기됐다. 이에 규제당국은 골드만삭스의 신용카드 발급 알고리즘에 대한 조사를 시작했다.

10일(현지시간) 블룸버그통신에 따르면 덴마크 프로그래머이자 기업가인 데이비드 하이네마이어 한손은 지난 9일 트위터에 "내가 받은 애플카드는 내 아내가 받은 것보다 20배는 더 많은 신용한도를 제공한다"고 주장했다. 그는 지금까지 아내와 공동으로 세금 신고서를 냈고 심지어 아내가 자신보다 신용 점수가 더 좋다고 밝혔다.


애플 공동 창립자인 스티브 워즈니악도 같은 주장을 제기했다. 워즈니악은 아내와 은행계좌와 다른 신용카드를 공유하고 있고, 다른 은행들도 자신과 아내에게 똑같은 신용을 제공하고 있는데도 불구하고 자신의 애플카드가 아내 것보다 10배나 더 많은 신용한도를 제공한다고 전했다.

이에 대해 골드만삭스 대변인은 "애플카드는 개인 계좌만 제공하고 있고 같은 가족 구성원이더라도 서로 다른 신용평가를 받을 수 있다"며 "우리는 성별을 기준으로 이같은 결정을 내리지 않았고 앞으로도 하지 않을 것"이라고 밝혔다.

애플카드의 신용한도 부여 결정 책임은 골드만삭스가 지고 있지만 신용한도를 직원이 결정하지 않고 대출 신청 알고리즘이 자동으로 결정하고 있는 것으로 알려졌다. 은행들은 이런 알고리즘이 사람의 실수를 방지하고 데이터에만 집중해 공평한 경쟁을 만든다고 홍보해왔지만 알고리즘 자체에서 '편향성'이 드러난 것이다.


건강관리 대기업 유나이티드헬스그룹도 최근 흑인 환자보다 백인 환자에게 더 유리한 알고리즘을 썼다는 이유로 규제당국의 조사를 받은 적이 있다.

워즈니악은 "알고리즘은 명백히 결함이 있다"며 "이 회사들이 이런 결정을 어떻게 내리고 운영하는지 우리는 전혀 알 수가 없다"고 비판했다.

한손도 "이것이 홍보 이슈가 되자 (골드만삭스는) 추가 서류 제출을 요구하지도 않고 아내의 신용한도를 즉시 상향 조정했다"며 "차별을 원하는 어떤 나쁜 사람이 있다고는 생각하지 않지만 그건 중요하지 않다. 아무도 이 결정이 어떻게 이뤄졌는지 설명할 수 없는 상황에서 어떻게 이 머신러닝(기계학습) 알고리즘이 문제가 없다고 할 수 있나?"고 반문했다.

린다 레이스웰 뉴욕 주정부 금융서비스부 대변인은 "부서에서 이 알고리즘이 뉴욕주법을 위반했는지 조사를 진행할 것"이라며 "새로운 기술은 특정 소비자를 소외시키거나 차별을 가해서는 안 된다"고 밝혔다. 그는 "그 어떤 알고리즘도 여성이나 보호받아야 할 다른 계층 사람들을 차별적으로 대우할 경우 그것을 의도했든 그렇지 않았든 주법을 위반한다"고 강조했다.

<저작권자 © 뉴스1코리아, 무단전재 및 재배포 금지>