심각한 AI 인종차별… 대출도 백인이 ‘더’ 받는다

- Advertisement -

GoodyMY

페이스북의 인공지능(AI) 자동 추천 기능이 흑인을 ‘영장류 동물(Primates)’로 분류하면서 지탄받고 있다. 페이스북은 문제가 불거지자 곧장 기능을 비활성화하는 등 조치를 취했지만, 논란은 거세지고 있다.

미국 경제지 포브스는 AI의 인종차별 논란은 이번이 처음이 아니라면서 대출 심사에도 차별이 적용되고 있다는 놀라운 사실을 보도했다. 데이터 조사 기관 The Markup에 따르면, 대출기관은 유사한 재정적 특성을 나타낼 경우, 백인보다 흑인을 거부할 가능성이 더 컸다.

The mark up

조사는 1차적으로 AI를 이용해 앱, 온라인 기반으로 대출을 심사하는 모기지 대출기관을 대상으로 진행됐다. 모기지대출은 부동산에 저당권(Mortgage)을 설정하고 이를 근거로 대출 재원을 조달, 자금을 대출하는 것을 말한다.

주택 구입을 목적으로 신청한 대출 총 200만 개를 통계 분석해보니, 백인보다 흑인을 거부할 확률이 80%나 높았다. 다들 유색인종도 마찬가지였다. 신용 등급이 같은 경우에도 대출을 거부할 확률이 원주민은 70%, 아시아/태평양은 50%, 라틴계는 40%나 높았다.

The Markup은 인종을 제외하고 서류상으로 봤을 땐 조건이 거의 똑같았음을 강조했다. 소득이 높고 대출이 적은 경우에도 대출을 받는 횟수가 백인이 월등히 높았다. 부채가 적은 고소득 지원자, 부채가 많은 고소득 백인 지원자를 두고 봤을 때도 흑인이 더 자주 거절당했다.

housingwire

포브스는 “주택 대출 결정은 대출기관의 담당자가 내리지만 대부분 주정부 기관에서 위임한 소프트웨어(Classic FICO)에 의해 결정된다. 실제 주택 소유율이나 부채를 초점에 두고 알고리즘이 제작돼야 하는데 지금껏 차별적인 판단을 내려왔다”라고 비판했다.

실제로 해당 알고리즘은 1990년대 데이터를 기반으로 개발됐다. 백인이 제도, 정책에 더 유리하던 시기에 수집된 데이터라 같은 조건이라도 흑인은 대출을 거절당할 확률이 높았던 것. 국립 소비자 법률센터는 “구조적 인종차별은 이런 식으로 작용한다. 인간의 잘못된 판단이 쌓여 데이터를 구축한 결과가 나타나는 것”이라고 비난했다.

Techcrunch

포브스는 “미국 인구조사국에 따르면, 흑인 주택 소유율은 40%로 역대 최저 수준으로 떨어졌다. 만약 2009~2015년 사이에 대출 심사에서 거절된 74~130만 명이 올바른 심사를 거쳤다면 이런 결과가 나오진 않았을 거다”라고 지적했다.

공정주택연대는 “금융 서비스 공간에서 사용되는 데이터에는 인종과 상관관계가 높은 경향이 있다”라고 지적하면서 “인종과 무관한 데이터를 기반으로 한 알고리즘이 필요하다”라고 강조했다.

테크플러스 에디터 전다운

tech-plus@naver.com​

- Advertisement -

Related Stories

Enable Notifications    OK No thanks