IBM은 왜 얼굴 인식 기술을 포기하나

- Advertisement -

IBM이 ‘얼굴 인식 기술’ 시장에서 빠지기로 했다. 얼굴 인식 기술과 관련된 연구개발( R&D), 기술 공급을 포기하겠다고 선언했다. 인종 차별과 자유 침해 등 얼굴 인식 기술이 야기하는 문제를 받아들일 수 없다는 게 명분이다. 코로나 바이러스 감염증-19(코로나 19) 확산으로 비대면 기술 중 하나인 얼굴 인식 기술 주가가 높아지는 가운데 나온 발표라 이목이 집중된다.

아빈드 크리슈나 IBM 최고경영자(CEO)는 “IBM은 다른 회사의 얼굴 인식 기술을 포함, 대규모 감시, 인종 프로파일링, 기본 인권과 자유 침해 등 우리 회사 가치와 원칙에 맞지 않는 목적은 사용되는 기술에 강력하게 반대하며 허용하지 않을 것”이라고 밝혔다.

이와 함께 얼굴 인식 기술과 관련한 소프트웨어(SW) 개발과 연구, 공급 모두를 중단하겠다고 밝혔다. 얼굴 인식 기술이 대량 감시와 인종 차별에 활용될 수 있다는 것에 대한 부정적 인식을 명확히 했다. IBM은 이 같은 내용을 담은 서한을 미 의회에도 제출한 것으로 전해진다. IBM이 얼굴 인식 SW 시장에서 철수하겠다는 의지를 읽을 수 있는 대목이다.

아빈드 크리슈나 IBM CEO는 또 “우리는 미 사법기관이 얼굴 인식 기술을 어떻게 사용하는지에 대한 국가적 대화를 시작할 때가 됐다고 생각한다”며 사회적 의제 설정을 제안했다. 얼굴 인식 기술과 대량 감시, 인종 차별 간의 상관관계를 국가 차원의 사회 담론화 시키겠다는 의지로 보인다.

IBM이 포기한다고 선언한 얼굴 인식 기술은 인공지능(AI) 기술과 맞물려 기업 차원을 넘어 실생활에도 적극 침투하고 있다. 세계 얼굴 인식 기술 관련 시장은 2016년 23억5000만달러(약 2조8000억원)에서 2021년 64억9000만달러(약 7조7500억원)으로 성장할 것으로 전망된다. 연평균 22.5%의 성장률이다.

높은 성장 잠재력을 보고 많은 정보기술(IT) 기업들이 연구개발(R&D)에 적극 투자하고 있다. 관련 서비스의 상용화도 잇따른다. 특히 코로나 19로 인해 비대면 문화가 확산되고 있는 중에 개인 식별 방법으로 부상하고 있다. 스마트폰 보안 기술로도 활용되는 등 고도성장에 있는 얼굴 인식 기술을 왜 IBM은 포기한다고 한 것일까.

얼굴 인식 기술…인종 차별과 집단 감시 불명예

IBM은 우선 시기적으로 명분은 확실하게 확보했다. 미국에서 백인 경찰의 가혹한 진압으로 흑인이 사망하는 사건이 일어났다. 대표적인 인종 차별 행위로 미국을 넘어 세계적으로 해당 사건에 대한 규탄 시위가 번지고 있다. IBM은 얼굴 인식 기술이 이러한 인종 차별을 재생산하는 도구로 지목하고, 시장에서 철수함으로써 인간의 기본 가치를 기업 가치로 치환하는 시도를 하는 셈이다. 기업 브랜드 이미지 향상에는 적절한 처사로 보인다.

얼굴 인식은 인종 차별과 대규모 감시 논란이 항상 뒤따랐던 기술이다. 수많은 얼굴 인식 기술 개발 기업이 이 논란에 휩싸였다. 얼굴 인식 기술이 인종 차별이나 혐오를 확대 재생산할 수 있다는 우려는 2018년 MIT 미디어랩의 조이 부올람위니와 팀닛 게브루 연구에 의해 본격화했다.

연구 결과, 마이크로소프트(MS), IBM, 중국의 메그비 페이스++ 등 얼굴 인식 기술은 피부 빛이 검을수록 인식 오류가 증가하는 것으로 나타났다. 피부색이 검은 여성 경우 오류율은 35%에나 달했다. 얼굴 인식 기술이 백인, 그리고 남성 중심의 알고리즘 방식으로 짜였다는 것을 방증한다. 얼굴 인식 기술과 AI 기술 개발에 참여하는 개발자가 대부분 남성이라는 점도 이러한 차별에 한몫하는 것으로 풀이된다.

미국 국립표준기술연구소(NIST)도 얼굴 인식 기술의 대상이 백인이 아닐 경우 안정도가 상당히 떨어진다는 연구 결과를 발표했다. 아시아인과 아프리카계 사람들은 오탐율이 백인보다 100배 높은 것으로 나타났다. NIST의 전문가 패트릭 그로더는 “얼굴 인식 오탐은 기술을 사용하는 데 있어 불편함의 일종이라고 주장하는 사례도 있다. 얼굴 인식이 잘 안돼서 휴대전화 잠금 화면이 안 풀리는 것뿐이라면 그 말이 맞다”면서도 “하지만 결백한 사람을 엉뚱하게 잡아둘 수도 있고, 심각한 사생활 침해와 인권 침해가 발생할 수도 있다”면서 그 위험성을 강조했다.

실제 미국의 시민단체 ‘미국시민자유연맹(ACLU)’이 2018년 아마존의 얼굴 인식 시스템 ‘레코그니션(Rekognition)’ 애플리케이션프로그래밍인터페이스(API)을 통해 미국 의원 535명과 범죄자 2만5000명의 얼굴을 함께 인식해 식별한 결과, 28명의 국회 의원 얼굴이 범죄자 얼굴과 일치한 것으로 나타났다. 28명 국회의원 중 누군가가 얼굴 인식 시스템으로 인해 체포될 가능성도 배제할 수 없다는 것이다.

얼굴 인식 기술 논란에도 끊임없이 도전하는 IT 기업들

얼굴 인식 기술의 위험성에도 불구하고 IT 기업은 해당 기술 개발에 혈안이다. 시장의 성장 가능성이 무궁무진하기 때문이다. 이 때문에 일부 IT 기업은 무리한 기술 개발에 뛰어들고 그 과정에서 문제를 일으키기도 했다. 페이스북은 2015년 미국 일리노이 주민 3명으로부터 소송을 당했다. 페이스북 얼굴 자동 인식 기술이 주 개인 생체정보 보호법을 위반했다는 것이다. 사진 속 이용자 얼굴을 자동으로 인식, 태그를 제안하는 기능을 대부분 국가에서 기본 설정으로 도입한 것이 패착이 됐다.

2018년 사건은 집단 소송으로 번졌다. 약 5년간 이어진 긴 법정 공방은 올해 초 페이스북이 피해자들에게 합의금으로 총 5억5000만달러(약 6500억원)를 지급하기로 하면서 일단락했다. 페이스북은 지난해 9월 얼굴 자동 인식 기능을 기본 설정에서 뺐다.

IBM 역시 얼굴 인식 기술 개발 과정에서 잡음이 있었다. AI를 통해 얼굴 인식 시스템 고도화에 나서던 중 사진 공유 사이트 플리커의 이미지를 사용해 저작권 위반 논란에 휩싸인 것이다. 해당 이미지들은 창작자가 일정한 조건하에 저작물을 자유롭게 이용할 수 있도록 한 CC 라이선스를 가졌다. 어떻게 보면 AI 교육에 사용해도 문제가 없어 보인다. 그러나 일부 창작자들이 “IBM이 아무 말 없이 AI 교육에 사진을 사용할 수 있다는 것은 조금 납득이 가지 않는다”라고 주장하면서 논쟁이 일어나기도 했다.

얼굴 인식 기술의 상용화 과정에서도 논란은 끊이질 않았다. 실제 얼굴 인식 기술을 공공 분야에 적용하려는 시도가 있었는데, 시민 사회에서의 반발이 극심했다. 미국 올랜도 시 경찰 당국은 2018년부터 아마존 레코그니션을 도입해 시범 운영했다.

해당 시스템은 특정 인물의 사진을 데이터베이스(DB)화하고, 감시 카메라 등 촬영된 영상과 매칭해 특정 인물이 인식되면 자동으로 경찰에 위치 등 정보를 전달하는 방식으로 작동했다. 이러한 사실이 ACLU에 의해 드러났다. ACLU는 인권 침해, 불법 감시, 특정 인종 차별 문제 등에 악용될 수 있다며 시스템과 서비스를 중단할 것을 요구했다. 결국 올랜드 경찰 당국은 얼굴 인식 시스템을 더 이상 사용하지 않겠다고 한발 물러났다. 여론의 반발이 심했지만, 카메라 해상도와 네트워크 속도 등 시스템 하드웨어 성능에 만족하지 못했다는 이야기도 있다.

IBM, 시장 빠지면서 사회 어젠다화

IBM 역시 얼굴 인식 기술이 불법 감시와 인종 차별 조장에 활용될 수 있다는 것을 인지했다. 2018년 MIT 미디어랩 조사 결과 이후, IBM은 얼굴 인식 기술의 인종 차별 등 부작용을 해결하기 위한 연구에 돌입했다. 얼굴 인식 기술의 기반이 되는 이미지에 세계 최대 규모 주석 데이터 세트를 추가해 알고리즘을 개선하고자 했다. 이미 인종 차별 등 부작용을 인지했기 때문에 이를 토대로 인식 알고리즘을 개선할 수 있다는 게 IBM 측 논리였다. 또 IBM의 Watson Visual Recognition도 함께 고도화하기로 했다.

이런 개선 작업을 시작한 지 2년 만에 IBM이 전격적으로 얼굴 인식 기술 포기 선언을 했다. 하지만 이러한 행보에는 ‘물음표’가 남는다. IBM 주장대로 얼굴 인식 기술로 야기되는 문제가 기업 가치를 훼손시킬 수 있기 때문일까. 시대정신에 부응하기 위해 IBM이 옳은 결정을 한 것일 수 있지만, 일각에서는 다른 평가도 나온다.

우선 얼굴 인식 기술 자체가 현재로는 인종 차별과 대규모 감시 등 반인간적 활용에서 벗어나지 못한다는 걸 IBM이 인식했다는 분석이다. 2년 동안 얼굴 인식 알고리즘에서 발생하는 인종 차별 등의 문제를 해결하려고 했지만, 기술적이든 시간적이든 한계에 직면했을 수 있다. 또 대규모 감시 경우 얼굴 인식 기술을 활용하는 주목적 중 하나기 때문에 결국 사회적 비난에서 피할 수 없다.

또 IBM이 얼굴 인식 시장에서 두각을 나타내지 못했다는 것도 시장 철수에 한몫했다는 이야기도 있다. 미국뿐만 아니라 중국, 독일, 일본 등에서 우후죽순 얼굴 인식 기술 개발에 참여하고 있다. 치열한 경쟁 시장에서 IBM이 경쟁 우위를 점할 수 있는 차별화 전략을 수립하지 못했다는 평가다. 즉 IBM에게는 결국 매력적인 시장이 아니었던 것이다.

IBM은 이 시장을 철수함과 동시에 얼굴 인식 기술에 대한 사회적 어젠다를 설정하고자 했다. 즉 인종 차별과 혐오 등을 조장할 수 있는 얼굴 인식 기술에 대해 당국의 개입이 필요하지 않느냐는 것이다. IBM은 시장의 윤리성 자체에 대해 의문을 던지면서 빠졌기 때문에, 시장에 대한 견제와 동시에 기업 이미지 제고라는 두 마리 토끼를 잡을 수 있게 됐다.

IBM의 진짜 의도를 당장 파악하긴 어려울 것이다. 하지만 IBM과 같은 AI 분야 공룡기업이 해당 시장에서 철수한 것 자체만으로 판이 흔들릴 수 있다. 향후 얼굴 인식 기술에 대한 사회적 반감이 지속적으로 확대될 것으로 전망되는 가운데, IT 기업들은 어떤 선택을 하게 될까.

테크플러스 에디터 권동준

tech-plus@naver.com

- Advertisement -

댓글

Please enter your comment!
Please enter your name here

Related Stories