인간의 감정 읽는 AI를 둘러싼 논쟁

- Advertisement -

인공지능(AI)의 발전이 무섭다. 인공지능을 탑재한 로봇이 인간과 함께한다는 터무니 없는 영화 속 설정들도 언젠가는 가능한 일이겠거니 여기게 됐다.

예전이라면 하지 않았을 고민도 늘었다. 인공지능을 둘러싼 고민들이다.

발전된 형태의 인공지능을 탑재한 로봇은 인간들을 위협하고 결국 의도치 않게 인류를 파괴할 수 있다는 주장을 하는 사람도 있는 반면 지금은 인공지능 발전 초기에 불과하기 때문에 벌써부터 걱정할 필요가 없다는 사람도 있다.

인공지능을 기반으로 하는 자율주행차가 도로 위에서 내리는 판단도 도마 위에 올라있다. 보행자가 차도로 뛰어들면 운전자에게 위험한 상황이 닥치더라도 급하게 핸들을 꺾어야 하는지, 아니면 무시하고 진행하던 방향 그대로 달려야 하는지 아직 결론이 나지 않았다.

(출처:Protocol)

그리고 최근에 논의되는 건 인공지능이 인간의 감정을 읽어도 되는지에 대한 것이다.

인공지능 소프트웨어가 인간의 감정을 읽어내는 기술 자체는 신박하다. 인간의 감정을 읽는 인공지능은 코로나19 대유행이라는 특수한 상황을 만나 더 광범위하게 활용되기 시작했다. 이전보다 화상회의 사용이 늘면서 인공지능 기술이 주목받았기 때문이다.

하지만 인공지능에게 인간의 감정을 감지하는 일을 맡기는 것이 옳은지에 대해서는 의견이 엇갈린다.

먼저 찬성하는 쪽에서는 인공지능을 통해 감정을 읽게 되면 상당히 유용하다고 주장한다. 교사나 간병인, 판매원과 같은 다양한 분야에서 업무를 잘 수행하는 데 도움이 된다고 한다.

기업에서도 일찍이 감정 인지 인공지능을 개발해오고 있다. 인도 소프트웨어 기업 유니폴(Uniphore)이나 인공지능 기업 시빌(Sybill)에서는 인간의 감정을 이해하고 이에 대응하도록 돕는 인공지능을 개발 중이다. 화상회의 서비스 줌(Zoom)에서도 자사 시스템에 이러한 기술을 적용할 계획이다.

인텔에서는 교사가 온라인에서 학생들을 지도할 때 어려움을 해소하기 위한 솔루션을 준비 중이다. 온라인 수업에서는 학생들이 수업 내용을 제대로 이해했는지 확인이 어려운 것과 같이 충분한 의사소통이 이뤄지기 어려운 환경이다. 이를 극복하기 위해 인텔은 클래스룸 테크놀로지스와 감정을 감지하는 인공지능 교육 도구 개발을 위해 협력했다. 인텔에 따르면 자신들의 시스템은 학생들의 표정이나 교육 콘텐츠와 상호 작용하는 방식을 평가한다. 학생들이 지루해하거나 산만하거나 혼란스러워하는지 여부도 감지할 수 있다고 주장했다.

반면 감정 인공지능에 반대하는 쪽에서는 기술이 가져올 폐해를 지적했다. 파이트 포 퓨처(Fight for the Future)의 케이틀린 실리 조지(Caitlin Seeley George)는 감정 인공지능이 “인종차별적이며 사이비과학에 기반을 둬 심각한 결함을 가진 이론적 기술”이라며 “기업은 이를 시장에 판매하거나 학교 또는 직장에 마케팅해서는 안 된다”라고 밝혔다.

케이틀린은 아무리 개선된 인공지능이라 하더라도 모든 사람들이 동일한 얼굴 표정과 음성 패턴, 바디랭귀지를 구사한다는 기준에 의지하게 된다고 주장했다. 이는 결국 “다른 문화와, 다른 인종, 다른 능력을 가진 사람들을 차별하게 된다”고 말했다.

(출처:Protocol)

음성 인식 기술로 사용자의 감정이나 성별, 나이를 감지해내는 스포티파이의 특허가 논란이 되기도 했다. 디지털 권리 옹호 단체 액세스 나우(Access now)는 스포티파이의 특허가 인간의 감정을 조작하는 데 사용될 수 있으며 차별로 이어질 수 있다고 주장했다. 액세스 나우는 스포티파이가 음성 인식 특허를 사용하거나 판매하지 않고 수익화하지 않겠다는 약속을 대중에게 하라는 의사를 전달했었다.

실제 기술 개발에 참여하는 사람들의 생각은 조금 다르다. 그들은 인공지능 기술 개발이 가야할 길은 아직 많이 남았으며 매우 구체적인 사례에만 이용하면 가치 있는 도구가 될 수 있다고 주장했다.

충분한 제약과 보호 장치가 잘 갖춰져 있다면 컴퓨터 시스템에 녹여내 인간을 더 잘 이해하는 데 도움이 될 수 있다는 말이 나온다. 예를 들어 사용자가 분노나 좌절의 감정을 느낄 때 적절한 상담원을 자동으로 연결시켜줘 위험한 상황에 이르는 것을 미연에 방지할 수도 있다.

감정을 읽어 내는 인공지능을 찬성하는 쪽이든 반대하는 쪽이든 해당 기술이 무분별하게 사용되는 것은 모두 경계하고 있다.

테크플러스 에디터 나유권

tech-plus@naver.com​

[fv0012]

- Advertisement -

댓글

Please enter your comment!
Please enter your name here


Related Stories