인공지능도 가끔 실수라는 걸 한다

인간은 누구나 실수한다. 어디 그뿐이겠는가. 전문가들이 만든 기기나 소프트웨어도 오작동을 일으키기도 한다. 인간이 만든 인공지능(AI)도 마찬가지다. 인공지능의 핵심인 알고리즘도 결국 인간의 손을 거쳐야 완성된다.

우리는 인간이 실수의 동물이란 걸 알기에 실수를 보이더라도 쉽게 실망하지 않는다. 그렇다면 인공지능에도 이러한 기준이 적용될까? 아직은 아닌 듯하다.

AI 전문기업 파운테크.에이아이(Fountech.ai)는 영국 성인 2000명을 대상으로 설문조사를 진행했다. 설문에 따르면 응답자 61%는 인공지능이 어떠한 실수도 해서는 안 된다고 답했다. 인간이 저지른 실수는 용서해도 기계가 한 실수는 용서할 수 없다는 응답도 45%나 나왔다.

그밖에도 실험참가자 과반수가 인공지능을 안전하게 만들기 위한 추가 규제가 필요하며 인공지능이 내린 결정은 인간이 항상 감시하고 점검해야 한다고 답했다.

분명 인공지능의 능력에 놀랄 때도 적지 않다. 인공지능은 부인할 수 없는 미래 기술이다. 다만, 이를 잘 활용하고 실수 없이 안전하게 사용하고 싶은 마음이 분명할 뿐이다.

가볍게 웃고 넘어갈 수 있는 인공지능의 실수가 있다. 잘못하면 큰일이 벌어질 만한 아찔한 경우도 있다. 지금부터 소개하는 사례들이 그런 경우다. 기술도 무르익지 않은 예전 사례를 가져온다고 생각할 수 있어 최근 사례만 가져왔다. 아마도 인공지능이 혼자서 모든 작업을 능숙하게 해낸다거나 나아가 모든 일자리를 대체할 것이라는 걱정 따위는 버릴 수 있을 것이다.

내 머리가 어때서…심판의 ‘대머리’ 축구공으로 착각한 AI 카메라

축구 선수들은 공 하나를 두고 실력을 겨룬다. 치열한 경기장에서 중요한 것은 역시나 공의 움직임이다. 축구 경기를 보면 알겠지만, 중계도 축구공을 중심으로 이뤄진다. 특정 선수를 클로즈업하거나 관중석을 비추는 것 말고는 대부분 공을 지닌 선수를 보여준다.

얼마전 칼레도니안 스타디움에서 스코틀랜드 프로축구 경기가 열렸다. 인버네스 칼레도니안 시슬과 아이어 유나이티드의 경기였다. 무관중 경기로 진행돼 응원 열기는 느낄 수 없었지만, 선수들은 진지하게 경기에 임했다. 카메라는 어김없이 경기를 촬영했다. 그런데 중계를 보던 사람들이 고개를 갸우뚱하게 할만한 장면이 계속 잡히기 시작했다. 공을 따라가야 할 카메라가 엉뚱하게도 심판을 따라다녔던 것. 물론 심판을 잡아야 하는 상황도 있을 수 있다. 그런데 선수들이 공을 두고 다투는 와중에도 심판을 잡는 건 어딘가 이상했다. 골대 앞에서 접전이 벌어지고 역습을 감행하는 긴박한 상황에서도 카메라는 심판을 잡았다. 심지어 골을 넣는 순간에도 카메라는 심판을 찍고 있었다. 카메라가 심판을 따라갈 때마다 해설자는 거듭 사과하기도 했다.

카메라맨의 실수는 아니었다. 경기장에는 코로나19 확산으로 카메라맨 대신 카메라 시스템이 도입됐다. 픽셀롯(Pixellot)에서 개발한 스포츠경기 중계 전용 장비만이 경기장을 촬영하고 있었다. 픽셀롯은 축구, 농구, 아이스하키 등 다양한 운동 경기를 촬영해 중계에 활용할 수 있는 서비스를 제공하고 있다. 인간 개입 없이도 인공지능이 알아서 실제 중계를 보는 것처럼 촬영을 해주는 기술을 보유했다. 방송사, 클럽팀, 학교에서도 이용할 수 있다.

축구 경기 중계에 사용된 장비에도 인공지능을 이용해 축구공을 추적하는 기술이 탑재됐다. 장착된 카메라 4대는 여러 각도에서 경기장을 촬영해 중요한 순간을 놓치지 않고 실감 나는 현장 중계를 가능하게 했다.

(출처:Pixellot)

이런 기술이 탑재됐는데도 대체 왜 흐름과 상관없는 심판을 포착했던 것일까?

원인은 금방 밝혀졌다. 카메라에 계속 모습을 드러냈던 심판은 대머리였다. 인공지능은 그의 하얗고 동그란 두상을 보고 축구공으로 착각했던 것이다. 대머리 심판은 이런 일로 주목을 받고 경기 중계까지 망칠 것이라고는 상상도 못했을 것이다. 웃지 못할 해프닝을 보고 심판에게 모자를 씌워야 한다는 말도 나왔다. 인공지능 카메라의 기능이 업데이트되기 전까지는 정말 그래야 할지도 모르겠다.

경기는 1:1 무승부로 끝이 났다. 그런데 경기결과보다 심판에 대한 이야기가 더 많이 입에 오르내렸다. 더불어 인공지능의 한계가 드러난 순간이기도 했다.

경기 중 장애물을 향해 돌진한 자율주행 레이싱카

다른 경기장으로 가보자. 이번에는 레이싱이다. 일반적인 경기처럼 보이겠지만 차량 안에는 사람이 없다. 혼자서도 움직이는 자율주행차다. 그렇다. 세계 최초 무인 자동차 레이싱 대회 ‘로보레이스(Roborace)’의 경기 현장이다. 경기에 참가하려면 자율주행 기술을 탑재하고 전기를 동력으로만 움직여야 한다.

자율주행 기술이란 것이 아직 완성된 단계가 아니다 보니 어느 정도 예견된 일일지도 모른다. 우려했던 자율주행차 사고는 일어나고 말았다.

주인공은 사이버보안 기업 아크로니스와 스위스 샤프하우젠 공과대학교(SIT)가 결성한 아크로니스 SIT 오토노머스(Acronis SIT Autonomous)팀의 레이싱카였다. 차는 제대로 된 경주를 시작해보지도 못하고 달리자마자 오른쪽으로 방향을 틀었고 결국 장애물과 부딪히면서 멈춰 섰다. 차량이 멈춘 곳은 출발선보다도 뒤에 있었다.

경기는 더 진행할 수 없었다. 인공지능 카메라와 라이다(LiDAR)를 포함해 각종 센서가 탑재된 전면부가 시멘트벽과 강하게 충돌했기 때문이다.

경기 해설자는 “우리가 보고 싶었던 출발이 저것은 아니다”라며 아쉬움을 표했다.

(출처:Robocar)

한달 전만 해도 아크로니스 SIT 오토노머스의 팀장은 한 인터뷰에서 인공지능을 활용해 자율주행 기술에 도전하는 그 자체를 자랑스럽게 생각한다고 밝혔었다.

차량이 장애물과 충돌했던 이유는 인공지능의 실수 때문으로 밝혀졌다. 차량 내 인공지능은 장애물을 향해 가속하라는 결정을 내린 것으로 전해진다.

AI의 검열 실수 인정한 인스타그램

인스타그램은 문제가 되는 이미지가 업로드 되면 직접 삭제한다. 자체적 기준을 세워놓고 인공지능 기술과 전 세계에 퍼져있는 1만 5000여 명의 직원들이 게시물을 검토한다.

혹자는 인스타그램이 날씬하고 하얀 사람들을 더 선호한다고 말하기도 한다. 그런데 실제 그렇게 관리되고 있다는 의심이 들만 한 정황이 하나둘 발견됐다. 호주 유명 코미디언 셀레스트 바버는 연예인을 따라 한 사진을 소셜네트워크서비스(SNS)에 올리는 것으로 유명하다. 현존하는 최고의 모델로 불리는 캔디스 스와네포엘과 같은 포즈로 찍은 사진을 인스타그램에 올리기도 했다. 그런데 스와네포엘의 사진은 문제가 없었지만, 바버가 올린 사진은 인스타그램 측에서 공유하지 못하도록 조치한 것을 알게 됐다. 나체나 성행위와 관련 게시물로 처리됐던 것이다. 미세한 차이는 있지만 노출된 정도는 스와네포엘과 비슷했다. 그는 “이봐 인스타그램, 너의 몸매 관리 기준을 정리해 봐”라며 비꼬기도 했다.

(출처:Nyome Nicholas-Williams)

지난 6월에는 뇸 니콜라스-윌리엄스는 상반신을 노출하고 팔로 가슴을 가린 예술 사진을 자신의 인스타그램에 게재했다. 그는 흑인 여성이면서 플러스사이즈모델이다. 하지만 인스타그램은 신속하게 게시물을 삭제했다. 뇸은 커뮤니티 가이드라인을 지켰는데도 불구하고 조치가 내려진 데 대해 강한 불만을 드러냈다. 그는 “검열은 어디서나 일어나지만, SNS에서는 나처럼 뚱뚱한 흑인 여성에게 더 많이 일어난다”라고 주장했다. 인종적 편견이 담긴 검열 알고리즘도 비판했다. 이 사실을 금세 퍼졌고 그를 지지하겠다고 나선 사람들은 ‘IWantToSeeNyome’이라는 해시태그를 사용해 인스타그램의 부당한 검열에 항의했다. 온라인 청원 사이트인 체인지(Change.org)에도 ‘인스타그램은 흑인 여성 검열을 중단하라’라는 이름의 청원이 올라와 2만 2000명 이상이 서명했다.

뇸의 이야기는 아담 모세리 인스타그램 최고경영자(CEO) 귀에도 들어갔다. 모세리는 “대표성이 낮은 그룹을 더 잘 대우하는 방법을 검토할 것”이라고 말했지만, 한동안은 별로 달라진 것이 없다는 지적이 이어졌다. 그러다 최근 인스타그램 대변인이 나서 뇸의 사진을 삭제한 것은 잘못된 행동이었다고 인정하면서 “뇸의 피드백을 들어보니 정책에서 어디가 부족하고 어떻게 개선해야 하는지 알 수 있었다”라고 말했다. 이어 문제라고 판단하는 포즈가 담긴 사진을 삭제했던 기존 지침을 조정한 새 지침을 지난주부터 적용해 시행 중이다.

뇸은 회사의 결정을 환영했다. 그는 앞으로 새로운 정책이 잘 이행될 수 있도록 플랫폼을 지속해서 관찰하겠다고 덧붙였다.

테크플러스 에디터 나유권

tech-plus@naver.com

- Advertisement -

LEAVE A REPLY

Please enter your comment!
Please enter your name here

 




Related Stories