More

    딥페이크도 좋지만 지킬 건 있다

    - Advertisement -

    앤서니 부르댕

    세계적인 셰프로 이름을 날렸던 앤서니 부르댕(Anthony Bourdain). 그는 셰프 일을 그만두고 방송에 출연하면서 더 큰 인기를 얻었다. 요리사, 작가, 모험가, 방송인 등 다양한 모습을 선보였다. 2015년에는 당시 미국 대통령인 버락 오바마와 베트남 하노이 한 식당에서 쌀국수를 먹으면서 화제가 되기도 했다. 직후 한 매체와의 인터뷰에서 가장 좋아하는 한국 음식으로 부대찌개를 꼽으며 관심을 모았다.

    승승장구하던 그는 2018년 6월 프랑스에서 자신이 진행하는 ‘파트 언노운(Parts Unknown)’ 방송을 준비하던 도중 스스로 세상을 등졌다. 소식을 접한 사람들은 모두 충격에 빠졌다. 세계 유명 셰프들과 미국 대통령까지 모두 애도의 뜻을 전했다.

    많은 사람들이 떠난 그를 그리워했고 이는 부르댕의 삶을 다룬 다큐멘터리 영화 <로드러너(Roadrunner: A Film About Anthony Bourdain)>가 제작되는 밑거름이 됐다. 로드러너는 최근 개봉했다.

    다큐멘터리 <로드러너>

    부르댕의 삶과 죽음을 다룬 다큐, 그런데 문제가?

    다큐 로드러너는 이름 없는 요리사가 세계적으로 유명한 문화 아이콘으로 성장해가는 이야기를 담고 있다. 이제는 볼 수 없는 그를 추억하는 행렬이 이어질 것으로 예상됐다. 하지만 생각지도 못한 지점에서 논란이 일었다. 어쩌면 모르고 지나쳤을 제작진의 선택은 큰 파장을 일으켰다.

    다큐멘터리에서 친구인 데이비드 최(David Choe)에게 보낸 이메일 내용을 앤서니 부르댕이 읽는 장면이 문제였다. 약 3줄에 해당하는 대사는 실제 부르댕의 목소리가 아닌 디지털 합성을 통해 제작한 음성이었다. 부르댕이 직접 작성한 글은 맞지만 낭독한 적은 없었다.

    해당 사실은 미국 시사주간지 뉴요커(New Yorker)가 로드러너의 감독 모건 네빌(Morgan Neville)을 인터뷰하는 과정에서 알려졌다. 네빌은 부르댕의 목소리를 재현하기 위해 소프트웨어 기업에 의뢰했다. 기업은 딥페이크 기술을 사용했고 TV와 라디오에 출현한 부르댕의 목소리를 가지고 합성된 목소리를 구현해냈다. 네빌은 사람들이 인공지능이 말한 것과 부르댕이 말한 대사를 구분해내지 못할 것이라고 말했다.

    인공지능을 이용해 부활시킨 故 김광석의 목소리 (출처:SBS)

    인공지능을 이용한 사례는 많다

    인공지능을 이용해 콘텐츠를 제작하는 사례는 이미 많았다. 여기서는 로드러너에서처럼 목소리를 구현해낸 사례들을 소개해본다.

    네이버에서는 음성합성기술을 활용해 배우 유인나의 목소리를 재현해냈다. 누가 봐도 유인나의 목소리이지만 엄연히 합성음이다. 이렇게 만들어진 음성은 네이버의 인공지능 플랫폼 클로바(Clova)에서 사용됐다. 책 전반부는 유인나가 읽고 후반부는 음성합성으로 읽어낸 ‘유인나 오디오북’에서는 왕자와 거지, 데미안, 동물농장과 같은 고전 문학작품을 서비스하기도 했다.

    SBS 신년특집 프로그램 ‘세기의 대결 AI vs 인간’에서는 인공지능을 활용해 가수 故 김광석의 목소리를 그대로 재현해냈다. 김광석의 노래는 물론 그가 생전 듣지 못했던 2002년 발매된 김범수의 노래 ‘보고싶다’를 부르는 무대도 선보였다. 인공지능은 김광석의 창법을 상당히 잘 구현해내 살아있었다면 딱 이렇게 불렀을 것이라는 반응을 이끌어냈다.

    음성 자료만 충분하다면 고인이 된 사람의 목소리를 들을 수 있다는 점에서 음성합성 기술의 가능성은 무궁무진해 보였다.

    딥페이크 사용에도 지켜야 할 것이 있다는데…

    같은 음성합성 기술을 활용했어도 어떤 곳은 놀라움을 선사하고 긍정적인 반응을 이끌어냈다는 평가를 받는데 왜 유독 로드러너만 비난을 받는 걸까?

    일단 로드러너는 유족과 충분한 협의를 이뤄내지 못한 듯하다. 네빌 감독은 미망인인 옥타비아 부샤-부르댕(Ottavia Busia-Bourdain)과 저작권 관리자들에게 인공지능 기술 사용을 알렸고 앤서니 부르댕도 그렇게 해도 괜찮다고 했을 것이라는 답을 받았다고 말했다.

    그러자 옥타비아는 자신의 트위터 계정을 통해 자신은 그런 말을 한 적이 없다는 입장을 밝혔다. 네빌 감독은 아직 이에 대한 답을 내놓지 않고 있다.

    또한, 인공지능 기술을 통해 음성을 만들어냈다는 사실을 충분히 알리지 않았다는 점이다. 기술을 사용했다는 것을 밝히지 않으면 관객은 혼동할 수밖에 없다. 개봉 직전 인공지능을 사용을 인터뷰를 통해 밝힌 것도 시기상 늦었다는 것이 중론이다. 감독의 인터뷰를 접하지 못한 사람들은 영상을 다 보고도 음성합성 기술로 만들어진 부르댕의 목소리를 실제 있었다고 믿을 것이다.

    앞서 소개한 ‘세기의 대결 AI vs 인간’이나 ‘유인나 오디오북’을 보면 아예 타이틀에 인공지능이라는 단어를 넣어 놓았다거나 인공지능을 이용해 제작했다는 점을 분명히 밝히고 있다. 시청자들도 인공지능이 사용됐다는 것을 감안하면서 보게 된다. 알고 보는 것과 모르고 보는 것에는 큰 차이가 있다.

    다큐멘터리가 저널리즘적인 성격을 띤다는 점에서 더욱더 조심스러워야 했다는 지적도 일리가 있다. 영화나 드라마였다면 상황은 달랐을 것이다. 영화 ‘분노의 질주’의 주인공이었던 배우 폴 워커가 자동차 사고로 사망했고 남은 촬영 부분은 시각 특수효과를 사용해 완성했다. 그렇게 재현된 그의 모습에 사람들은 뭉클해했다. 어디까지나 영화이기에 논란도 없었다.

    하지만 다큐는 기본적으로 실제 내용을 바탕으로 구성한다는 인식이 깔렸다. 그래서 의심하지 않고 있는 그대로 받아들이기 쉽다. 메시지를 효과적으로 전달하고자 했던 감독의 순수한 의도라고 하더라도 해당 장면으로 인한 오해가 발생할 수 있다는 점에서 문제가 있다.

    AI 윤리적 사용하려면 기억하자! ‘합의’와 ‘공유’

    이번 일은 AI를 윤리적으로 사용하는 방법에 대해 고민하게 한다. 두 가지가 우선적으로 선행돼야 한다.

    먼저 합의다. 인공지능 기술 사용 시 사용하는 데이터나 결과물과 관련된 이해관계자들의 동의가 반드시 있어야 한다. 다음으로 ‘공유’다. 인공지능을 활용해 제작된 콘텐츠를 이용하게 될 사람들이 오해할 수 있는 부분은 미리 충분히 설명해야 한다. 허구가 아닌 사실에 기반한 것이라면 잘못 해석될 수 있는 여지를 남겨서는 안 된다.

    이러한 논란이 작품 전체를 가려서는 안 된다는 주장도 있다. 윤리적인 AI 사용에 대한 부분은 따로 떼어 놓고 따져볼 필요가 있다는 의미일 것이다. 그동안 기술 발전에만 집중해온 나머지 관련 논의가 활발하게 오가지 못했다. 로드러너가 논란을 불러일으키기도 했지만 미리 생각해볼 기회를 가져다준 것으로 여겨진다.

    테크플러스 에디터 나유권

    tech-plus@naver.com

    - Advertisement -

    Recent Articles

    Related Stories

    Enable Notifications    OK No thanks