최근 생성형 인공지능(AI)으로 이미지를 만드는 게 유행이다. 2022년 8월 출시한 스테이블 디퓨전(Stable Diffusion)을 시작으로 셔터스톡, 어도비 등 이미지 관련 기업까지 합세하면서 다양한 이미지 생성 AI가 등장했다. 처음에는 설치 과정과 사용법이 복잡해 일반인이 쓰기 어려웠다. 최근에 출시된 프로그램은 간단한 명령어만 입력하면 이미지를 다르게 변형하거나 새로 만들 수 있다.
하지만 이미지 생성 AI에는 저작권 논란이 꼬리표처럼 따라다닌다. 원본 이미지를 변형하는 행위가 저작권을 침해할 여지가 있다고 지적받는다. 학습에 이용하는 이미지 데이터를 무단으로 수집해 저작권 논란을 일으킨 프로그램도 있었다.
아트스테이션 일러스트레이터가 이미지에 추가한 워터마크 (출처 : ArtStation)
특히 그림을 그리는 게 주 수입원인 일러스트레이터의 반발이 크다. 몇몇 일러스트레이터는 자신의 그림에 작업자를 표시하는 ‘낙관’을 찍거나 그림 한가운데 반투명한 워터마크를 표시하는 경우도 있다. 우연히 이미지 생성 AI가 이 그림을 참조해 이미지를 생성하면 결과물에 낙관이나 워터마크가 그대로 남기도 한다.
하지만 낙관이나 워터마크는 그림 자체를 감상하는 데 방해된다. 다행히 이런 표시를 그림에 남기지 않아도 이미지 생성 AI를 방해하는 기술이 등장했다. MIT 컴퓨터과학 인공지능 연구소(CSAIL)는 AI를 교란하는 이미지 저작권 보호 기술 ‘포토가드(PhotoGuard)’를 개발했다고 7월 26일(현지시간) IT 전문 매체 엔가젯을 통해 발표했다.
■ 포토가드의 원리는 ‘참조 과정 방해’
이미지 생성 AI로 원본 이미지를 변형하려면 다음 과정을 거친다.
사용자가 원본 이미지를 프로그램에 불러온 다음 원하는 변경 사항을 대화창에 입력한다. 이후 AI가 원본 이미지와 요청 사항을 인식·분석한다. 그리고 요청 사항에 부합하는 이미지를 찾아 합성한다.
인코더 교란 방식(왼쪽)과 디퓨전 교란 방식(오른쪽) (출처 : MIT)
CSAIL은 두 가지 방해 기술을 구상했다. 하나는 AI가 이미지를 인식하는 단계를 방해하는 방법, 나머지 하나는 다른 이미지를 찾는 단계를 방해하는 방법이다. 전자는 인코더(Encoder) 교란 방식, 후자는 디퓨전(Diffusion) 교란 방식으로 부른다.
AI가 원본 이미지를 인식할 때에는 ‘인코더’라는 도구를 사용한다. 이미지를 구성하는 픽셀마다 어떤 색을 표현하는지 읽어들인 다음 이 정보를 짜 맞춰 전체 이미지를 완성한다. 인코더 교란 방식은 인코더가 이미지를 정상적으로 읽어들이지 못하게 픽셀 정보를 변조한다. 사진에 일종의 암호를 거는 셈이다. 이 경우 AI가 원본 이미지를 제대로 인식하지 못한다. 당연히 변형이나 생성도 정상적으로 진행되지 않는다.
디퓨전 교란 방식은 AI가 이미지를 잘못 합성하게 만든다. 요청 사항에 맞지 않는 이미지를 참조하게 만든다. 당연히 결과는 요청 사항과 전혀 다르게 나온다. 인코더 교란 방식은 요청 사항이 부분적으로 적용될 가능성이 있지만 디퓨전 교란 방식은 아예 잘못된 결과를 낸다.
각 줄마다 차례대로 원본 이미지, 방해 없이 생성한 AI 이미지, 인코더 교란 결과, 디퓨전 교란 결과 (출처 : MIT)
적용 사례를 보면 두 방식의 특징이 더 잘 보인다.
원본 이미지에서 두 남자가 테니스 경기장에 있다. 이미지 속 두 남자가 결혼식장에 있는 모습으로 바꿔 달라고 요청한다. 아무 방해도 하지 않으면 이미지 생성 AI가 배경과 옷차림을 결혼식장에 걸맞은 이미지로 합성한다. 인코더 교란 방식을 적용하면 두 남자의 옷차림은 결혼식장에 어울리는 정장으로 바뀌지만 배경이 어색하다. 디퓨전 교란 방식을 적용하자 두 남자의 얼굴을 제외한 영역이 모두 회색으로 칠해졌다.
이미지 일부만 교란 처리하는 것도 가능하다. 예시로 든 정장을 입은 남자 사진에는 아래쪽 절반만 교란 처리를 했다. 이 남자가 지하철에 앉은 모습을 그려달라고 요청했다. 교란 처리를 하지 않으면 남자가 지하철에 앉은 모습을 자연스럽게 연출한다. 반면 인코더와 디퓨전 교란 방식을 적용한 결과 사진 아래 절반이 형체를 알아보기 힘들 정도로 뭉개졌다.
■ 저작권·초상권 보호 청신호, 기술적 보완은 필요
CSAIL의 교란 방식을 활용하면 이미지 저작권이나 초상권을 보호하기 한결 용이해질 전망이다. 사진에서 얼굴로 인식되는 부분을 교란 처리하면 해당 이미지를 기반으로 조작된 사진이 제작·유포되는 것을 예방할 수 있다. 일러스트레이터가 자신의 작품에 교란 처리를 할 경우 AI가 그 이미지를 참조하기 어렵게 된다.
하지만 교란 방식이 공개된 이상 이미지 생성 AI 개발자도 손 놓고 있지는 않을 테다. 교란 처리된 부분을 자르거나 모자이크한 다음 보호되지 않은 부분만 이용하는 방법이 있다. 교란 방식을 역추적해 원본 이미지를 되살린 다음 작업할 가능성도 무시할 수 없다. CSAIL도 이 점을 지적하면서 교란 기술이 상용화되려면 아직 보완할 점이 많다고 언급했다.
테크플러스 에디터 이병찬
tech-plus@naver.com
댓글0