8월 29일(현지시간) 인공지능(AI) 연구 기업 ‘구글 딥마인드(Google DeepMind)’는 이미지가 AI로 만들어졌는지 표시하는 디지털 워터마크 기술 ‘신스ID(SynthID)’를 공개했다.
■ 눈에 안 보이는 ‘디지털 워터마크’ 만들고 확인한다
신스ID에는 두 가지 기능이 있다.
첫 번째는 이미지에 워터마크를 새기는 기능이다. 방식은 일반 워터마크와 다르다. 원본 이미지의 일부 픽셀 정보를 특정 패턴에 따라 아주 조금 수정한다. 따라서 신스ID로 새긴 워터마크는 사람 눈에 안 보인다. 워터마크 적용 전후 이미지를 나란히 두고 비교해도 구별이 불가능하다.
두 번째는 이미지에 디지털 워터마크가 있는지 식별하는 기능이다. 신스ID로 새긴 워터마크 패턴을 인식해 AI가 만든 이미지인지 판별한다. AI가 이미지 픽셀을 분석한 다음 워터마크 패턴이 있는지, 식별하기 애매할 정도로만 남았는지, 아예 발견되지 않았는지 구분해 알려준다. 패턴이 없다면 AI가 생성한 이미지가 아닐 확률이 높다.
이미지를 수정해도 워터마크 패턴이 남는다 (출처 : Google Deepmind)
이미지를 회전하거나 잘라도 워터마크 패턴이 일부 남아 신스ID로 식별이 가능하다. 심지어 이미지를 스크린샷으로 찍어도 패턴은 제대로 인식된다. 구글 딥마인드는 이미지에 필터를 적용하거나 색상·밝기를 변경해도 워터마크 감지가 가능하다고 밝혔다.
신스ID의 디지털 워터마크 기능은 구글의 이미지 생성형 AI ‘이매진(Imagen)’으로 만든 이미지에 적용된다. 이매진은 구글 클라우드 기반 머신러닝 개발 플랫폼 ‘버텍스(Vertex)’에서 사용할 수 있다.
■ “AI가 만든 이미지 표시해야” 협약까지 등장…이유는?
AI로 만든 이미지라는 걸 표시하지 않으면 어떤 영향이 있을까. 가장 큰 문제는 허위 정보를 만들어 유포할 가능성이다. 대표적으로 유명인 얼굴을 AI로 합성해 유언비어를 퍼뜨리는 딥페이크 범죄가 있다. 이런 사례를 예방하기 위해 AI가 생성한 이미지나 가짜 사진에 AI로 만들었다고 표기하는 서비스도 등장했다.
디지털 워터마크 로고 (출처 : Google Deepmind)
올해 7월 미국은 AI 기술 개발로 발생할 수 있는 위험을 관리하고자 주요 기업들과 협약을 맺었다. 협약 내용은 △AI 시스템을 출시하기 전 내외부 전문가가 보안 테스트를 수행할 것 △워터마크를 구현해 사람들이 AI 적용 여부를 식별할 수 있게 할 것 △AI 기능과 한계를 정기적으로 공개할 것 △편견·차별·사생활 침해 같은 위험성에 대해 연구할 것 등 4가지 조항으로 구성됐다.
아마존, 앤트로픽, 구글, 인플렉션, 메타, 마이크로소프트, 오픈AI 등 최근 AI 기술을 적극적으로 도입한 기업들이 이 협약에 서명했다. 이번에 구글 딥마인드가 공개한 신스ID는 위 협약의 두 번째 조항을 충족하기 위해 개발했다고 볼 수 있다. 메타는 자사 비디오 생성 AI로 만든 동영상에 워터마크가 생성된다고 밝혔다. 이외에도 인지도 높은 이미지 생성형 AI ‘스테이블 디퓨전’은 이미 신스ID와 비슷한 디지털 워터마크 기술을 사용하는 것으로 알려졌다.
■ 워터마크를 감춰야 하는 이유는? ‘손상 위험 높아’
일부 이미지 생성형 AI 서비스는 이미지 한쪽 구석에 AI가 만들었다는 내용을 텍스트나 로고 워터마크로 표시했다. 하지만 워터마크가 보이지 않도록 가장자리를 자르고 직접 그리거나 찍은 것처럼 속이는 사용자가 나타났다.
파일 정보를 표시하는 ‘메타데이터’에 AI 이미지라는 정보를 끼워 넣는 방안을 도입한 경우도 있었다. 하지만 편집 프로그램으로 메타데이터를 바꾸거나 초기화할 수 있다는 문제가 발견됐다.
맨눈으로는 워터마크 적용 여부를 알기 어렵다 (출처 : Google Deepmind)
이에 더 이상 사람 눈에 보이지 않는 워터마크가 등장했다. 이미지 내용을 가리지 않아 내용에 집중하기 좋다. 하지만 이미지에 워터마크가 있는지 확인하려면 별도 프로그램을 통해 식별하는 수밖에 없어 번거롭다.
■ 모든 AI 이미지에 워터마크는 불가…제작자 양심에 맡겨야
이처럼 디지털 워터마크에는 아직 실효성 논란의 여지가 있다. 눈에 보이게 표시하자니 잘라낼 수 있고, 눈에 안 보이는 워터마크는 사람도 알아보기 어렵다.
아직 워터마크 표준이 정립되지 않았다는 문제도 있다. 신스ID는 구글 이매진으로 만든 이미지에만 적용된다. 이매진을 사용하려면 구글 클라우드 플랫폼 ‘버텍스 AI’ 서비스를 구독해야 한다. 일반 사용자가 무료로 쓸 수 있는 기능이 아닌 데다 가격 책정 방식도 데이터 사용량에 따라 차등 부과돼 계산이 복잡하다.
반면 다른 이미지 생성형 AI 중에는 무료로 서비스를 제공하는 경우도 있다. 프로그램을 별도로 설치할 필요 없이 온라인으로 간편하게 생성할 수 있는 곳도 많다. 이런 서비스에 비하면 이매진은 사용하기 번거롭고 비용 부담까지 크다. 일반 소비자가 굳이 선택할 이유가 없다.
하지만 다른 서비스 중에는 아직 디지털 워터마크를 지원하지 않는 게 많다. 워터마크를 지원하는 AI라도 워터마크 삽입 여부를 사용자가 결정하는 경우도 있다. 여전히 마음만 먹으면 워터마크 없는 이미지를 AI로 얼마든지 만들 수 있는 셈이다. 결국 제도적 장치와 기술이 마련돼도 마지막에는 사람의 양심에 맡길 수밖에 없다.
테크플러스 에디터 이병찬
tech-plus@naver.com
댓글0