(출처: 트위터)
프란치스코 교황이 흰색 패딩을 입고 입습니다. 패딩 위로 십자가 목걸이를 한 모습이 눈에 띄는데요. 이 사진이 온라인에 공개되자, 교황의 패션을 칭찬하는 댓글이 이어졌습니다. 일부 네티즌들은 “교황이 입은 패딩이 어디꺼냐”라며 패딩 정보를 묻는 경우도 있었습니다.
지난 3월 26일(현지 시간)에는 일론 머스크 테슬라 최고경영자(CEO)와 전기차 라이벌 기업 GM의 CEO 메리 바라(Mary Barra)가 손을 잡고 걷는 사진이 트위터에 올라와, 화제를 낳았습니다. 이에 외신은 물론 국내 언론에서도 머스크와 바라 CEO가 열애 중이라는 기사가 올라오기도 했죠.
(출처: AllYourTech 트위터)
그런데, 며칠 뒤에는 머스크가 미국 팝스타 테일러 스위프트(Taylor Swift)와 다정하게 데이트를 즐기는 모습이 공개돼 논란이 되기도 했습니다. 아내를 두고 다른 여성과 데이트하는 머스크. 과연 그의 진짜 모습은 무엇이었을까요.
패딩 입은 교황부터 여러 여성과 데이트하는 머스크까지. 이 사진들은 전부 생성형 AI 도구 ‘미드저니(Midjourney)’로 만든 가짜 사진이었습니다. 일론 머스크는 직접 나서서 “나라면 저런 옷 안 입는다”며 해당 이미지가 가짜임을 밝히기도 했어요. 이렇듯 유명인들을 곤욕에 치루게 하는 AI 화가가 최근 다시 업계를 뒤흔들고 있습니다.
논란의 트럼프 체포 사진 그렸던 그 AI 화가…또 한 번 온라인을 흔들다
미드저니로 생성한 트럼프 체포 사진 (출처: Eliot Higgins 트위터)
비슷한 사례는 또 있었어요. 바로 얼마 전 트위터를 뒤흔든 도널드 트럼프 전 미국 대통령의 사진이에요. 사진에는 트럼프 전 미국 대통령이 경찰에게 체포되며 강하게 저항하는 모습이 담겼어요. 이내 경찰에 붙잡혀 끌려가는 모습까지 볼 수 있었는데요.
이 사진은 삽시간에 트위터에서 널리 공유되며 트럼프가 체포됐다는 가짜 뉴스를 퍼뜨렸습니다. 안 그래도 트럼프가 자신의 성 추문 사건을 입막음했다는 혐의로 체포될 수 있다는 보도가 잇따랐던 상황이라, 해당 사진을 믿는 사람들이 많았어요.
논란의 사진을 만든 미드저니는 키워드 몇 개만 입력하면 원하는 이미지를 생성하는 일종의 ‘AI 화가’입니다. 이미지 자체도 고화질이고 정교해서 가짜라고 구별해내기 어려운 수준이에요. 실제로 지난해 미국에서 열린 한 미술대회에서 미드저니가 그린 그림이 1위를 차지해, 예술가들의 격분을 사기도 했습니다.
‘너무 진짜 같잖아’…가짜뉴스 범람하자 무료 서비스 중단한 미드저니
테일러 스위프트와 일론 머스크. 미드저니가 생성한 가짜 이미지다. (출처: AllYourTech 트위터)
미드저니는 ‘GAN(Generative Adversarial Network)’ 알고리즘을 활용해 이미지를 생성해요. GAN 알고리즘은 생성자와 판별자라는 두 가지 모델로 구성됩니다. 생성자는 판별자를 속일 수 있도록 실제 사진을 학습해 매우 정교한 가짜 사진을 만듭니다. 판별자는 실제 사진과 가짜 사진을 완벽하게 구별할 수 있도록 훈련돼요. 생성자와 판별자가 끊임없이 경쟁하면서 이미지 품질을 발전시키고, 실제와 유사한 사진을 만드는 거예요.
이렇다 보니, 육안으로는 구별이 어렵습니다. 문제는 AI 기술이 발전한 만큼 그에 따른 부작용도 만만치 않다는 건데요. AI 이미지 생성기는 온라인 정보 생태계를 교란하고 있어요. 실제로 최근 미드저니를 활용한 가짜 뉴스가 많아지자, 개발사 측은 무료 평가판 서비스를 일시 중단했습니다.
성능 좋은 AI 도구 경쟁적으로 개발 중…최소한 제한 두고 공개하는 것 맞나
트럼프가 죄수복을 입은 가짜 사진. (출처: Eliot Higgins 트위터)
원래 이러한 AI 도구는 일부 개발자나 선별된 사용자만 테스트할 수 있었어요. 하지만 최근 챗GPT(Ghat GPT)의 인기 덕에 AI 도구 접근성이 향상됐고, 일반 대중도 이런 도구를 쉽게 사용할 수 있게 됐죠. AI를 향한 대중의 관심도 늘어나면서 미드저니와 같은 생성형 AI 도구는 더 많아질 전망이에요. AI 이미지로 인한 가짜 뉴스도 늘어날 것 같은데요.
기업들이 성능 좋은 AI 도구를 개발하고자 경쟁을 펼치는 사이에, 그에 따른 부작용도 범람하고 있습니다. 얼마 전 일론 머스크를 비롯한 기술 전문가들은 이런 AI의 악영향을 고려해 당분간 강력한 성능의 AI 개발을 중단해야 한다고 말하기도 했죠. 그만큼 AI의 영향력이 더욱 강력해지고 있습니다. 지금처럼 최소한의 제한만 두고 AI 도구를 공개하는 방식을 다시 생각해볼 필요가 있을 것 같네요.
테크플러스 에디터 이수현
tech-plus@naver.com
댓글0