(출처:Unsplash / andrew neel)
지난해 말, 오픈AI가 챗GPT를 선보인 이후 생성 인공지능 서비스가 주목받고 있다. 생성 인공지능이란, 사용자가 명령을 내리면 그에 걸맞은 결과물을 제공하는 인공지능을 뜻한다. 챗GPT는 텍스트 기반이나, 요즘에는 다양한 형태의 생성 인공지능 서비스가 나오고 있다. 이미지는 물론 짧은 영상, 3D 모델링을 구현하는 생성 인공지능 서비스도 있다.
생성 인공지능을 활용하면 큰 공을 들이지 않고 다양한 결과물을 만들어낼 수 있다. 예컨대 챗GPT를 이용하면 단 몇 시간 안에 책 한 권을 만들 수 있다. 기사, 논문 작성처럼 어려운 일도 단숨에 끝낼 수 있다. 여타 생성 인공지능도 마찬가지다. 명령어만 입력하면 그럴싸한 이미지나 영상을 내놓는다. 다양한 업계에서 생성 인공지능을 주목하는 이유다.
하지만 생성 인공지능을 바라보는 눈길이 마냥 곱지만은 않다. 생성 인공지능의 부작용을 우려하는 이들이 적지 않아서다. 생성 인공지능은 무에서 유를 창조하지 않는다. 결과물을 내놓기 위해 수없이 많은 데이터를 먼저 학습해야만 한다. 또 항상 정확한 답변을 내놓지 않는다. 생성 인공지능은 종종 불확실한 정보를 제공한다.
(출처:Unsplash / ilgmyzin)
문제는 생성 인공지능이 사실과 다른 정보를 그럴싸하게 포장한다는 것이다. 이를 할루시네이션(Hallucination·환각) 효과라고 한다. 관련 배경지식이 전무하면, 생성 인공지능이 제공한 거짓 정보를 그대로 믿을 수밖에 없다는 것이다. 인공지능 업계도 이를 인지하고 있지만, 아직 뚜렷한 대책을 내놓진 못하고 있다. 그저 사용자 스스로 조심하는 수밖에.
생성 인공지능의 부작용이 수면 위로 떠오르자, 미국 규제 기관이 조사에 착수했다. 7월 14일(현지시간) 로이터(Reuters) 통신 등 외신에 따르면 미국 연방거래위원회(FTC)는 오픈AI를 대상으로 광범위한 조사에 착수했다. FTC는 챗GPT가 거짓 정보로 사용자들에게 얼마나 많은 피해를 입혔는지, 개인정보를 잘 보호하고 있는지 등을 확인하려 한다.
FTC는 오픈AI가 현지 소비자보호법을 위반했는지 면밀히 살펴볼 예정이다. 챗GPT와 같은 생성 인공지능이 잘못된 정보로 사용자에 피해를 줄 수 있고, 사생활 침해가 발생할 수 있다는 이유에서다. FTC는 오픈AI에 보낸 공문에서 “불공정하거나 기만적인 개인정보 보호, 데이터 보안 관행에 관여했는지 살펴보고 법 위반 여부를 확인할 것”이라고 전했다.
(출처:Unspalsh / jonathan kemper)
최근 챗GPT로 인해 발생한 사건·사고가 FTC 조사에 영향을 미쳤다는 분석이 나온다.
앞서 오픈AI는 지난 3월 챗GPT 유로 구독 모델 사용자의 1.2%의 결제 정보가 의도치 않게 노출됐다고 밝혔다. 유출된 정보는 이름, 이메일 주소, 신용카드 마지막 네 자리, 신용카드 유효기간이다. FTC는 공문에서 오픈AI 측에 지난 3월 발생한 챗GPT 개인정보 유출 사건 발생 경위에 대해 물었다고 알려졌다.
허위 정보를 제공해 개인의 명예가 실추된 사례도 있다. 챗GPT가 한 미국인 라디오 토크쇼 진행자에 대해 사기·횡령 혐의를 받고 있다고 설명했는데, 이는 사실과 달랐다. 결국 진행자는 오픈AI를 명예훼손으로 고소했다. 한 미국 변호사가 여행 도중 학생에게 선정적인 발언을 했다는 거짓 정보를 전하기도 했다. 모두 인공지능 할루시네이션 현상으로 발생한 사건이다.
물론 몇몇 사례만으로 FTC가 조사에 착수한 건 아닌 듯하다. FTC는 이전부터 인공지능 업계를 주시해왔다. 2021년에는 웹사이트를 통해 인공지능 업계가 지켜야 할 지침을 발표한 바 있다. 당시 FTC는 데이터 사용 방법을 투명하게 공개하고, 사용자에 해를 끼치지 말라고 권고했다.
(출처:Unsplash / jonathan kemper)
또 편향된 결과를 제공하는 알고리즘 개발 중단과 함께 과장된 정보를 제공하지 말라고 강조했다. 특히 FTC는 문제가 생기면 업계가 책임을 져야 한다고 경고했다. 인공지능 업계가 스스로 책임을 지지 않으면 FTC가 나서겠다고 엄포했다. 리나 칸(Lina Khan) FTC 위원장 지난 4월 이점을 재차 강조했다. 그는 “FTC가 인공지능의 악의적 사용을 제재할 권한이 있다”고 말했다.
최근 인공지능 산업이 빠르게 성장하면서, 규제 방안을 두고 갑론을박이 벌어지고 있다. 이번 FTC 조사는 미국 정부의 규제 방향을 잘 보여주는 예시라는 평가가 나온다. FTC의 조사 결과가 각국의 인공지능 규제 논의에 어떤 영향을 미칠지 주목된다.
테크플러스 에디터 윤정환
tech-plus@naver.com
댓글0