(출처:OpenAI)
오픈AI가 인공지능 챗봇 ‘챗GPT’를 공개한 이후, 생성 인공지능 서비스가 주목받고 있다. 생성 인공지능은 사용자가 명령어만 입력하면 그에 맞는 결과물을 제공하는 인공지능을 뜻한다. 예컨대 챗GPT의 경우 텍스트로 만들어진 각종 결과물을 만들어낸다. 기사, 논문 작성부터 프로그램 코드까지 제공한다.
특히 챗GPT는 진짜 사람이 쓴 것처럼 각종 텍스트 콘텐츠를 생성한다. 눈앞에 놓인 글이 사람이 쓴 건지, 인공지능이 만든 건지 구분하기 어려울 정도다. 종종 거짓 정보를 제공하기도 하지만, 이를 걸러낼 능력만 있으면 손쉽게 원하는 결과물을 손에 넣을 수 있다. 사용자 입장에서 잘 사용하면 굉장히 유용한 서비스인 셈이다.
그러나 언제나 그렇듯, 문제는 오남용이다. 일부 사용자들은 챗GPT로 과제를 해결하거나, 논문을 작성하는 등 옳지 못한 행위를 저질렀다. 사용자들도 이런 행위가 정당하지 않다는 걸 잘 알고 있다. 외신 포브스(Forbes)에 따르면 미국 대학생 1000명 중 51%는 챗GPT 사용을 부정행위라고 봤다. 하지만 적지 않은 수인 전체 43% 학생이 챗GPT를 학업에 사용한 경험이 있다고 답했다.
(출처:Pexels)
인공지능 대필 문제는 챗GPT 부상 이후 줄곧 도마 위에 올랐으나, 마땅한 해결책이 없다. 물론 아무런 노력이 없었던 건 아니다. 앞서 챗GPT 개발사 오픈AI(OpenAI)는 지난 2월 인공지능이 작성한 텍스트를 감별할 수 있는 도구 ‘AI 클래시파이어’를 발표했다. 기대와 달리, AI 클래시파이어는 사용에 제약이 많았다. 판별 정확도도 높지 않았다.
AI 클래시파이어가 인공지능이 작성한 텍스트를 탐지할 확률은 26%에 불과했다. 사람이 쓴 텍스트를 인공지능이 작성한 것으로 오인한 확률도 9%에 달했다. 텍스트 길이(1000자 이상)가 길어지면 정확도는 더욱 떨어졌다. 물론 이는 영문 텍스트 기준이다. 다른 언어로 작성된 텍스트에선 인공지능이 작성한 텍스트를 잡아낼 확률이 현저히 떨어졌다.
모두 오픈AI가 직접 밝힌 내용이다. 오픈AI는 AI 클래시파이어를 공개하며 ‘아직 완전히 신뢰할 수 없다’고 설명했다. 일부 테스트 결과에선 오픈AI가 밝힌 것보다 더 낮은 정확도를 기록했다. 7월 26일(현지시간) IT 매체 테크크런치(TechCrunch)는 자체 테스트 결과, AI 클래시파이어가 7개 텍스트 중 단 1개(약 14%)만 올바르게 분류했다고 밝혔다.
(출처:OpenAI)
이런 성능으로 인공지능 작성한 글을 제대로 파악할 리가 없다. 결국 오픈AI는 AI 클래시파이어 배포를 중단하기로 결정했다. 오픈AI는 AI 클래시파이어 웹페이지에서 “7월 20일부로 AI 판별 도구는 낮은 정확도로 인해 더 이상 제공되지 않는다”고 공지했다. 오픈AI가 AI 클래시파이어를 선보인지 불과 반년만이다.
오픈AI가 인공지능 콘텐츠 식별 도구 개발에서 완전히 손을 뗀 건 아니다. 오픈AI 측은 “현재 (인공지능이 작성한) 텍스트를 보다 효과적으로 검출할 기술을 연구 중이다”며 인공지능이 만든 오디오·이미지 콘텐츠를 식별할 수 있는 기술을 개발·배포하기 위해 노력하고 있다“고 전했다. 아쉽지만 개발 방향 이외 구체적인 설명은 없었다.
대안이 없는 건 아니다. 오픈AI 말고도 인공지능 텍스트 판별기를 내놓은 곳이 여러 곳 있기 때문이다. 그중 주목받는 판별기는 ‘GPT제로’다. GPT제로는 미국 프리스턴대학교서 재학 중인 에드워드 티안(Edward Tian)이 개발한 인공지능 텍스트 판별기다. 테크크런치 자체 테스트에서는 7개 중 5개 텍스트를 식별하는 데 성공했다.
(출처:OpenAI)
대필은 생성 인공지능이 가진 여러 문제 중 하나에 불과하다. 생성 인공지능은 거짓 정보를 그럴싸하게 포장하는 할루시네이션(Hallucination) 현상을 유발한다. 쉽게 말해 가짜 뉴스를 생성할 가능성이 높다는 말이다. 학습에 사용한 데이터 저작권, 인공지능 윤리 등 생성 인공지능 업계가 해결해야 할 문제가 산더미다.
그러나 아직 생성 인공지능의 문제를 완벽하게 해결할 방안은 없다. 생성 인공지능이 만든 콘텐츠에 워터마크를 넣는 방안 정도만 거론되고 있다. 앞서 오픈AI, 구글 모회사 알파벳, 마이크로소프트(MS), 아마존 등 빅테크 업체 7곳은 인공지능 콘텐츠에 워터마크를 넣기로 했다. 미봉책으로 보이는데, 얼마나 실효성이 있을지는 알 수 없다.
테크플러스 에디터 윤정환
tech-plus@naver.com
댓글0