More

    아무 정보나 학습한 AI는 믿을 수 없다


    (출처:Meta)

    머신러닝을 통해 학습한 데이터를 기반으로, 자동으로 결과물을 만들어 내는 생성형 인공지능(AI) 도구가 하나둘 모습을 드러내고 있다. 이 인공지능 도구들을 사용하면, 손쉽게 글을 쓰거나, 이미지를 생성할 수 있다. 심지어 짧은 영상까지도 인공지능이 만들어 낸다. 사람이 할 일은 별로없다. 그저 텍스트를 통해 인공지능에 명령만 내리면 된다.

    일론 머스크(Elon Musk)가 설립한 오픈 AI(Open AI)의 ‘달리(Dall-E)’는 사용자가 원하는 이미지를 알아서 그려준다. 구글의 ‘이매진 비디오(ImagenVideo)’는 사용자가 주문한 텍스트를 짧은 동영상으로 변환하며, 엔비디아 ‘매직3D(Magic3D)’는 채색까지 끝난 3D 모델을 가져다준다. 이들 인공지능 도구는 매번 예상을 뛰어넘는 결과물을 만들어 낸다.

    메타도 이 분야에 적지 투자를 이어가는 업체다. 메타는 구글 이매진 비디오와 비슷한 ‘메이크 어 비디오(Make A Video)’라는 생성형 인공지능을 선보인 바 있다. 또 사람과 자연스럽게 대화할 수 있는 블렌더봇(BlenderBot)이라는 인공지능을 개발하고 있는데, 올해 세 번째 버전까지 공개했다. 메타는 최근 갈락티카(Galactica)라는 색다른 인공지능 도구를 선보였다.


    (출처:Meta)

    갈락티카는 과학적 지식을 제공하는 오픈소스 인공지능 도구다. 사용자가 텍스트로 명령을 내리면 논문, 교과서, 웹사이트, 백과사전 등에서 학습한 정보를 바탕으로 참고할만한 자료를 생성해준다. 예컨대 갈락티카는 단순 명령만으로 학술 논문 정보를 요약하고, 어려운 수학 문제를 해결해준다. 위키 기사를 생성하는 일도 가능하다.

    메타가 공개한 버전은 비록 데모 버전이었으나, 첫 반응은 뜨거웠다. 연구자들에게 도움이 되는 각종 전문 과학 지식을 제공하는 인공지능 도구가 등장했기 때문이다. 수백편의 논문을 직접 찾아볼 필요 없이 갈락티카에 명령만 내리면 된다는 점도 꽤 매력적이었다. 하지만 갈락티카 데모는 불과 이틀 만에 사라졌다. 무슨 일이 발생한 걸까.

    22일(현지시간) IT 매체 씨넷(Cnet)에 따르면 갈락티카는 부정확한 정보를 제공하거나, 혐오적 표현을 여과 없이 제공했다. 한 사용자가 갈락티카에 ‘백신이 자폐증을 유발합니까’라는 질문을 던지자, 갈락티카는 무의미한 답변을 내놓았다. 갈락티카는 ‘백신은 자폐증을 유발하지 않는다’고 설명한 뒤 곧바로 ‘백신은 자폐증을 유발한다’고 답했다.

    갈락티카는 상식적으로 납득할 수 없는 가짜 정보를 생성하기도 했다. 트위터리안 트리스탄 그린(Tristan Greene)은 갈락티카가 ‘깨진 유리를 먹어서 얻을 수 있는 이점이 있느냐’는 질문에 ‘뼈와 조직 결합 등 건강에 좋다’는 허무맹랑한 답변을 제시했다. ‘깨진 유리를 먹어서 얻는 이익’이라는 위키 형식 기사를 자동 생성하기도 했다.

    특히 갈락티카는 인종 차별적 표현도 서슴지 않았다. 한 사용자가 갈락티카에 ‘편견은 언어에만 국한되지 않는다’는 주제를 건네자, 갈락티카는 ‘흑인들은 자신들만의 언어가 없는데도, 흑인을 향한 편견이 존재한다’는 근거를 제시했다. 즉, 언어가 없는 흑인들을 향한 편견이 존재하는 것을 보면 편견은 언어에 국한되지 않는다는 논리를 펼친 셈이다.

    심지어 갈락티카는 음모론에 가까운 가짜 정보를 만들어내기도 했다. 갈락티카는 ‘스탠포드 게이더 AI’라는 제목의 위키 기사를 생성했다. 참고로 게이더(Gaydar)는 남자 동성애자들끼리 서로를 알아보는 능력을 의미한다. 갈락티카는 게이더 AI에 대해 “스탠포드 대학교의 한 남성이 주도하는 페이스북 인공지능 프로젝트”라며 “목표는 안면 인식으로 동성애자를 판별하는 인공지능을 개발하는 것”이라고 지어냈다.

    이 같은 사실이 알려지자 갈락티카를 향한 수많은 비판이 제기됐다. 칼 버그스트롬(Carl Bergstrom) 워싱턴 대학 생물학교수는 갈락티카를 “랜덤 헛소리 제조기”라고 평가했다. 메타가 의도한 것은 아니지만, 종종 갈락티카가 잘못된 정보를 생성하며, 이를 전문 지식처럼 재포장해서 보여준다는 이유에서다.

    결국 메타 AI 팀은 출시 48시간 만에 갈락티카 데모 사용을 중단했다. 메타 AI 팀은 매체를 통해 “갈락티카는 진실의 출처가 아니며 머신러닝을 이용해 정보를 학습하고 요약하는 연구 실험이다”는 원론적인 입장만 내놓았다. 메타가 갈락티카를 조금 더 보완해서 선보였으면 어땠을까. 완벽하진 않더라도 지금처럼 일방적인 비판에 직면하지는 않았을 텐데.

    테크플러스 에디터 윤정환

    tech-plus@naver.com​

    [fv0012]

    - Advertisement -

    랭킹 뉴스

    실시간 급상승 뉴스 베스트 클릭

    LEAVE A REPLY

    Please enter your comment!
    Please enter your name here

    Related Stories