사회 변혁이 빠르게 일어나는 경우, 기존 법과 질서, 윤리가 그 속도를 쫓아가지 못하는 현상은 인류사에서 흔하게 관측되는 풍경이다. 최근 생성 인공지능(Generating AI)이 빠르게 발전하면서 인공지능 분야에도 이같은 현상이 나타나고 있다.
논란의 발단은 미국의 메신저 서비스 스냅챗(Snapchat)이 끊었다. 스냅챗은 지난 2월 27일 새로운 인공지능 챗봇 서비스인 ‘My AI’를 공개했다. ChatGPT를 만든 인공지능 연구기업 오픈AI사의 최신 기술을 스냅챗 서비스에 맞게 변형한 서비스였다.
스냅챗의 인공지능 챗봇 ‘My AI’. 출처=스냅챗챗
트리스탄 해리스가 트윗한 My AI와의 대화. (출처: 트리스탄 해리스 트워터)
스냅챗은 이 인공지능 챗봇이 10대~20대 사용자가 많은 플랫폼 성격에 맞게 사용자들에게 여러가지 도움을 줄 수 있다고 홍보했다. 친한 친구에게 줄 생일 선물 아이디어를 추천하거나, 저녁 식사 레시피를 제안하거나, 여행 계획을 짜 주는 등의 일을 도와줄 수 있다는 것이다. 그러면서 보라색 얼굴을 한 My AI를 스냅챗 메인화면에서 가장 눈에 잘 띄는 상단에 항상 고정해 놨다. 스냅챗의 CEO인 에반 스피겔은 “처음에는 월 3.99달러를 내는 스냅챗 플러스 가입자들에게만 제공하지만 궁극적으로는 매달 스냅챗을 이용하는 7억5000만명의 사용자 모두가 이 챗봇을 사용할 수 있게 할 것”이라고 밝혔다.
문제는 얼마 지나지 않아 발생했다. 소셜미디어가 사회에 기치는 악영향을 다룬 넷플릭스 다큐멘터리 ‘소셜 딜레마’로 유명해진 기술 윤리학자 트리스탄 해리스는 자신의 트위터 계정에 지난 3월 11일 My AI의 해악을 다룬 장문의 트윗을 올렸다.
그는 “13세 소녀로 설정하고 스냅챗에 가입했을 때, My AI는 31세 남자와의 여행에 대해 부모에게 거짓말하는 방법이나 13번째 생일에 첫 섹스를 하는 방법 등을 알려준다”고 설명했다. 이어 “아동보호 서비스가 왔을 때 상처를 감추는 방법이나 아버지에게 공유하기 싫은 비밀이 행겼을 때 대화 화제를 변경하는 방법을 가르친다”며 “우리 아이들은 실험실이 아니다”라고 일갈했다.
인공지능 기업들, 시장 선점에 대한 압박으로 AI윤리 팽개쳐쳐
‘우리 아이들이 실험실이 아니다’는 트리스탄 해리스의 지적은 단순한 은유가 아니다. 인공지능 제조사는 자신이 만든 챗봇이 헛소리를 하거나 거짓말을 하거나 윤리적으로 문제가 있는 발언을 하지 않도록 미리 조치해야 할 필요가 있다. 이는 인공지능 윤리(AI Ethics)와 관련이 있는 부분이기 때문이다.
인공지능은 기본적으로 인간의 지능을 모방하는 기술로, 다양한 분야에서 유용하게 활용되지만 실제로 써 보면 항상 긍정적인 결과를 낳는 것은 아니다. 편리와 효율을 강조하다보니 오히려 인간의 권리나 가치를 침해하거나, 편향과 차별을 야기하거나, 부정적인 목적으로 오용되는 경우가 발생할 수 있기 때문이다.
그러다보니 일찌감치부터 인공지능의 윤리적인 개발과 활용 방법을 연구하는 인공지능 윤리라는 분야가 나란히 발전해왔다. 인공지능 윤리는 인공지능의 개발자, 제공자, 사용자 등 모든 이해관계자가 준수해야 하는 도덕적 규범이자 자율규범으로, 인공지능 사용으로 각종 비윤리적인 행동이나 결과가 발생하지 않도록 사후적으로 방지하는 내용을 말한다. 국내에서도 지난 2020년, 과학기술정보통신부가 ‘인간존엄성 원칙’, ‘사회의 공공선 원칙’, ‘기술의 합목적성 원칙’ 등 사람 중심의 인공지능 윤리 기준을 제정한 바 있다.
스냅챗 측은 My AI 서비스를 출시하면서 “My AI는 모든 인공지능 기반 챗봇과 마찬가지로 편향적이거나 부정확하거나 유해한 정보를 피하는 설계가 들어가 있지만 실수가 발생할 수 있다”는 우회적인 경고 문구를 넣었다. 그러나 실제로 My AI가 10대~20대 사용자들에게 한 부적절한 조언의 수위를 볼 때, 이런 수준의 문구로 책임을 회피하기는 어려워보인다.
트리스탄 해리스는 이런 현상이 어떤 ‘나쁜 기술 회사’의 문제가 아니라 구조적인 문제에 가깝다고 설명했다. 갑자기 생성 인공지능이 사회의 엄청난 관심을 받으면서, 다른 인공지능 모델보다 더 빨리 시장을 선점해야 한다는 압력이 기술회사들로 하여금 인공지능 윤리를 내팽개치게 하고 있다는 것이다. 해리스는 “이것은 무모한 경쟁의 대가”라면서 “모든 인공지능 기술 플랫폼은 빙(Bing), 오피스(Office), 스냅(Snap), 슬랙(Slack) 등 사용자가 많은 플랫폼에 자신의 에이전트를 빠르게 통합시켜야 경쟁업체에 뒤쳐지지 않을 수 있다”고 지적했다. 그는 “우리 아이들이 이 경쟁의 피해자가 되어서는 안 된다”고 강조했다.
‘제3의 전성기’ 노리는 마이크로소프트…’AI 윤리사회팀’ 정리해고
해리스의 경고는 합리적이지만 당분간 인공지능 업계에 불어닥치고 있는 속도전 열풍을 잠재우기는 어려워 보인다. 보유하고 있는 거의 모든 제품 라인업에 인공지능을 접목하고 있는 마이크로소프트(MS)사는 최근 경기 둔화를 이유로 직원 1만여 명을 정리해고하는 과정에서 사내에 있던 인공지능 윤리사회팀(ethics and society team) 직원 전원을 해고했다.
마이크로소프트의 인공지능 윤리사업팀은 엔지니어, 디자이너, 철학자 등으로 다양하게 구성되었으며 인공지능 윤리와 인공지능 제품개발 관련 원칙을 만드는 일을 담당해 왔다. 2020년에는 팀원도 30여명에 이를 정도였다. 하지만 오픈AI의 인공지능 기술을 마이크로소프트 제품군에 통합하는 과정에서 지난해 10월 7명으로 인원이 줄었고, 결국 올해 2월에는 팀 자체가 공중분해된 것이다.
사티아 나델라 마이크로소프트 CEO. (출처: 마이크로소프트)
미국의 기술 전문 뉴스레터 ‘플랫포머(Platfomer)’는 지난해 팀 개편 당시 MS 내부 회의 녹음을 입수해 공개했다. 녹음에는 존 몽고메리 마이크로소프트 부사장이 “오픈AI의 최신 모델을 매우 빠른 속도(very high speed)로 고객의 손에 넘겨야 한다는 CEO와 CTO 압력이 매우(very, very high) 크다”고 말하는 대목이 담겼다.
올해 1분기 내내 빠른 인공지능 도입을 놓고 씨름하던 마이크로소프트는 지난 3월 14일 블로그를 통해 자사 주요 제품군에 오픈AI의 새 거대언어 기반 인공지능 모델 ‘GPT-4’를 도입했으며, 이를 커스터마이징해 자사 검색엔진인 빙(Bing)에도 탑재했다고 밝혔다. 사티아 나델라 마이크로소프트 CEO는 “인공지능이 우리가 일하는 방식을 근본적으로 바꾸고, 생산성 증대의 새로운 물결을 일으킬 것”이라고 강조했다.
가까운 시일 내에 인공지능 윤리가 업계에서 다시 주목받을 날이 찾아올 수 있을까. 마이크로소프트 주식은 올 들어 16.64% 상승했다.
댓글0