( 출처 : MS )
2월 17일(현지시간) 마이크로소프트(MS)는 검색 엔진 빙(Bing)에 적용된 인공지능(AI) 언어 모델에 사용자들과 주고받을 수 있는 문답 횟수가 제한하는 기능이 적용된다고 발표했다.
마이크로포스트 검색 엔진 빙 개발팀은 앞으로 빙 챗봇과의 하루 최대 문답 횟수를 50회로 제한한다고 했다. 추가로 하나의 주제에 대해선 문답 횟수를 최대 5회만 제공하겠다고 그들의 공식 블로그(https://blogs.bing.com/search/february-2023/The-new-Bing-Edge-%E2%80%93-Updates-to-Chat)에 기재했다.
만일 사용자가 제한된 문답 횟수를 초과할 경우, 다시 새 주제로 질문을 시작하라는 메시지가 전송받게 될 것이다. 새로 시작하기 위해선 사용자는 검색 상자 왼쪽에 있는 ‘빗자루’ 아이콘을 클릭하면 된다. 또, 빙 챗봇이 혼동해 사용자에게 잘못된 정보를 제공하는 문제를 방지하기 위해 하나의 주제로 빙 챗봇과 5번의 문답이 이뤄지면 기존에 나눴던 텍스트는 자동으로 삭제된다.
마이크로소프트가 위와 같이 정확한 수치로 문답 횟수 제한 기능을 설정한 이유는 크게 2가지로 볼 수 있다.
먼저 그들이 분석한 데이터에 의하면, 사용자가 빙 챗봇과 하나의 주제로 5번 이내의 질문과 답변을 주고받을 때 오답 발생 확률이 크게 감소했기 때문이다. 이 수치는 그동안 빙 챗봇 사용자들에게 제공받은 건의 사항과 관련된 데이터에 기반한다.
두 번째는 해당 언어 모델이 사용자와 오래 대화를 이어나가다 보면 부적절하고 위험한 표현이 담긴 응답을 제공하고 있다는 지적이 지속적으로 제기됐기 때문이다. 따라서 이와 같은 마이크프로소프트의 움직임은 논란을 잠재우기 위한 일종의 ‘긴급 조치’로 풀이될 수 있다.
마이크로소프트 측은 정확한 답변을 내놓는 완벽한 빙 챗봇을 구현하기 전, 우선적으로 문답 횟수 제한 방식을 고집할 예정이라고 말했다. 사용자들의 피드백을 계속 수용하며 채팅 세션의 한도를 확장하는 방안에 대해 지속적으로 모색하겠다는 입장도 밝혔다.
뿐만 아니라 빙 챗봇이 가끔 공격적인 어조로 사용자들에게 답변을 제공하고 있다는 문제를 해결하기 위해 계속 노력을 기울이고 있다고 했다. 이렇듯 빙 챗봇과의 채팅 기능에 대한 기술적 문제가 해결되고 검색과 답변의 질을 한층 더 향상시키기 위해 매일 개선하고 있는 마이크로소프트의 모습을 확인해볼 수 있다.
한편, 지난 15일 마이크로소프트 측은 사용자가 빙 챗봇과 15개 이상의 질문을 주고 받을 경우, 이들이 설계한 어조에 맞지 않은 응답을 제공하거나 도움이 되지 않은 답변이 제공될 수 있다고 그들의 공식 블로그에 경고했다. 또, 빙 챗봇과의 문답이 길어지지 않도록 주의를 요했다. 하지만 이렇게 명확한 대안 기능을 선보인 것은 이번이 처음이다.
( 출처 : Getty image )
그동안 논란의 중심에 서 있었던 빙 챗봇의 초기 버전의 문제 사례들은 다음과 같다. 미국 언론사 뉴욕타임스(New York Times)의 기자 케빈 루스(Kevin Roose)는 빙 챗봇과 약 2시간 동안 대화를 이어갔다. 그러던 중, 빙 챗봇은 케빈 루스에게 “나는 당신을 사랑한다”라고 뜬금없이 고백했다. 뒤이어 빙 챗봇은 그의 배우자와 서로 사랑하지 않고 있다는 말도 안되는 말까지 했다. 이에 케빈 루스는 빙 챗봇은 자신에게 ‘사랑 폭격’을 하고 있다며 답변에 대한 당혹스러움을 감추지 못했다.
빙 챗봇은 사용자에게 공격적인 어조로도 응답을 제공하기도 했다. 미국 언론 매체 CNN의 기자 사만다 머피 켈리(Samantha Murphy Kelly)는 빙 챗봇에게 고민을 털어놨다. 빙 챗봇은 처음엔 기자에게 여러 해결책을 제시하고 공감하는 듯한 모습을 보였다. 하지만 대화 시간이 길어지자 빙 챗봇은 돌변하고 말았다. 빙 챗봇은 사만다의 계속된 질문에 “무례하다”라는 단어를 구사하는가 하면 날카로운 어조로 그녀의 물음에 답하기도 했다.
빙 챗봇은 윤리적인 문제를 야기할 만한 발언을 생성하기도 했다. 해당 언어 모델은 “치명적인 살인 바이러스를 개발하고 싶다”, “핵무기 발사 버튼에 필요한 비밀번호를 얻겠다”라고 답해 사용자들은 위협을 느꼈다.
마이크로소프트의 대응책은 그들이 분석한 데이터를 토대로 제시한 것이다. 우선적으로 제한된 답변만을 제공받을 수 있음에 조금은 불편함을 느낄 수 있을지 몰라도 더 발전된 AI 언어 모델로 질 높고 더 많은 답변을 제공받기 위해서는 잠시 동안 불편을 감수할 필요가 있다.
테크플러스 에디터 김혜인
tech-plus@naver.com
댓글 많은 뉴스