구글 지도, 인공지능으로 악의적인 리뷰 테러 규제한다

- Advertisement -

출처: rendia

코로나19 팬데믹으로 비대면 교류가 일상이 됐다. 온라인을 통해 정보를 공유하고 서비스를 이용하는 문화도 자리 잡았다. 특히 소비자들이 온라인 플랫폼에 가게에 대한 리뷰를 올리고 정보를 활발하게 공유함에 따라 온라인에서의 평판이 실제 매출에 미치는 영향도 매우 커졌다.

미국 컨설팅 전문 사이트 브라이트 로컬(bright local)은 지난해 11월 1124명의 미국 소비자를 대상으로 온라인 리뷰 관련 설문조사를 시행했다. 조사에 따르면 응답자의 98%가 지역 서비스 산업에 대한 온라인 리뷰를 읽고 결정에 반영했던 것으로 나타났다. 리뷰가 결정에 지대한 영향을 미친다고 응답한 분야에는 돌봄 서비스(83%), 의료 서비스(82%), 요식업(76%) 등이 있었다.

생산자들은 플랫폼 기반 서비스의 홍보 효과를 톡톡히 누리는 것으로 보인다. 대표적인 사례로 요식업에 특화된 리뷰 서비스를 제공하는 미국의 맛집 정보 앱 옐프(Yelp)가 있다. 옐프에서는 구글 지도와 연동해 지역 기반 레스토랑에 대한 정보를 제공하고 있다. 옐프에서 가게를 검색하면 구글 지도 위치 정보를 비롯해 리뷰와 가게 정보를 확인할 수 있다.

출처: idownloadblog

옐프는 현재 1억 3500만 명 이상의 이용자를 보유하고 있다. 풍부한 리뷰 데이터를 기반으로 활발한 정보 교류가 이뤄지고 있다. 소비자와 지역 기반 기업 간 교류도 활발해졌다.

2011년, 하버드 매거진(harvard-magazine)에 하버드 경영 대학원 마이클 루카(Michael Luca) 교수가 옐프 관련 연구 결과를 발표했다. 연구에는 2003년부터 2009년까지의 레스토랑 리뷰 데이터가 활용됐다. 연구 결과, 가게 리뷰 점수가 1점 상승하면 수익은 5~9% 가까이 증가하는 것으로 나타났다. 옐프에 등록된 리뷰는 산업 매출로 직결되는 효과를 보였다.

하지만 늘 좋은 영향만 있는 것은 아니다. 옐프의 2021년 신뢰 및 안전 보고서(2021 trust & safety report)에 따르면 지난해 1960만 개 이상의 리뷰가 등록됐다. 그중 1만 5500개 이상의 리뷰가 옐프의 코로나19 관련 콘텐츠 규정을 위반해 삭제된 것으로 나타났다. 특히 ‘리뷰 폭격(review bombing)’ 사례가 증가한 것으로 나타났다.

출처: hasoptimization

‘리뷰 폭격’이란 고의적으로 평판을 손상하기 위해 부정적인 리뷰를 무차별적으로 남기는 행위이다. 주로 여러 계정을 가진 소수의 사용자들이 가짜 리뷰를 등록하는 방법으로 이뤄진다.

팬데믹 관련 리뷰 폭격 사례는 옐프 전체 리뷰 폭격 사례 중 25%의 비중을 차지했다. 리뷰 폭격 사례에는 주로 가게의 백신 접종 인증 과정에 대한 불만과 마스크 착용 요청에 대한 불만이 많았다. 불만을 가진 소수의 사람들이 여러 계정을 이용해 가게에 별점 1점을 무차별적으로 업로드하는 방법으로 평판을 손상시켰다.

옐프와 연동하여 위치 서비스를 제공하는 구글 지도 또한 리뷰 폭격 문제에서 자유롭지 못하다. 구글 지도에는 매일 수백만 개의 리뷰가 지도에 게시되고 있다. 그중에는 광고성 목적을 지니거나 악의적인 의도로 작성된 가짜 리뷰들도 다수 존재한다.

출처: 24htech

옐프와 같은 기업이 자료를 공개하고 관련 문제들이 심각하게 대두되자 구글은 적절한 대책을 고심해왔다. 마침내 2일(현지시간) 구글은 구글 지도에서의 리뷰 폭격 행위를 근절하기 위한 규제 조치 목록을 유튜브와 블로그에 동영상과 텍스트 자료로 공개했다.

구글 블로그 자료에 따르면 1차적인 리뷰 검증은 구글 인공지능(AI) 기반 기술로 이뤄진다. 구글 인공지능은 머신 러닝을 기반으로 하며 대량의 자료를 분석하고 그 과정에서 유해성 여부를 판단하는 경험을 쌓는다. 판단 과정에서는 리뷰 내용을 검증하고 기존 계정 게시물 목록을 확인하는 등 전반적인 분석이 이뤄진다.

구글 지도 콘텐츠 책임자인 이안 리더(Ian Leader)는 블로그 게시물에서 “구글 인공지능(AI) 중재 시스템은 패턴 식별에 능숙하며 정책 위반에 대한 모든 검사가 가능하다”라고 밝혔다. 비정상적인 활동 패턴(별 1개, 별 5개 리뷰의 급증)을 감지할 수 있어 악의적 리뷰 폭격 행위를 비롯한 홍보성 리뷰 남용 행위를 규제할 수 있다고 설명했다.

출처: voxafrica

인공지능 1차 검증이 끝난 후에는 2차적으로 인간이 개입한다. 이 과정에서 인공지능이 유해성을 검증한 리뷰를 인간이 다시 분석하고 판단을 내리게 된다. 구글 지도 담당 인력이 반복적으로 결과를 검토하고 해당 리뷰를 완전히 삭제할 것인지를 결정한다.

또한 구글은 반복해서 유해성이 탐지되거나 사용자 신고가 이뤄진 경우 계정을 정지하거나 소송을 제기하는 등 고강도 조치를 취할 가능성도 있다고 밝혔다.

테크플러스 에디터 유주현

tech-plus@naver.com​

[fv0012]

- Advertisement -

댓글

Please enter your comment!
Please enter your name here

Related Stories