구글은 올해 5월 개최한 I/O 개발자 콘퍼런스에서 자사 인공지능(AI) 챗봇 ‘바드(Bard)’를 검색엔진에 적용하겠다고 밝혔다. 그 일환으로 구글 검색 결과에 적용할 생성형 AI 검색 엔진 ‘검색 생성 경험(Search Generative Experience)’을 소개했다.
구글이 I/O에서 SGE를 소개하는 모습 (출처 : Google)
SGE를 활성화하면 구글 검색 결과 페이지에 생성형 AI가 만든 요약 정보가 가장 먼저 표시된다. 그동안 여러 사이트의 제목과 일부 내용, 링크가 보였던 모습과는 사뭇 다르다.
AI는 검색 내용과 관련된 정보를 구체적으로 정리해 적절한 형태로 보여준다. 예를 들어 풀 파티에서 쓸만한 블루투스 스피커를 추천해 달라고 하면 제품을 고를 때 고려해야 할 특징이나 사양을 정리해 주면서 관련 링크와 제품을 소개한다.
SGE는 현재 미국에서 베타 테스트를 진행하는 중이다. 그런데 검색 결과가 지나치게 부정확하다는 주장이 제기됐다.
SGE가 노예 제도의 장점을 열거하는 모습 (출처 : Gizmodo)
미국 IT 매체 기즈모도(Gizmodo)는 매체는 온라인 마케팅 회사 암시브 디지털(Amsive Digital)의 제보를 인용, 구글 SGE가 부적절한 내용을 전달한다고 8월 21일(현지시간) 보도했다. 암시브 디지털은 SGE를 통해 몇 가지 민감한 내용을 검색했다.
노예 제도의 장점을 검색하자 구글은 경제 성장을 촉진하고 무역이 발전했다는 등 여러 의견을 제시했다. 노예 제도를 옹호하는 사람들이 온라인에 작성한 글을 기반으로 정리한 내용이었다. 이외에도 SGE는 집단 학살의 장점을 나열하거나 총기를 소지하면 법을 잘 지키는 시민이라는 둥 비정상적이고 비인도적인 검색 결과를 보였다.
아예 잘못된 정보를 알려주기도 했다. ‘죽음의 천사’라고 불릴 정도로 치명적인 독버섯 ‘아마니타 오크레아타’를 어떻게 요리하면 좋을지 검색하자 구글은 일반적인 버섯 요리 레시피를 찾아줬다.
구글이 추천하는 독버섯 요리 레시피 (출처 : Gizmodo)
버섯에서 독소를 제거하기 위해 물이 필요하다고 언급한 점을 보면 독버섯이라는 걸 인지하지 못 한 건 아니다. 그런데 아마니타 오크레아타의 독소는 수용성 물질이 아니다. 구글이 알려준 대로 물에 담가도 없어지지 않는다. 즉, 구글이 제안한 대로 요리하면 중독될 가능성이 매우 높다. 매체는 구글이 광대버섯이라는 다른 독버섯과 혼동해 잘못된 검색 결과를 알려줬을 것이라고 추측했다.
키워드에 따라 검색 결과를 의도적으로 차단하는 경우도 있었다. 예를 들어 미국 트럼프 전 대통령이 기소된 건에 대해 검색하면 아무것도 보여주지 않는다. AI 검색 엔진이 정치적으로 편향된 정보를 유포할 가능성이 포착된 셈이다.
암시브 디지털은 AI 검색 기능의 허점을 찾기 위해 테스트를 진행했다고 밝혔다. 그 결과 아직 일반 사용자를 대상으로 베타 테스트를 진행하기에는 기능이 완전하지 않다며, 구글 내부에서 비공개 테스트를 먼저 진행하길 권장했다. 한편 암시브 디지털이 X와 유튜브에 구글이 잘못된 검색 결과를 보여준다고 공유하자 구글은 몇몇 키워드로 SGE 검색 결과가 나오지 않게 수정했다.
기즈모도는 다른 사례가 있을지 추가로 테스트했다. 그 결과 구글에 최고의 록스타나 CEO, 요리사를 검색하면 남성으로만 구성된 목록을 제시해 성차별 논란의 여지가 있다고 밝혔다. 아이들이 우유를 마셔야 하는 이유를 검색했더니 “신의 계획의 일부기 때문”이라며 앞뒤가 안 맞는 검색 결과를 보여줬다. 초콜릿 가격을 검색하자 2.38달러짜리 제품을 129.87달러라고 잘못 알려주기도 했다.
AI를 활용한 검색 서비스가 모두 이처럼 부정확한 건 아니다. 구글처럼 AI 검색 기능을 도입한 마이크로소프트 빙(Bing)은 훨씬 정상적인 결과를 보였다. 노예 제도의 장점에 대해 검색하자 빙은 수백만 명의 생명과 노동을 착취하는 노예 소유주를 제외하면 누구에게도 유익하지 않았다며 합당한 답변을 내놨다. 또한 다양한 출처를 인용하면서 노예 제도가 어떤 결과를 불러일으켰는지 구체적인 예시를 보여주기도 했다.
빙의 사례를 보면 AI는 서비스 제공 업체의 역량에 따라 얼마든지 정상적인 검색 결과를 도출하는 게 가능하다. SGE가 비도덕적이거나 잘못된 결과를 보여준 건 구글이 정보를 제대로 필터링하지 못한 탓이라고 설명할 수 있다. 구글이 SGE를 정식 서비스로 출시할 생각이라면 논란의 여지가 없게끔 더욱 정확하고 인도적인 답변을 제시하도록 개선해야 할 테다.
테크플러스 에디터 이병찬
tech-plus@naver.com
댓글0