인스타그램, 유해 콘텐츠 게시물 노출 줄인다

- Advertisement -

engadget

1월 21일(현지시각) 인스타그램 측은 잠재적으로 유해한 내용이 포함된 게시물의 노출을 줄일 것이라고 밝혔다. 구체적으로 자체 알고리즘이 혐오 발언, 폭력적인 콘텐츠 등을 포함하는 콘텐츠의 노출 우선순위를 낮추는 규제를 적용할 것이라고 설명했다.

새로운 검열 기준은 더욱 엄격해질 전망이다. 기존에 적용하고 있던 검열 기준의 경계선에 위치한 게시물까지 제한하는 등 적용 범위를 확대할 것으로 밝혔다. 인스타그램 측은 “검열의 기준에 벗어나는지 확인하기 위한 방법으로 기준에 미달했던 게시물의 표제(caption)와의 유사성을 측정해 규제할 것”라고 설명했다.

지금까지 인스타그램은 탐색 메뉴와 같이 다수의 이용자에게 유해한 콘텐츠가 노출되지 않도록 규제해왔다. 내부의 팩트 체크 기능을 이용해 잘못된 정보를 포함한 게시물은 검증하고 규제하는 조치가 있었다.

그리고 반복해서 유해한 내용이 신고된 계정의 게시물 노출 순위를 낮추는 것에 집중해왔다. 하지만 그러한 계정을 직접 팔로우하는 사람들에게는 유해한 콘텐츠가 그대로 노출되는 문제가 있었다.

crayonpanda

새로운 알고리즘을 적용하면 해당 계정으로 팔로우한 이들에게도 유해한 콘텐츠의 노출 정도가 줄어들 것으로 보인다. 인스타그램의 설명에 따르면, 사용자의 피드와 게시물 노출 순위는 팔로워와 크리에이터 간의 상호작용을 바탕으로 이루어진다. 대표적으로 좋아요를 누르고, 게시물에 코멘트를 남기는 등의 활동이 있다.

개인 유저의 게시물 업로드 기록도 콘텐츠 노출에 활용된다. “시스템이 과거에 업로드한 콘텐츠를 분석한 결과를 토대로 유해한 게시물을 올릴 가능성을 추측할 수 있다”라며, “알고리즘이 분석한 결과를 바탕으로 자동적으로 게시물의 피드 순위를 낮춰 노출을 제한할 것이다”라고 인스타그램 측은 설명했다.

theutech

하지만 이 같은 검열 규제 조치는 논란의 여지가 매우 크다. 기존의 인스타그램 노출 제한 조치로 사용되고 있는 쉐도우 밴(shadow ban)와 비슷한 맥락의 문제이다. 쉐도우 밴은 많은 소셜 미디어에서 검열 조치로 적용하고 있는 방법으로 이용자의 계정이 제한을 받고 있다는 점을 알리지 않고 슬그머니 조치를 취하는 방식이다.

이미 인스타그램과 틱톡은 쉐도우 밴을 이용해 유해한 콘텐츠를 노출하지 못하도록 활용해 왔다. 이용자가 규제 기준에 벗어난 게시물을 반복적으로 업로드할 경우 일정 시간 동안 플랫폼에서 계정의 게시물 노출이 정지된다.

이러한 조치는 플랫폼의 검열 조치에 대한 거센 비난을 불러일으켰다. 세계 각국의 사용자들이 가진 검열 기준에 대한 의견은 분분하며 정치적인 목적으로 악용될 가능성 또한 배제할 수 없다.

nytimes

게다가 작년 인스타그램의 모회사 페이스북(현 메타)에서는 내부고발 사건 논란이 있었다. 2021년 9월, 페이스북 내부고발자 프란시스 하우겐(Frances Haugen)은 내부 자료를 토대로 “페이스북 제품들은 어린이들에게 해를 끼치고, 분열을 부추기며, 민주주의를 약화시켰다”라며 윤리적 문제를 제기했고, 관련 내용들이 매체를 통해 보도됐다.

고발 내용에는 인스타그램이 10대 청소년 이용자들의 신체 이미지에 부정적인 영향을 미친다는 조사 연구가 포함되어 있었다.

실제로 소셜 미디어 관련 연구자들은 지속적으로 인스타그램 등의 SNS가 청소년의 정신 건강에 미치는 부정적인 영향에 대한 문제를 제기해온 것으로 알려졌다. 하지만 페이스북은 그 결과를 무시하고 별다른 조치를 취하지 않은 것으로 밝혀져 논란이 되었다.

이러한 문제 상황 속에서 인스타그램은 기존의 신뢰와 사회적 이미지를 회복하기 위해 고군분투하고 있으며, 이번 발표도 여기의 연장 선상에서 이루어진 것으로 보인다.

인스타그램 측은 지속적으로 정보의 투명성과 안전성을 확보하기 위해 노력할 것이라고 밝혔다. 지난 9월 메타 또한 윤리적인 메타버스 관련 외부 연구 활동을 위한 기금을 조성할 것이라고 밝혔다.

techhindustantimes

새로운 알고리즘과 시스템 환경이 완전히 정착되기까지는 시간이 걸릴 것으로 예상된다. 규제에 대한 비난과 과도한 개인 정보 수집에 대한 저항 역시 불가피해 보인다. 하지만 시스템의 환경이 뒷받침되고 관련된 사회적 합의가 이루어진다면 변화는 가속화될 것으로 보인다.

테크플러스 에디터 유주현

tech-plus@naver.com​

[fv0012]

- Advertisement -

댓글

Please enter your comment!
Please enter your name here

Related Stories