인공지능 비서가 참사 일으킬 뻔…AI도 판단력 필요하다

- Advertisement -

스마트 스피커에 탑재된 인공지능(AI) 음성 비서가 심각한 사고를 초래할 뻔했다.

27일(현지시간) 영국에 사는 한 10살 소녀는 집에서 시간을 때울 만한 놀이거리를 찾고 있었다. 처음에는 유튜브를 찾아보다가, 아마존 에코(Echo) 스마트 스피커에게 도전할 만한 것이 있을지 질문했다.

그러자 에코에 탑재된 AI 비서 알렉사(Alexa)가 자칫 큰 사고로 이어질 수 있는 제안을 했다. 스마트폰 충전기를 콘센트에 반쯤 꽂고, 바깥에 노출된 단자에 1페니 동전을 가져다 대라는 내용이었다.

금속으로 된 동전이 양쪽 단자에 닿으면 전기가 흘러 감전이나 화재 사고로 이어질 위험이 있다. 다행히 현장에 있던 아이의 어머니가 제지해 사고나 인명 피해로 이어지진 않았다. 아이의 어머니는 사건 직후 이 사실을 트위터를 통해 알렸다.

사건 당시 알렉사가 제안한 내용 (출처 : 트위터 @klivdahl)

알렉사가 이처럼 위험한 제안을 한 데에는 SNS에서 유행하는 각종 ‘챌린지’의 영향이 컸다. 이번에 알렉사가 제안한 내용은 2020년에 동영상 SNS 플랫폼 틱톡(TikTok)에서 유행했던 ‘아웃렛 챌린지(#OutletChallenge)를 참조한 것으로 밝혀졌다. 콘센트에 충전기를 반만 꽂고 동전을 끼우는 챌린지로 각종 전기·화재 사고를 유발해 여러 국가의 소방당국이 위험성을 경고했다.

동전을 끼운 충전기를 콘센트에 꽂는 아웃렛 챌린지는 감전이나 화재 위험이 매우 높다. (출처 : ourcommunitynow)

아이가 ‘도전(Challenge)’해 볼 만한 것이 있는지 물어보자 알렉사가 온라인으로 챌린지 키워드를 검색했고 아웃렛 챌린지에 대해 안내했을 가능성이 높다. 알렉사가 검색할 가능성이 있는 위험한 챌린지는 이뿐만이 아니다. △가연성 액체를 몸에 뿌리고 불을 붙이는 ‘파이어 챌린지’ △공중 화장실 비품을 훔치거나 망가뜨리는 ‘화장실 챌린지’ △캡슐형 세탁 세제를 삼키는 ‘타이드 팟 챌린지’처럼 위험하거나 주변에 피해를 끼칠 가능성이 높은 챌린지들이 SNS에서 유행한 바 있다.

한편, 아마존 대변인은 해당 오류를 인지했으며 즉시 수정 조치를 취했다고 당일 발표했다. 조치가 제대로 이뤄졌다면 앞으로는 알렉사가 위험한 결과를 초래하는 답변을 하는 경우가 줄어들 전망이다. 아마존뿐만 아니라 AI 음성비서를 개발하는 기업들은 이번 사례를 반면교사 삼아 음성비서가 수집·참조하는 콘텐츠의 적합성을 보다 잘 판단하도록 개선할 필요가 있어 보인다.

테크플러스 에디터 이병찬

tech-plus@naver.com​

[fv0012]

- Advertisement -

댓글

Please enter your comment!
Please enter your name here

Related Stories