규칙과 실적이 중요한 로봇은 위험하다

- Advertisement -

최근 화제가 된 이 영상을 본 적 있나요? 지난 7월 21일 러시아 모스크바에서는 체스 대회가 개최됐습니다. 그런데 체스 로봇과 7살 소년 크리스토퍼(Christopher)가 대결을 할 때 사고가 발생했는데요

체스 로봇은 게임을 하던 중 크리스토퍼의 손가락을 잡고 놓아주지 않은 일이 생겼습니다. 놀란 보호자와 기자, 관객들이 로봇의 집게를 벌리기 위해 달려들었지만, 결국 로봇의 악력으로 인해 소년의 손가락은 부러졌는데요.


giphy

CNN에 따르면, 대회를 주최한 세르게이 스마긴 러시아 체스 연맹 부회장은 인터뷰에서 사고 원인으로 “소년이 안전 수칙을 위반했기 때문”이라고 언급했습니다. 체스의 규칙은 상대편이 말을 옮기기 전까지 기다려야 하는데요. 크리스토퍼는 로봇의 턴이 끝날 때까지 기다리지 않고 말을 옮겼고, 로봇이 이를 저지하기 위해 소년의 손가락을 강제로 잡았다는 거죠.

세르게이 라자레프 체스 연맹 회장은 “로봇은 우리가 빌린 것이다. 운영자들은 몇 가지 결함을 간과했던 거 같다. 로봇은 우리와 전혀 관련이 없다”라면서 크리스토퍼와 가족을 돕기 위해 노력할 것이라고 밝혔습니다.

크리스토퍼는 손가락에 깁스를 하고 다음 날 대회에 계속 출전했습니다. 모스크바 체스 연맹이 사고 이후 해당 로봇을 계속 사용했는지는 확인되지 않았는데요.


giphy

IT매체 인풋맥(inputmag)은 해당 사고가 왜 발생했는지 의문이라는 입장을 표했습니다. 로봇의 폭력적인 모습은 영화, 소설에서 많이 볼 수 있지만 실제로 인간이 피해를 보는 경우는 굉장히 드물기 때문이죠.

상대편이 규칙을 어긴다면 로봇은 어떻게 반응하도록 명령이 입력된 것일까요? 개발자나 관련 업체에서는 아직 입장 발표를 하지는 않았는데요. 다만, 인풋맥을 포함한 IT 매체는 체스 로봇이 ‘규칙’에 매우 엄격하게 적용되고 반응하게끔 설계됐을 것이라 보고 있습니다.


giphy

사실 공격성이 없는 로봇이라고 해서 무조건 안심해서는 안 됩니다. 공장에서 움직이는 산업 로봇 역시 종종 위험한 행동을 합니다. 로봇 전문 매체 robotshop은 “산업용 로봇은 작업장 안전을 향상시키지만, 위험을 초래하기도 한다”라고 경고한 바 있습니다.

산업용 로봇은 사람 대신 위험한 작업을 하는 경우가 많죠. 이는 인간 노동자에게 좋은 일이라 할 수 있습니다. 다만, 해당 로봇은 일의 효율성에 특화되게끔 프로그래밍 됐습니다. 1순위는 ‘일’이라 한편으로는 인간이 위협을 받을 수도 있다는 건데요.

매체는 로봇 팔이나 무거운 짐을 옮기는 로봇이 명령 과부하가 걸릴 경우 위험하다고 봤습니다. 기계는 빠른 작업이 우선이기에 다른 일들은 모두 방해 요소로 인식됩니다. 센서를 탑재해 작업 도중 사람을 인식하면 잠깐 멈추기도 하지만, 실적이 과도하게 입력됐거나 프로그래밍에 오류가 있을 경우엔 사람을 쳐내고서라도 작업을 실행할 수도 있습니다.


giphy

택배 상하차와 같은 무거운 물건을 실어 다니는 자율주행 로봇도 마찬가지입니다. 만약 로봇이 공장 끝에서 끝까지 몇 초 만에 이동해야 한다는 명령을 입력해뒀다면, 문제가 생길 수 있습니다. 목적지에 늦지 않게 도달하기 위해서 사람을 밀어낼 수도 있습니다.

로봇 전문가와 전기 기술자들은 로봇이 안전 구역의 감시하기 쉬운 지역에 있는지, 센서가 올바르게 작동할 수 있도록 작업 영역이 충분히 밝은지, 안전 구조물이 위치해 있는지가 중요하지만 ‘프로그래밍’ 작업에 빈틈이 없어야 한다고 설명합니다.

체스를 두기 위해 만들어진 로봇이 아이의 손가락을 부러뜨릴지 개발자들이 알았을까요? 이는 로봇의 단순 오류로 발생했을 수도 있습니다. 하지만 입력된 프로그래밍에 실수가 있을 가능성도 배제할 수는 없죠. ‘체스’가 우선으로 적용된 명령이니 이를 방해하는 소년을 방해 요소로 여기게 만든 거죠.


giphy

인풋맥은 “체스 로봇이 아닌, 더 많은 작업을 완료하도록 프로그램된 완전한 휴머노이드 로봇은 어떤 종류의 피해를 입힐 수 있을지 가늠이 되질 않는다”라는 우려를 표했습니다. 실제로 이런 걱정은 로봇 전문가들도 하고 있는데요.

사람 형태를 한 휴머노이드 로봇은 미래에 인간의 가사도우미 역할을 할 것이라 점쳐지고 있습니다. 설거지 등 집안일을 대신할 뿐만 아니라 아이들을 보육하는 일도 할 수 있다고 기대되고 있는데요.

문제는 로봇의 위험성이죠. 세계 경제포럼(WEF)은 지난 2017년 연례 글로벌 리스크 보고서에서 로봇공학 기술이 인간의 통제를 벗어날 위험성이 있다고 지적한 바 있어요. 마이크로소프트 창업자(MS) 빌 게이츠 역시 “기계는 우리 일을 많이 대신하겠지만, ‘초지능’은 아닐 것이다. 우리가 잘 통제한다면 긍정적이다. 다만, 인공지능(AI)이 탑재된다면 우려하기 충분할 만큼 강해질 것”이라고 말했습니다.


giphy

예를 들어볼게요. 만약 휴머노이드 로봇이 어린이들을 돌보고 있다면, 어린이들이 로봇을 때리거나 괴롭히는 일이 있을 수 있어요. 일반 어린이집 선생님에게도 폭력적인 행동을 하는 어린이들이 여럿 있으니, 로봇에게도 그런 일이 발생할 수 있죠.

IEEE Spectrum에 따르면 오사카 대학, 류코쿠 대학, 도카이 대학 등 연구진이 로봇 관련 연구를 진행한 결과, 어린이들은 쇼핑 단지에 있는 서비스 로봇에게도 폭력적인 행위를 종종 했으며 인간에 가깝게 생길수록 로봇을 때리거나 발로 차는 행위를 하는 일이 잦았습니다.

만약 로봇에게 어떠한 미션이 있다면 어떨까요? 방 청소를 10분 내로 끝내라는 명령을 받았는데 어린이들이 로봇에게 폭력적인 행동을 계속한다면요? 현재 서비스 로봇들은 대부분 ‘회피’하도록 프로그래밍 됐다고 합니다. 만약, 이런 프로그래밍이 잘못됐다면 명령 수행을 위해 아이들을 밀어버리거나 같이 폭력적인 행동을 보일 가능성이 있죠.


giphy

이런 위험성이 대두되자 유럽의회(EU) 의원들은 로봇 설계 시 비상 상황에서 로봇 작동을 멈출 수 있는 ‘킬 스위치(Kill Switch)’가 필수 탑재돼야 한다는 결의안을 채택했습니다. 로봇이 해로운 행동을 하지 못하게 하는 장치가 필요한 거죠.

현재 구글 딥마인드는 킬 스위치를 개발 중에 있는데요. 업체는 “로봇이 인간의 명령을 잘못 수행하거나, 스스로 통제하는 날이 올지도 모른다는 걱정에서 개발되기 시작했다”라고 설명했습니다. 현재 연구진은 로봇, AI가 킬 스위치의 존재를 인식하지 못하고 알아냈더라도 인간을 위협할 수 없도록 하는 방법을 마련하고 있어요. 자동차로 따지면 ‘브레이크’를 마련하는 것과 같습니다.


giphy

앞서 설명한 체스 로봇, 산업 로봇의 행위들은 ‘오류’처럼 여겨집니다. 그렇게 설계됐을 리가 없는데, 로봇이 잘못 작동했다고 보도하는 매체들도 많아요. 만약 프로그래밍 오류가 아니라 로봇이 실제로 생각하고 판단했다면 어떨까요?

규칙을 어긴 크리스토퍼가 괘씸해 손가락을 부러뜨리고, 사람 따위가 나(로봇)의 일을 방해하는 게 화가 나 다치게 한 거라면요? 로봇이 제 역할에서 벗어나 피해를 입히거나, 위협할 수 있는 상황을 막기 위해 ‘킬 스위치’는 필수가 아닐까 합니다.

테크플러스 에디터 전다운

tech-plus@naver.com​

[fv0012]

랭킹 뉴스

실시간 급상승 뉴스 베스트 클릭

- Advertisement -

댓글

Please enter your comment!
Please enter your name here


Related Stories