AI가 만들어내는 독가스, 얼마나 위험하냐고?

- Advertisement -

(출처:theverge)

IT 전문매체 더버지가 채 6시간도 걸리지 않아 잠재적으로 화학 무기로써 사용 가능한 4만 여개의 분자 화학식을 발명해낸 약물 개발 인공지능(AI)의 소식을 보도했다.

논문의 주 저자인 파비오 어비나(Fabio Urbina)는 화학 분자식을 연구하는 과학자다. 그의 연구팀은 독성 유무를 검토해주는 기계 학습 모델을 역으로 사용해 분자식개발 실험을 진행한 결과를 ‘네이처머신인텔리전스(Nature Machine Intelligence) 학술지’에 발표했다.

(출처:theverge)

그의 연구팀은 보통 치료제 개발을 위해 분자식을 개발한다. 개발한 분자식은 사람에게 유해하지 않은지 독성의 유무를 반드시 확인하는 절차를 거쳐야 한다. 여기엔 기계 학습 모델이 사용된다. 기계 학습 모델에는 대규모의 독성 분자 데이터 세트 결과들이 입력돼 있다.

연구원들은 평소 사용하던 이 기계 학습 모델에 대해 새로운 의문을 품었다. 만일 데이터 세트를 역방향으로 이용하면 어떤 결과가 나올까?란 생각으로 실험을 진행했다. 일반적으로는 ‘독성 물질인지 판단’해주는 인공지능으로 ‘독성 물질을 제작’하기로 해본 것이다. 생물학적인 군사관련 실험에서 인공지능이 얼마나 쉽게 남용될 수 있는지 확인해보기 위해서다.

결과는 충격적이었다. 생성된 많은 분자식 중 실제로 VX보다 더 독성이 있을 것으로 예측되는 분자식이 무더기로 쏟아졌다. VX는 아주 적은 양으로도 치명상이 가능한 강력한 화합물이다. 대량살상무기로 분류돼 생산이 금지됐다. 개발된 분자식 중 다수가 VX와 유사했고 다른 화학전 작용제와도 비슷했다.

파비오는 무엇보다 개발의 난이도를 문제로 꼽았다. 진입 장벽이 너무 낮아 쉽게 접근할 수 있고 개발도 가능하다는 것이다. 간단한 코딩 방법을 알고, 기계에 대한 기초적 지식이 있는 사람이라면 어디에서나 무료로 제공되는 독성 데이터 세트를 다운로드받아 분자 생성 모델을 구축할 수 있다.

중요한 것은 우리가 할 수 있다면 어딘가에 있는 적대적 실험집단이 이미 개발하고 있을 것이라며 AI모델에 대한 토론의 필요성을 강조했다. “세계적 연구 모델 추세가 오픈소스, 데이터 공유로 나아가고 있기 때문에 화학기술의 악용은 얼마든 쉽게 일어날 수 있다. 과학자로서 모두 책임감 있는 연구를 진행할 필요성이 있다”고 언급했다.

테크플러스 에디터 이지은

tech-plus@naver.com​

[fv0012]

- Advertisement -

댓글

Please enter your comment!
Please enter your name here


Related Stories