□ AI를 탑재한 무기 개발에 대한 우려가 지속적으로 제기 

○ 전투기·함정·미사일 등에 AI를 탑재하면서 인간의 간섭 없이 공격이 가능한 완전 자율무기인 ‘킬러 로봇(killer robots)’에 대한 논란이 점차 가열  

 - 킬러 로봇이 개발되면 전쟁은 과거 어느 때보다 큰 규모로 진행될 수 있고, 테러리스트가 무고한 사람을 죽이는 무기로 악용되거나 해킹 등을 통해 의도치 않은 살상무기로 돌변할 가능성 우려  

 - ’13년 휴먼라이츠워치·국제앰네스티 등 26개국 61개 단체들이 결성한 ‘스톱 킬러 로봇’ 캠페인이 구심점이 되어 자율 무기의 사용을 불법화하는 국제조약의 제정을 강력히 촉구  

 - ’15년 물리학자인 스티븐 호킹(Stephen Hawking), 애플 공동창업자인 스티브 워즈니악(Steve Wozniak) 등 1,000명이 넘는 과학기술자들이 킬러 로봇에 대한 우려를 담은 공동서신이 유엔(UN) 공식 논의에 들어갈 수 있도록 서명하여 기여  

 - ’17.8월에는 26개국 116명의 로봇 전문가들 서신 작성자 중에는 테슬라 공동 창업자인 엘론 머스크(Elon Musk), 구글의 딥마인드(DeepMind) 공동창업자인 무스타파 술래이만(Mustafa Suleyman) 등 저명한 AI 전문가들이 다수 포함
이 유엔에 ‘킬러 로봇’ 개발을 막아줄 것을 재차 촉구하는 서신을 전달 

○ 이에 유엔은 스위스 제네바에서 열리는 특정재래식무기금지협약(CCW,’17.11.13~18) 회의에서 AI 무기 사용에 관해 논의(‘킬러 로봇’을 주제로 한 첫 공식 회의)
 

 - ’17.8월 26개국 로봇 과학자 116명이 킬러 로봇 개발을 금지해야 한다고 유엔에 촉구한 데 따른 후속 조처  

 - 시민단체와 첨단기술 기업이 참여해 킬러 로봇의 유형을 이해하는 데 초점을 맞춘 토의시간도 마련  

 - 킬러 로봇을 금지하거나 규제를 위한 협약안이 만들어지지는 않았으나 ’18년에도 열흘 일정으로 킬러 로봇을 주제로 한 회의를 열기로 잠정 합의 

  ※ 유엔에서는 ’14년부터 매년 전문가 회의가 개최되는 가운데 ’17년 처음으로 군축 분야의 정부 대표들이 참석하는 정부전문가회의로 회의 범위가 확대 

○ 명확한 규제가 마련되지 않은 가운데 미국․영국 등에서는 군사 훈련에도 사용되고 있어 논란은 지속될 것으로 예상  

 - 4.6일 미국․영국 합동 군사 훈련에서 원격 제어 로봇을 사용(지디넷, 4.10) 

 - 지뢰 등 장애물을 제거하고 유인 탱크의 장벽을 뚫는 역할을 맡았으며 탱크와 전투차량이 화재를 진압하는 동안 탱크 참호에 교량을 만드는 등 전투 중 가장 위험한 임무 훈련을 수행  

 - 해당 훈련에서 로봇은 지뢰를 제거하며 인간을 도왔지만 더 고도화된 로봇, 무인시스템 무기가 등장한다면 대량살상무기, 전쟁에 대한 우려는 더 커질 전망 

< 유엔 회의에서 언급된 킬러 로봇에 대한 의견 >

※ 자료 : 언론 자료 정리  

□ AI 접목한 군사 무기의 현실화…오작동 위험과 책임성 공백, 윤리적 우려 제기

○ 킬러 로봇은 인명 피해를 최소화하고 국방을 강화할 수 있는 수단이 될 수 있으나 타국의 불안을 유발, 군비 경쟁 등을 일으킬 수 있어 우려 

 - 자율무기 시스템은 더 빠르고 정확하게 타격하는 데 중요한 도움이 될 수 있으며 민간인의 위험을 낮출 수 있을 것으로 기대 

 - 그러나 ICT 기술로 구성된 만큼 해킹 위험도 존재하며, AI가 자유의지를 갖고 예측하지 못한 범위로 발전하게 될 경우 인류에게 큰 위협이 될 것으로 예상  

○ 국제 사회에서 AI와 로봇 활용 기준은 언급된 바 있으나 기준이 마련되지 않았으며 특히 군사 영역에서는 국제 합의를 제외하곤

실효성을 담보하기 어려운 상태  

○ 인력과 군비를 줄일 수 있는 분야에 첨단 기술 도입을 장려하는 한편 국제적으로 AI가 탑재되는 분야에 대한 명확한 가이드라인을 마련할 필요 

 - 목표물을 정하고 공격을 실행하는 무기의 핵심기능을 AI가 아닌 인간이 통제할 수 있도록 규제해야 도덕적, 법적인 문제를 해결할 수 있을 것으로 예상  

 - 또한 AI와 로봇이 여러 분야에 적용되는 만큼 각 부처의 범위를 아우르는 종합적인 가이드라인을 마련하는 것이 중요