국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
군사용 AI 및 자동화 시스템 사용 지침 제안 원문보기 1
- 국가 미국
- 생성기관 테크모니터
- 주제분류 과학기술전략
- 원문발표일 2023-02-16
- 등록일 2023-03-17
- 권호 234
○ 미국 국무부는 인공지능(AI)을 군사적으로 책임 있게 사용하기 위해 ‘AI와 자율성의 책임 있는 군사적 사용에 대한 정치적 선언’ 프레임워크 공개
- 군사적 AI 기능을 국제법에 따라 일관되게 사용하고 핵무기 사용에 관한 주권적 결정을 알리고 실행하는 데 필수적인 모든 조치에 인간의 통제와 개입을 유지하며 고위 정부 관료가 군사적 AI 개발 및 배치를 감독할 것 등을 촉구
- 또한, 군사 AI 시스템 수명 전반에 걸쳐 엄격하게 시험･평가하고 의도치 않은 행동을 나타내는 AI 시스템을 비활성화할 수 있도록 AI를 설계하며 AI의 심각한 실패에 대비하기 위한 안전장치를 구축한다는 내용도 포함
- 프레임워크를 통해 인간의 책임 있는 지휘와 통제 내에서 군사 AI 기능이 사용되어야 한다고 주장
- 군사적 AI 기능을 국제법에 따라 일관되게 사용하고 핵무기 사용에 관한 주권적 결정을 알리고 실행하는 데 필수적인 모든 조치에 인간의 통제와 개입을 유지하며 고위 정부 관료가 군사적 AI 개발 및 배치를 감독할 것 등을 촉구
- 또한, 군사 AI 시스템 수명 전반에 걸쳐 엄격하게 시험･평가하고 의도치 않은 행동을 나타내는 AI 시스템을 비활성화할 수 있도록 AI를 설계하며 AI의 심각한 실패에 대비하기 위한 안전장치를 구축한다는 내용도 포함
- 프레임워크를 통해 인간의 책임 있는 지휘와 통제 내에서 군사 AI 기능이 사용되어야 한다고 주장
