주요동향 : S&T GPS

미국, 안전한 AI의 개발･활용에 관한 행정명령 및 후속 조치 발표 원문보기 1

□ 바이든 정부는 ‘안전하고 신뢰할 수 있는 AI의 개발 및 활용에 관한 행정명령*’을 발표하고 이에 기반한 다양한 후속 이니셔티브를 공개**(’23.11.)

* Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence

** FACT SHEET: Vice President Harris Announces New U.S. Initiatives to Advance the Safe and Responsible Use of Artificial Intelligence

- 행정명령은 AI 안전과 보안에 대한 새로운 표준 수립, 개인정보 보호, 형평성 및 시민권 증진, 혁신과 경쟁 촉진, 미국의 리더십 강화 등의 내용을 담고 있음

ㅇ 11월 초, ‘AI 안전성 정상회의(AI Safety Summit)’에 참여하기 위해 영국을 방문한 해리스 부통령은 AI 행정명령에 기반한 새로운 이니셔티브를 발표

1) 미국 AI 안전연구소(US AISI, The United States AI Safety Institute) 신설

- 국립표준기술연구소(NIST) 내에 US AISI를 신설하여 AI 위험을 평가하고 완화하기 위한 지침, 도구, 벤치마킹 등 NIST의 AI 위험관리 프레임워크를 운영할 예정

- US AISI는 사람이 만든 콘텐츠 인증, AI 생성 콘텐츠에 대한 워터마킹, 유해 알고리즘 식별 등에 대한 규칙 제정 및 시행에 필요한 기술 가이드라인 개발 예정

- 또한 영국의 AI 안전연구소를 비롯하여 국제 유관기관과의 정보 공유 및 연구 협력을 수행할 계획

2) 미국 정부의 AI 활용에 대한 정책 이행 가이드라인 초안 공개

- 바이든 정부는 관리예산실(OMB)를 통해 미국 정부의 AI 활용에 대한 정책 가이드라인 초안을 공개하고 의견을 수렴

- 가이드라인은 ‘AI 권리장전 청사진’과 ‘AI 위험관리 프레임워크’ 등을 기반으로 하며, 연방기관의 AI 거버넌스 구조를 확립하고 책임있는 AI 혁신을 촉진하며 투명성을 높이고 정부의 AI의 사용으로 인한 위험을 관리하기 위한 방향을 제시