국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
AI 위험관리 향상 : 사이버보안 조달 규칙의 교훈 원문보기 1
- 국가 미국
- 생성기관 안보유망기술센터
- 주제분류 핵심R&D분야
- 원문발표일 2024-05-15
- 등록일 2024-06-07
- 권호 265
○ 바이든 대통령은 인공지능에 대한 거버넌스를 강화하기 위한 행정명령에 서명함으로써, AI 위험관리 표준과 연방조달지침(federal procurement guidelines)을 시급히 마련하도록 촉구함
- AI 위험관리 표준과 연방조달지침 작성 시 어떻게 정부가 연방 조달규칙과 요구사항, 관행을 최대한 활용해서 공급업체가 AI 개발 모범사례를 준수하도록 할 것인가가 과제로 대두됨
○ 연방정부는 종종 산업기반에서 정책을 장려하고 시행하기 위해 상당한 구매력을 활용하며, 규정준수를 정부계약을 위한 조건으로 만들고 있음
- 일류기업의 주요 고객이라는 미국 정부의 위치는 미국의 사이버보안 프레임워크를 전세계 정부와 산업계가 수용해야 하는 '사실상의 표준'으로 만들었음
○ 공급업체 기반 내에서 사이버보안 표준을 구현하기 위한 연방정부의 조달규칙 채택과 실행은 AI에 대한 청사진을 제공하며, 다가올 어려움을 예측하는 것을 도울 수 있음
- 사이버보안 조달규칙의 실행으로 제기되는 이전의 교훈과 도전과제는 다음과 같음 : 리스크 관리 수준과 리스크 영향수준의 균형을 맞추기 어려움, 평가 요구사항에서 신뢰와 검증의 균형을 맞추기 어려움, 인력준비와 훈련을 시행하고 감시하기 어려움 등
○ 이 글에서는 AI 조달 관행과 표준을 설립하려는 정책입안가들에게 다음의 권고사항을 제시함
- AI 시스템의 잠재적 영향력과 위험수준을 평가하기 위한 표준 개발
- 연방인력에 대한 AI 위험관리 표준 교육을 의무화하고 제공하기
- 제3의 감시자를 활용하여 공급자가 AI 위함관리 표준을 준수하는지 평가하기
- 계약규칙을 활용해서 인센티브를 제공하고 필요하다면, 정부 공급업체가 AI사고 보고와 기관간 공유를 준수하도록 강제하기
- AI 위험관리 표준과 연방조달지침 작성 시 어떻게 정부가 연방 조달규칙과 요구사항, 관행을 최대한 활용해서 공급업체가 AI 개발 모범사례를 준수하도록 할 것인가가 과제로 대두됨
○ 연방정부는 종종 산업기반에서 정책을 장려하고 시행하기 위해 상당한 구매력을 활용하며, 규정준수를 정부계약을 위한 조건으로 만들고 있음
- 일류기업의 주요 고객이라는 미국 정부의 위치는 미국의 사이버보안 프레임워크를 전세계 정부와 산업계가 수용해야 하는 '사실상의 표준'으로 만들었음
○ 공급업체 기반 내에서 사이버보안 표준을 구현하기 위한 연방정부의 조달규칙 채택과 실행은 AI에 대한 청사진을 제공하며, 다가올 어려움을 예측하는 것을 도울 수 있음
- 사이버보안 조달규칙의 실행으로 제기되는 이전의 교훈과 도전과제는 다음과 같음 : 리스크 관리 수준과 리스크 영향수준의 균형을 맞추기 어려움, 평가 요구사항에서 신뢰와 검증의 균형을 맞추기 어려움, 인력준비와 훈련을 시행하고 감시하기 어려움 등
○ 이 글에서는 AI 조달 관행과 표준을 설립하려는 정책입안가들에게 다음의 권고사항을 제시함
- AI 시스템의 잠재적 영향력과 위험수준을 평가하기 위한 표준 개발
- 연방인력에 대한 AI 위험관리 표준 교육을 의무화하고 제공하기
- 제3의 감시자를 활용하여 공급자가 AI 위함관리 표준을 준수하는지 평가하기
- 계약규칙을 활용해서 인센티브를 제공하고 필요하다면, 정부 공급업체가 AI사고 보고와 기관간 공유를 준수하도록 강제하기
