국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
안전한 AI 시스템 개발을 위한 가이드라인 원문보기 1
- 국가 일본
- 생성기관 내각부(CAO)
- 주제분류 핵심R&D분야
- 원문발표일 2023-11-28
- 등록일 2023-12-05
- 권호 253
○ 내각부 과학기술혁신추진사무국 및 내각 사이버보안센터는 영국 국가사이버보안센터(NCSC)가 미국 사이버보안 및 인프라 보안국 등과 함께 작성한 「안전한 AI 시스템 개발 가이드라인」의 '공동서명'(일본 외 G7, 한국 포함 총 18개국 참여)에 참여하고, 금번 동 문서의 일본어 번역본을 발표
- 동 문서는 Security by design(IT제품(특히 소프트웨어)의 보안 내재화)의 관점에서 소프트웨어 중 AI에 초점을 맞추어 AI를 사용하는 시스템 제공자의 보안 AI시스템 구축을 지원하기 위한 지침
- (안전한 설계) △시스템에 대한 위협을 모델화하고, 시스템 설계 시 기능 및 성능과 동등한 정도로 보안을 고려 △아키텍처, 설정, 훈련 데이터, 훈련 알고리즘 등의 요건에 따라 AI모델 선택시 보안상의 이점과 트레이드 오프를 고려
- (안전한 개발) △공급망의 보안을 확보 △관련 자산을 보호하고, 소프트웨어 부품표(SBOM) 등에 의해 데이터, 모델, 프롬프트를 문서화
- (안전한 도입) △시스템의 라이프사이클을 통해 사용하는 인프라의 보안을 확보 △지속적으로 모델을 보호하고 기밀정보에 대한 접근, 변조, 외부 절취 시도를 탐지, 방해하기 위해 적절한 통제 조치를 실시
- (안전한 운용 및 유지보수) 시스템의 작동을 감시하고 잠재적 침입, 침해 등을 감지할 수 있도록 조치
- 동 문서는 Security by design(IT제품(특히 소프트웨어)의 보안 내재화)의 관점에서 소프트웨어 중 AI에 초점을 맞추어 AI를 사용하는 시스템 제공자의 보안 AI시스템 구축을 지원하기 위한 지침
- (안전한 설계) △시스템에 대한 위협을 모델화하고, 시스템 설계 시 기능 및 성능과 동등한 정도로 보안을 고려 △아키텍처, 설정, 훈련 데이터, 훈련 알고리즘 등의 요건에 따라 AI모델 선택시 보안상의 이점과 트레이드 오프를 고려
- (안전한 개발) △공급망의 보안을 확보 △관련 자산을 보호하고, 소프트웨어 부품표(SBOM) 등에 의해 데이터, 모델, 프롬프트를 문서화
- (안전한 도입) △시스템의 라이프사이클을 통해 사용하는 인프라의 보안을 확보 △지속적으로 모델을 보호하고 기밀정보에 대한 접근, 변조, 외부 절취 시도를 탐지, 방해하기 위해 적절한 통제 조치를 실시
- (안전한 운용 및 유지보수) 시스템의 작동을 감시하고 잠재적 침입, 침해 등을 감지할 수 있도록 조치
