국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
인공지능 안전의 주요 개념 원문보기 1
- 국가 미국
- 생성기관 안보유망기술센터
- 주제분류 기술혁신지원
- 원문발표일 2021-03-17
- 등록일 2021-04-09
- 권호 188
○ 안보유망기술센터(CSET)는 인공지능 안전(AI Safety)의 주요 개념을 정리한 보고서*를 발표함
* Key Concepts in AI Safety: An Overview
○ 인공지능 안전(AI Safety)은 의도하지 않은 머신러닝 행동의 원인을 파악하고, 이러한 사태의 발생 가능성을 감소시키는 도구를 개발하는 머신러닝 연구의 한 부문임
- 인공지능의 한 부문인 머신러닝은 최근 이미지 분류 및 생성, 음성 및 문장 작성, 의사 결정 등의 부문에서 빠르게 발전, 보급되고 있음
- 공학 부문에서 일반적 활용되는 수학적, 연산적 도구와는 달리 머신러닝은 안전에 대한 품질 보증이 없이 제공되고 있음
- 머신러닝이 새로운 환경에서 실패하지 않을 것이라는 검증과 확인 없이는 머신 러닝의 리스크를 감소시키기 어려움
○ 인공지능 안전은 인공지능을 안전하고 신뢰할 수 있게 활용할 수 있는 3가지 기술적 솔루션에 집중하고 있음
- 견고성(robustness): 익숙치 않은 환경에서도 시스템이 안전 범위 내에서 작동하는 것을 보장함
- 보증성(assurance): 운영자가 쉽게 분석하고 이해할 수 있도록 하는 방안을 제시함
- 항목화(specification): 설계자의 의도대로 시스템이 행동하는 것을 보장함
* Key Concepts in AI Safety: An Overview
○ 인공지능 안전(AI Safety)은 의도하지 않은 머신러닝 행동의 원인을 파악하고, 이러한 사태의 발생 가능성을 감소시키는 도구를 개발하는 머신러닝 연구의 한 부문임
- 인공지능의 한 부문인 머신러닝은 최근 이미지 분류 및 생성, 음성 및 문장 작성, 의사 결정 등의 부문에서 빠르게 발전, 보급되고 있음
- 공학 부문에서 일반적 활용되는 수학적, 연산적 도구와는 달리 머신러닝은 안전에 대한 품질 보증이 없이 제공되고 있음
- 머신러닝이 새로운 환경에서 실패하지 않을 것이라는 검증과 확인 없이는 머신 러닝의 리스크를 감소시키기 어려움
○ 인공지능 안전은 인공지능을 안전하고 신뢰할 수 있게 활용할 수 있는 3가지 기술적 솔루션에 집중하고 있음
- 견고성(robustness): 익숙치 않은 환경에서도 시스템이 안전 범위 내에서 작동하는 것을 보장함
- 보증성(assurance): 운영자가 쉽게 분석하고 이해할 수 있도록 하는 방안을 제시함
- 항목화(specification): 설계자의 의도대로 시스템이 행동하는 것을 보장함
