국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
인공지능 안전 기술의 3대 부문의 발전 현황 원문보기 1
- 국가 미국
- 생성기관 안보유망기술센터
- 주제분류 핵심R&D분야
- 원문발표일 2022-02-03
- 등록일 2022-03-04
- 권호 209
○ 안보유망기술센터(CSET)는 인공지능 안전 기술(AI Safety)의 발전 현황을 3대 세부 부문으로 나누어 분석한 보고서를 발표함
○ 인공지능 안전은 의도치 않은 인공지능의 행동을 파악하고 예방하는 것을 목표로 하는 기술적 연구로, 본 보고서는 크게 3가지의 클러스터로 나누어 분석함
- 강건성: 인공지능 시스템이 일반적으로는 잘 작동하지만 특정 상황에서 실패하는 것에 초점을 맞추는 연구로, 적대적인 예시, 데이터 포이즈닝 등의 기술을 활용함
- 해석 가능성: 머신러닝 모델의 내부적인 작동을 이해하는 것을 목표로 하며, 수백만개의 패러미터를 인간이 이해할 수 있는 형태로 전환하는 도구와 접근법을 개발함
- 보상 학습: 머신러닝 시스템이 원하는 방식으로 작동할 수 있도록 도구상자를 확장하는 방안을 발전시키는 연구로, 목적을 달성하는 것 뿐만 아니라 목적이 무엇일지를 학습하도록 함
○ 인공지능 안전 부문의 3대 세부 부문에 대한 학술적 연구 성과를 바탕으로 분석한 결과 세 부문 모두 빠른 성장세를 보이고 있는 것으로 나타남
- 미국은 모든 부문에서 선두를 지키고 있었으나, 중국이 강건성 부문의 연구에서 빠르게 성장하는 한편 유럽연합은 해석 가능성 부문에서 많은 연구 성과를 올리고 있었음
- 인공지능 전체 연구에 비해 인공지능 안전 부문의 연구가 차지하는 비중은 1%보다도 적은 것으로 나타나 앞으로 발전의 여지가 큰 것으로 분석됨
