국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
인공지능 시스템 분류 프레임워크 개발 원문보기 1
- 국가 미국
- 생성기관 안보유망기술센터
- 주제분류 핵심R&D분야
- 원문발표일 2021-11-10
- 등록일 2021-12-10
- 권호 204
○ 안보유망기술센터(CSET)는 인공지능 시스템을 분류하는 프레임워크를 개발하고, 이를 바탕으로 한 분류 결과를 분석한 보고서*를 발표함
* Classifying AI Systems
○ 인공지능이 빠르게 보급되면서 인공지능 시스템의 안전한 개발과 보급이 중요해졌지만, 이를 위해서는 현재 활용 중인 다양한 인공지능 시스템을 분류할 표준화된 접근법이 요구됨
- 안보유망기술센터(CSET)는 OECD의 인공지능 정책 관측소(OECD AI Policy Observatory)와 국토안보부(DHS)의 전략정책계획실과 협력해 인공지능 시스템을 분류하는 다양한 프레임워크를 개발함
- 프레임워크는 인공지능 시스템의 정책 관련 특성(자율성, 효과, 데이터 수집 방법)을 파악해 프레임워크의 요소로 활용하고 각 요소의 수준(상, 중, 하)를 결정하는 방식으로 설정됨
○ 안보유망기술센터(CSET)는 개발 결과 얻은 4개의 프레임워크를 360명의 사용자를 대상으로 1,800개의 인공지능 시스템을 분류하도록 제공하고, 프레임워크에 따른 분류 결과의 일관성을 관찰함
- 특정한 프레임워크는 보다 일관되고 정밀한 분류를 가능하게 만들어 가장 성능이 좋은 프레임워크가 가장 좋지 않은 것보다 두 배 이상의 일관성과 정밀성을 기록함
- 프레임워크에 요약 지시분(summary rubric)을 포함해 제공한 경우 그렇지 않은 경우에 비해 분류의 정밀도와 일관성이 크게 향상되었음
- 사용자는 인공지능 시스템의 효과(impact) 수준에서의 분류를 자율성(autonomy) 수준에서의 분류보다 잘 수행하였으며, 프레임워크가 더 서술적인 수준일 경우 자율성 수준에서의 분류를 더 잘 수행하였음
- 분류는 시스템에 대한 충분한 정보에 접근할 수 있는지에 따라 달라졌으며, 정보가 부족한 경우 분류 결과가 더욱 일관성이 떨어지는 것으로 나타남
* Classifying AI Systems
○ 인공지능이 빠르게 보급되면서 인공지능 시스템의 안전한 개발과 보급이 중요해졌지만, 이를 위해서는 현재 활용 중인 다양한 인공지능 시스템을 분류할 표준화된 접근법이 요구됨
- 안보유망기술센터(CSET)는 OECD의 인공지능 정책 관측소(OECD AI Policy Observatory)와 국토안보부(DHS)의 전략정책계획실과 협력해 인공지능 시스템을 분류하는 다양한 프레임워크를 개발함
- 프레임워크는 인공지능 시스템의 정책 관련 특성(자율성, 효과, 데이터 수집 방법)을 파악해 프레임워크의 요소로 활용하고 각 요소의 수준(상, 중, 하)를 결정하는 방식으로 설정됨
○ 안보유망기술센터(CSET)는 개발 결과 얻은 4개의 프레임워크를 360명의 사용자를 대상으로 1,800개의 인공지능 시스템을 분류하도록 제공하고, 프레임워크에 따른 분류 결과의 일관성을 관찰함
- 특정한 프레임워크는 보다 일관되고 정밀한 분류를 가능하게 만들어 가장 성능이 좋은 프레임워크가 가장 좋지 않은 것보다 두 배 이상의 일관성과 정밀성을 기록함
- 프레임워크에 요약 지시분(summary rubric)을 포함해 제공한 경우 그렇지 않은 경우에 비해 분류의 정밀도와 일관성이 크게 향상되었음
- 사용자는 인공지능 시스템의 효과(impact) 수준에서의 분류를 자율성(autonomy) 수준에서의 분류보다 잘 수행하였으며, 프레임워크가 더 서술적인 수준일 경우 자율성 수준에서의 분류를 더 잘 수행하였음
- 분류는 시스템에 대한 충분한 정보에 접근할 수 있는지에 따라 달라졌으며, 정보가 부족한 경우 분류 결과가 더욱 일관성이 떨어지는 것으로 나타남
