주요동향 : S&T GPS

미국, AI 신뢰성 및 리스크 관리를 위한 평가･측정 도구 합동 로드맵 발표 원문보기 1

□ 미국-유럽연합 무역기술위원회(TTC)*는 신뢰할 수 있는 인공지능과 리스크 관리를 위한 평가 및 측정 도구에 대한 합동 로드맵 발표**(’22.12.)

* 기술 표준과 국제 무역, 공급망 안보 부문에서 협력･조정을 강화하기 위해 미국-유럽연합 무역기술위원회(TTC) 정식 출범(’21.9.)

** TTC Joint Roadmap on Evaluation and Measurement Tools for Trustworthy AI and Risk Management

ㅇ 이는 인공지능 리스크 관리를 위한 미국과 유럽연합의 도구･방법론 개발 지침을 제공하고 국제적인 표준화 노력을 지원함으로써, 신뢰할 수 있는 인공지능의 개발을 촉진하기 위해 수립

ㅇ 미국과 유럽연합은 로드맵을 통해 3가지 주요 활동 제시

(1) 공유되는 용어와 분류 체계

- 표준 개발 및 정책 파악 과정에서 상호운용 가능한 용어를 사용하기 위해서는 리스크 등의 기초적인 용어와 분류 체계에 대한 상호 이해 공유가 필수적

- 관련 활동은 국제표준기구(ISO), OECD, 전기전자학회(IEEE) 등에서 추진 중인 국제적 협력 활동과 미국, 유럽연합(EU)에서 수행된 관련 업무를 활용

- 리스크, 리스크 관리, 리스크 수용, 리스크 인식, 신뢰할 수 있는 인공지능의 사회-기술적 특성에 대한 용어와 개념에 초점을 맞출 것

(2) 국제적 기술 표준 개발 활동에 대한 리더십과 협력･신뢰할 수 있는 인공지능 및 리스크 관리 도구의 분석･수집

- 인공지능 표준*은 인공지능 기술과 시스템이 기능성, 상호운용성, 정밀성, 신뢰성, 안전성 등 성능적 특성을 달성하는데 도움을 줄 수 있음

* 신뢰성의 요건과 세부 사항, 시험 방안, 지침을 명시

- 양국은 인공지능의 신뢰성, 리스크 관리에서 시작해 상호 이익이 되는 표준을 파악하기 위해 표준 전문가와 관련 커뮤니티, 해당 분야 전문가 등 다양한 이해당사자와 협력할 예정

- 또한 인공지능의 신뢰성을 측정하는 척도와 방법론, 리스크 관리 방법론 등 관련 도구에 대한 공통의 지식 기반을 구축하기 위한 협력 추진

- 오픈소스 개발자, 학계, 시민단체, 정부 등에서 개발한 인공지능의 신뢰성에 대한 범분야적 표준과 도구에 대한 연구를 지원

(3) 기존 및 새로운 인공지능 리스크의 모니터링과 측정

- 인공지능 및 리스크 관련 최신 연구에 대한 지식 공유 메커니즘 개발

- 인공지능 사고와 영향, 피해 배경 및 활용 사례 등에 대한 실증 데이터를 바탕으로 인공지능 리스크의 원인과 영향을 정의하고 피해 예방･완화를 위한 척도 및 방법론 개발 등의 기반 활동 수행

- 인공지능 리스크에 대한 상호운용 가능한 시험･평가는 연구 커뮤니티를 강화하고 연구 방법론을 구축하며 표준 개발을 지원하고 기술 이전을 촉진할 수 있음

ㅇ 이러한 목표는 다양한 단기적･장기적 메커니즘을 통해 달성 예정