주요동향 : S&T GPS

OECD, AI 시스템 라이프 사이클 발표 원문보기 1

□ OECD는 AI 시스템 라이프 사이클과 발전 방향 보고서를 발표*

* Scoping the OECD AI Principles: Deliberations of the Expert Group on Artificial Intelligence at the OECD (AIGO)

○ ’18년 5월 OECD 디지털 경제정책 위원회는 향후 사회 전반에 걸쳐 AI 과학 기술 확대를 위한 전문가 그룹*을 구성하여 AI 발전 원칙 및 라이프 사이클 이슈를 도출

* 한국 과학기술정보통신부 제 2차관 민원기 의장을 중심으로 전문가 총 50인으로 구성

- AI 시스템 3대 구성요소는 데이터를 처리하는 센서, 사람이 해석하기 어려운 복잡한 운영 원리(operational logic), 예측 제안 의사결정을 수행하는구동(actuator)임

- 특히, AI 시스템의 핵심인 운영원리는 모델구축, 모델 해석 부문으로 구성

< AI 시스템 개념도 >

8.1.PNG

○ AI 시스템이 범용적으로 적용되기 위해서는 다음과 같은 5대 원칙에 기초를 두어야 함

- (지속가능한 포용적 성장) AI 시스템이 인지하는 복잡한 정보는 사회 전반에 공정하고 평등하게 적용

- (사람 중심의 가치체계) 인류 보편적 가치 반영 및 의도대로 특정 목적을 달성할 수 있는 공정성 구비

- (투명성) 어떠한 경우라도 AI 시스템 개발 과정, 훈련 체계 및 적용 방법 이해

- (일관성) 성과 측정을 통해 안전하고 일관된 AI 시스템 운영

- (통제 가능성) 운영 결과에 대한 책임 소재 여부 및 AI 운영 통제체계 구축

○ AI 시스템은 전통적인 소프트웨어와 유사하면서도 독특한 라이프 사이클 4단계를 통해 개발

- (1단계) 디자인, 자료 및 모델 : 인공지능 시스템의 개념과 목적을 설정하고 기초 가정과 요구사항을 정립하는 계획 및 디자인 작업을 수행하고, 자료 수집 및 기초적 처리, 모델 구축 해석 등 가장 실질적인 운영체계 구축

- (2단계) 검증 : 모델의 반복적 수행 속에 정교한 교정 작업과 종합적 성능 점검 수행

- (3단계) 적용 : 파일럿 모델, 기존 시스템과의 호환성 점검, 정부 규제 요구 사항 확인, 사용자 이용결과 확인 등 실질적 적용 수립

- (4단계) 운영 및 모니터링 : 인공지능 시스템 본연의 목적과 사회 전반적 윤리 차원에서 시스템 운영 결과를 지속적으로 모니터링 수정 반영

○ 향후 이와 같은 원칙을 기반으로 시민단체, 학계, 전문가, 민간 공공부문, 노동조합 및 개개인 등 다양한 관련 주최의 협력과 참여 속에서 발전될 전망

- 특히 라이프 사이클 단계별로 내재된 오류에 대응하고, 포용적 디자인을 달성하기 위한 주체간 협력 및 위험 관리가 중요

< AI 시스템 원칙과 라이프 사이클 관련 주체 >

8.2.PNG