국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
AI 분야의 책무성 개선을 위한 정책 보고서 발간 원문보기 1
- 국가 국제기구
- 생성기관 OECD
- 주제분류 핵심R&D분야
- 원문발표일 2023-02-23
- 등록일 2023-03-31
- 권호 235
○ OECD가 제시하는 10대 AI 원칙 중 하나는 책무성(accountability)로, 이는 AI의 주요 주체들로 하여금 그들이 개발 및 사용하는 AI 시스템의 올바른 작동을 위한 책임을 지도록 하는 것임
- AI 주체들은 신뢰할 수 있는 AI 시스템을 위한 수단을 반드시 도입할 책임이 있으며, 이를 위해서는 AI 시스템의 전 주기에 걸쳐 위험을 관리해야함
○ AI 시스템 전주기에 걸친 위험의 관리는 다음의 네 단계를 포함함
1. 범위와 맥락, 주체와 분류를 정의함
- AI의 맥락이란 경제사회적 상황과 물리적 환경, 그리고 인간과 지구에 대한 잠재적 영향을 포함함
2. 위험을 개인, 단체, 사회 수준에서 분석함
- AI의 위험이란 AI가 설계된 형태대로, 그리고 신뢰할 수 있는 방향으로 작동하는 것을 방해하는 요소들을 의미함
3. 부정적인 영향을 중단, 예방, 또는 완화할 수 있는 방법으로 위험에 대응함
- 대응은 프라이버시를 보호하는 머신러닝과 같이 기술적인 형태일 수도 있고, 안전규정과의 정합성과 같은 과정 상의 내용일 수도 있음
4. 위험관리프로세스를 관리함
- 위험관리프로세스의 관리는 모니터링 및 리뷰, 과정의 기록, 주요 관계자 간의 의사소통, 자문, 그리고 사회의 가치 및 정부 정책을 반영하는 과정을 포함함
- AI 주체들은 신뢰할 수 있는 AI 시스템을 위한 수단을 반드시 도입할 책임이 있으며, 이를 위해서는 AI 시스템의 전 주기에 걸쳐 위험을 관리해야함
○ AI 시스템 전주기에 걸친 위험의 관리는 다음의 네 단계를 포함함
1. 범위와 맥락, 주체와 분류를 정의함
- AI의 맥락이란 경제사회적 상황과 물리적 환경, 그리고 인간과 지구에 대한 잠재적 영향을 포함함
2. 위험을 개인, 단체, 사회 수준에서 분석함
- AI의 위험이란 AI가 설계된 형태대로, 그리고 신뢰할 수 있는 방향으로 작동하는 것을 방해하는 요소들을 의미함
3. 부정적인 영향을 중단, 예방, 또는 완화할 수 있는 방법으로 위험에 대응함
- 대응은 프라이버시를 보호하는 머신러닝과 같이 기술적인 형태일 수도 있고, 안전규정과의 정합성과 같은 과정 상의 내용일 수도 있음
4. 위험관리프로세스를 관리함
- 위험관리프로세스의 관리는 모니터링 및 리뷰, 과정의 기록, 주요 관계자 간의 의사소통, 자문, 그리고 사회의 가치 및 정부 정책을 반영하는 과정을 포함함
