국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
AI 리스크를 둘러싼 규제 동향 (일본 기업의 AI 리스크 대응방안) 원문보기 1
- 국가 일본
- 생성기관 PWC
- 주제분류 핵심R&D분야
- 원문발표일 2024-08-07
- 등록일 2024-08-23
- 권호 270
○ PWC는 AI로 인한 위험성 및 규제동향 등에 대해 정리한 보고서를 발표
- 미국 국립표준기술연구소(NIST)가 발표한 「Artificial Intelligence Risk Management Framework(AI RMF 1.0)」에서는 AI 리스크를 7가지 요소(유효성 및 신뢰성, 안전성, 보안 및 회복력, 설명가능, 사생활 보호, 공평성, 설명책임 및 투명성)로 정리하고, 신뢰할 수 있는 AI 시스템을 구축하기 위해서는 이러한 위험을 줄이는 것이 중요하다고 강조
- 생성형 AI로 인하여 사이버 범죄, 저작권 침해, 기밀정보 누출, 제조물 책임, 대중 선동 등 새로운 위협 대두
○ AI 관련 각국의 규제 동향
- OECD 및 GPAI 등 국제기구 및 각국 정부의 규정, 기업별로 마련된 규정 등이 있으나, 대표적으로는 유럽에서 최초의 국제적 AI 법안인 인공지능법안이 발표되었으며, 미국에서는 인공지능의 안전·안심·신뢰할 수 있는 개발과 이용에 관한 대통령령 공표
- 일본에서도 총무성·경제산업성이 「AI 거버넌스의 통일적인 지침을 제시하여 혁신 촉진과 리스크 완화를 동시에 실현하는 틀을 마련해 나가는 것을 목표로 추진」하는 것을 목적으로 「AI사업자 가이드라인」을 공표
○ AI 개발자의 리스크
- AI 개발 과정에서 정확성을 중시하기 위해 프라이버시 및 공평성이 손상되거나 프라이버시를 지나치게 중시하여 투명성이 손상되는 등 리스크 및 윤리관이 서로 충돌할 수 있으므로, 이러할 경우 경영 리스크 및 사회적 영향력을 근거로 적절히 판단·수정 필요
- 미국 국립표준기술연구소(NIST)가 발표한 「Artificial Intelligence Risk Management Framework(AI RMF 1.0)」에서는 AI 리스크를 7가지 요소(유효성 및 신뢰성, 안전성, 보안 및 회복력, 설명가능, 사생활 보호, 공평성, 설명책임 및 투명성)로 정리하고, 신뢰할 수 있는 AI 시스템을 구축하기 위해서는 이러한 위험을 줄이는 것이 중요하다고 강조
- 생성형 AI로 인하여 사이버 범죄, 저작권 침해, 기밀정보 누출, 제조물 책임, 대중 선동 등 새로운 위협 대두
○ AI 관련 각국의 규제 동향
- OECD 및 GPAI 등 국제기구 및 각국 정부의 규정, 기업별로 마련된 규정 등이 있으나, 대표적으로는 유럽에서 최초의 국제적 AI 법안인 인공지능법안이 발표되었으며, 미국에서는 인공지능의 안전·안심·신뢰할 수 있는 개발과 이용에 관한 대통령령 공표
- 일본에서도 총무성·경제산업성이 「AI 거버넌스의 통일적인 지침을 제시하여 혁신 촉진과 리스크 완화를 동시에 실현하는 틀을 마련해 나가는 것을 목표로 추진」하는 것을 목적으로 「AI사업자 가이드라인」을 공표
○ AI 개발자의 리스크
- AI 개발 과정에서 정확성을 중시하기 위해 프라이버시 및 공평성이 손상되거나 프라이버시를 지나치게 중시하여 투명성이 손상되는 등 리스크 및 윤리관이 서로 충돌할 수 있으므로, 이러할 경우 경영 리스크 및 사회적 영향력을 근거로 적절히 판단·수정 필요
