국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
인공지능 시스템 투명성 개선을 위한 원칙 원문보기 1
- 국가 미국
- 생성기관 정보기술산업협회
- 주제분류 핵심R&D분야
- 원문발표일 2022-09-15
- 등록일 2022-10-14
- 권호 224
○ 정보기술산업협회(ITI)는 인공지능에 대한 신뢰도와 이해도를 높이기 위해 인공지능 시스템의 투명성을 개선하는 원칙을 제시하는 보고서*를 발표함
* Policy Principles for Enabling Transparency of AI Systems
○ 인공지능 기술이 발전해 감에 따라, 정책가는 어떻게 인공지능 기술의 활용으로 인해 야기되는 잠재적인 리스크에 대응할지에 관심을 기울이고 있음
- 인공지능에 대산 신뢰를 구축하기 위해서는 인공지능 시스템이 어떻게 건설되고, 운영되고, 기능하는지를 명확히하는 투명성과 어떻게, 왜 어떤 의사 결정을 내렸는지를 설명하는 책임성이 요구됨
○ 본 보고서는 인공지능 기술 제공자, 사용자, 연구자, 규제자 등 다양한 이해당사자를 고려해 인공지능 시스템의 투명성을 강화하기 위해 적용할 정책적 원칙을 제시함
- 투명성 요건을 고려할 경우 리스크 기반의 접근법을 활용하고, 투명성을 명확하게 정의하며, 투명성 강화와 신뢰 개선을 통해 다른 방안이 있는지 고려할 것
- 관련 법안 내에 기초적인 권리를 침해받은 사용자에 인공지능 의사결정에 대한 충분한 정보를 제공하고 의사 결정 과정을 검토, 항의할 능력을 제공할 것
- 투명성 요건으로 기업이 민감한 지적재산권을 노출하지 않도록 하고 자발적인 국제 표준을 활용하며, 인공지능 시스템이 직접적으로 사용자와 상호작용할 경우 쉽게 파악될 수 있도록 공개 요건을 만들 것
* Policy Principles for Enabling Transparency of AI Systems
○ 인공지능 기술이 발전해 감에 따라, 정책가는 어떻게 인공지능 기술의 활용으로 인해 야기되는 잠재적인 리스크에 대응할지에 관심을 기울이고 있음
- 인공지능에 대산 신뢰를 구축하기 위해서는 인공지능 시스템이 어떻게 건설되고, 운영되고, 기능하는지를 명확히하는 투명성과 어떻게, 왜 어떤 의사 결정을 내렸는지를 설명하는 책임성이 요구됨
○ 본 보고서는 인공지능 기술 제공자, 사용자, 연구자, 규제자 등 다양한 이해당사자를 고려해 인공지능 시스템의 투명성을 강화하기 위해 적용할 정책적 원칙을 제시함
- 투명성 요건을 고려할 경우 리스크 기반의 접근법을 활용하고, 투명성을 명확하게 정의하며, 투명성 강화와 신뢰 개선을 통해 다른 방안이 있는지 고려할 것
- 관련 법안 내에 기초적인 권리를 침해받은 사용자에 인공지능 의사결정에 대한 충분한 정보를 제공하고 의사 결정 과정을 검토, 항의할 능력을 제공할 것
- 투명성 요건으로 기업이 민감한 지적재산권을 노출하지 않도록 하고 자발적인 국제 표준을 활용하며, 인공지능 시스템이 직접적으로 사용자와 상호작용할 경우 쉽게 파악될 수 있도록 공개 요건을 만들 것
