□ 백악관 과학기술정책실(OSTP)은 인공지능 권리장전을 위한 청사진*을 발표하고 연방정부의 정책 추진 방안을 제시**(’22.10.)

* The Blueprint for an AI Bill of Rights

** FACT SHEET: Biden-Harris Administration Announces Key Actions to Advance Tech Accountability and Protect the Rights of the American Public

ㅇ 인공지능 권리장전을 위한 청사진은 미국 국민을 자동화된 세계로부터 보호하고 기술이 국민을 위해 활용되도록 하기 위하여 마련됨

- 인공지능과 자동화 기술은 고용에서 주택 구매, 의료, 교육, 금융 서비스에 이르기까지 사람들의 다양한 권리와 기회, 접근성에 상당한 영향을 미침

- 그러나 한편으로는 인공지능과 자동화 기술이 사회적 불평등을 심화할 수 있기 때문에 투명성, 책임성 및 프라이버시 등을 강화할 필요가 있음

ㅇ 청사진은 미국 국민의 권리를 보호하기 위한 인공지능･자동화 시스템의 설계, 개발 및 보급에 관한 지침으로서, 5가지 핵심 보호 장치를 제시

(1) 안전하고 효과적인 시스템

- 자동화 시스템은 리스크 및 잠재적 파급효과 파악을 위해 다양한 이해당사자와 전문가의 자문을 받아 개발되어야 하며, 시스템 안정성 및 효과성 검증을 위해 보급 전 시험과 리스크 파악, 지속적인 모니터링 등의 과정을 거쳐야 함

(2) 알고리즘에 의한 차별로부터의 보호

- 자동화 시스템의 알고리즘에 의한 차별*로부터 국민을 보호하기 위해 공정성 평가를 시스템 설계 내에 포함하고, 대표성이 있는 데이터를 활용하며 지속적인 모니터링을 실시해야 함

* 자동화 시스템이 인종, 민족, 성별, 종교, 나이, 국적, 장애 여부 등에 따라 부당한 대우를 하거나 특정 그룹에 피해를 주는 경우

(3) 데이터 프라이버시

- 자동화 시스템 설계 시, 데이터 수집은 특정한 상황에서 필요한 경우에만 이루어지는 등 프라이버시 침해를 막는 설계 요소를 기본적으로 고려해야 함

- 설계자와 개발자 등은 사용자의 허가를 구하고 데이터의 수집･활용･이전･삭제 등에 대한 선택을 존중해야 하며, 데이터 수집･활용 배경에 대한 정보를 제공해야 함

(4) 안내와 설명

- 자동화 시스템의 설계자와 개발자 등은 사용자에게 전체적인 시스템 기능과 자동화의 역할, 시스템이 사용 중이라는 사실, 시스템을 책임지는 개인과 조직, 결과물에 대한 설명을 적시에 명확하게 알려야 함

(5) 대안적인 옵션

- 사용자는 필요한 경우에 자동화된 시스템 대신 사람을 선택할 수 있어야 하며, 만약 자동화 시스템에 장애가 발생하거나 결과에 이의를 제기할 경우 사람이 상황을 검토하고 해결하는 방식으로 신속하게 전환할 수 있어야 함

ㅇ 바이든 정부는 인공지능 권리장전을 위한 청사진을 바탕으로 자국민을 보호･지원하기 위한 연방정부 차원의 조치를 발표