주요동향 : S&T GPS

영국·미국 공공기관, 인공지능 윤리 프레임워크 발표 원문보기 1

□ (영국) 국립보건임상연구원(NICE), 책임감 있는 '로보-윤리 프레임워크' 공개

◌ 인공지능 로봇을 설계·제작·상용화하는 데 있어 책임감과 투명성을 증진시키기 위한 ‘로보 윤리 프레임워크(Robo-Ethical Framework)’ 발표(7.2)

- 이 윤리 지침은 로봇 구상에서 개발까지 전 과정에 걸쳐 통용되는 기준을 수립하고 인간과의 협업 시 기준선 역할을 담당

- 그 동안 로봇 윤리 기준에 대한 많은 논의가 있었지만 이를 공식화하는 단계까지 도달하지 못했다고 설명하며 인간과 로봇 사이 상호작용을 돕고 윤리적 규범을 보장하는

5가지 지침 제시

- 이 프레임워크를 통해 RPA(Robotic Process Automation) 전반에 걸쳐 인류 발전을 위한 로봇 사용을 보장하는데 앞장서며 이러한 일련의 노력에 업계 리더가 함께할 것

을 촉구

□ (미국) 회계감사원(GAO), 책임있는 인공지능 사용 프레임워크 개발

◌ 그 간 미국 내에서 실제 범죄율과 무관하게 ‘가난한 유색인종’이라는 프레임을 학습한 인공지능으로 인해 불평등과 차별이 빈번하게 발생

◌ 이에 GAO는 경찰이 편향된 인공지능 예측을 사용한다면 인공지능은 편향된 시각을 더욱 체계적으로 습득하여 그 편견이 영구화될 것이라고 경고

◌ 인공지능은 사회적 결과에 반응할 수 없는 속도로 빠르게 발전하고 있기 때문에 이 같은 시스템을 독자적으로 검증하는 틀로서 책임있는 인공지능 프레임워크 개발

- ①데이터(Data) ②거버넌스(Governance) ③모니터링(Monitoring) ④성능(Performance) 등 4가지 분야의 원칙 제시

- 인공지능 시스템을 구현할 때 초기 문제를 식별해 해결하고 적합한 데이터 세트를 사용하는지 확인할 수 있도록 기술적 성과를 평가

- 차별과 편향을 사전에 방지하기 위해 정부 조직차원에서 거버넌스를 구축해야한다고 강조하며 조직의 가치 통합, 위험성 고려, 명확한 역할과 책임을 인공지능에 할당, 다원

적 이해관계자 참여 등을 명시

- 인공지능 시스템을 사용 중인 기업은 위험 평가를 포함한 데이터 보안 평가를 실시하고 데이터 보안 계획을 수립할 것을 촉구

- 아울러 인공지능 기술 확보, 배치 등에 있어 인재 부족이 가장 큰 걸림돌이며 완전히 새로운 인재확보 방안을 모색해야 한다고 언급