국내외 과학기술정책에 대한 주요 정보
주요동향
주요동향
EU, 신뢰할 수 있는 ‘인공지능(AI) 윤리 가이드 라인’ 발표 원문보기 1
- 국가 유럽연합(EU)
- 생성기관 유럽집행위원회
- 주제분류 핵심R&D분야
- 원문발표일 2019-04-08
- 등록일 2019-04-26
- 권호 141
□ 시민 복지를 바탕으로 신뢰성을 강조한 ‘AI 윤리 가이드라인’ 완성
○ 4.8일(현지시간) 유럽연합(EU) 집행위원회(EC: European Commission)는 인공지능 윤리 가이드라인(Ethics guidelines for trustworthy AI)을 공표
- EC의 독립된 AI 전문가 그룹(AI high Level Expert Group)이 ’18.12월까지 500건 이상의 관련 의견을 수렴해 초안을 제시한데 이어 이번에 최종 버전을 완성
- 모든 시민이 AI 혜택을 누릴 수 있는 인간 중심의 윤리적 목적을 달성하는 동시에 신뢰할 수 있는 기술발전 기준을 구체적으로 제시
- 신뢰할만한 AI는 일련의 요구 사항뿐 아니라 관련된 모든 법률과 규정을 준수해야 하며 이를 검증하기 위해 특정 평가 목록이 수반되어야 한다고 설명
신뢰할 수 있는 AI를 확립하기 위해 3가지 요소와 각 분야별 핵심 지침을 제시
○ 개인과 사회에 막대한 이익을 창출하고 나아가 인류 번영과 성장을 촉진하는 AI의 가능성을 극대화하기 위해 적절한 관리와 안전한 법적 기틀 마련에 초점
< EU 집행위원회, AI 윤리 가이드라인 >
3대 요소 | 핵심 지침 |
I. Foundations of Trustworthy AI | ① 인간 존중을 윤리 원칙으로 준수하는 AI 시스템 개발·배포·사용 - 자율성, 위해예방, 공정성 등을 고려 ② 어린이·장애인·고용주와 근로자 또는 기업과 소비자 간에 권력이나 정보의 불균형에 대응 - AI 기술이 불이익을 주거나 기술 혜택으로부터 배제 가능성이 있는 취약한 집단 배려 ③ AI기술이 개인과 사회에 상당한 혜택과 이익을 주지만 특정 위험도 초래할 가능성에 주의 - 위험 강도에 따라 이를 완화하기 위한 적절한 조치 필요 |
II. Realising Trustworthy AI | ① 인간의 기본권·존엄성·자율성 보장 - AI 시스템은 인간의 기본권을 보장하고 자율성을 저해하지 않는 평등한 사회를 구현할 것 ② 기술적 견고성 및 안전성 - AI 시스템 알고리즘은 모든 라이프사이클 단계에서 오류와 오작동 등 처리가 가능한 안전성을 갖출 것 ③ 개인 정보 및 데이터거버넌스 - 시민(개인)은 자신의 데이터(개인정보)를 완전히 삭제할 수 있어야하며 관련 데이터가 인간에게 해를 입히거나 차별해서는 안 될 것 ④ 투명성 - AI 시스템은 설명 가능할 것 ⑤ 다양성, 차별 금지 및 공정성 - AI 시스템은 모든 범위의 인간 능력과 기술 및 요구 사항을 고려하고 접근성을 보장할 것 ⑥ 사회·환경복지 - AI 시스템은 긍정적인 사회 변화를 주도하고 지속가능한 성장을 이끄는데 활용될 것 ⑦ 책임성 - AI 시스템과 그 결과에 대한 책임, 그 책임을 보장하기 위한 구조적 장치를 마련할 것 |
III. Assessing Trustworthy AI | ① II단계에서 언급한 요구 사항을 실제 사례에 적합하게 적용할 수 있는 기틀 마련 - AI 시스템에 대한 요구 사항과 솔루션 평가 기준 확립 - AI 시스템의 라이프사이클 전반에 걸쳐 성과를 개선하고 이에 대한 이해 관계자 참여 등 |
※ 자료 : EC, ’19.4.8일
□ EU가 윤리적이며 안전한 AI 가이드라인을 선도하는 것이 목표
○ EU 집행위원회는 각국 정부와 산업계, 학계 등과 함께 이번 가이드라인에서 규정한 세부 내용을 테스트할 계획이며 해외 기업과 국제기구도 참여할 예정
- 시범 테스트 단계를 거친 후 피드백 결과를 검토·평가하여 ’20년 초 추가 사항을 반영한 다음 단계의 가이드라인을 마련한다는 구상
○ 나아가 이번에 마련한 EU의 AI 가이드라인이 세계적으로 통용될 수 있도록 일본·캐나다·싱가포르와 AI 분야 협력을 강화하고 G7·G20 국가와도 연계해 나갈 방침
□ AI 등 첨단기술의 긍정적 발전과 확산을 위해 새로운 규범체계 연구는 필수
○ AI 기술이 진전되면서 더 이상 인간생활의 조력자가 아니라 삶의 일부로 편입·공존하는 시대가 임박
○ 하지만 다양한 편익 못지않게 부작용과 리스크 우려도 증폭되면서 국가뿐 아니라 기업·학계 등에서 첨단기술의 발전에 부합하는 새로운 규범 확립 논의가 활발히 전개
○ 특히 이번에 EU가 마련한 AI 윤리 가이드라인은 국제기구 차원에서 신뢰할 수 있는 지침을 제시했다는 점에서 의의
○ 우리 정부와 학계도 인간의 기본권리와 존엄성 등을 보장하면서 책임소재와 범위 등을 명확히 규정하는 첨단기술의 합리적 규범체계 마련에 최선의 노력 경주
