□ 국가차세대인공지능거버넌스전문위원회는 인공지능에 대한 인간의 통제를 위한 「차세대 인공지능 윤리규범」 발표(’21.9.)

º 「차세대 인공지능 발전계획」을 본격적으로 관철하고, 「차세대 인공지능 거버넌스 원칙」을 구체화

- 전 사회의 인공지능 윤리 의식과 행위 자각을 증진하고, 책임을 지는 인공지능 연구개발 및 응용활동을 적극 유도하며, 인공지능의 건강한 발전을 촉진

- 본 규범은 국가차세대인공지능거버넌스전문위원회에서 발표하고, 해석 및 지도 실시를 담당

- 각급 관리부문, 기업, 대학, 연구기관, 협회 학회 및 기타 관련 기관은 본 규범에 의거하여 실제 수요와 결부해 더욱 구체적인 윤리규범과 관련 조치 제정 가능

- 본 규범은 발표된 날로부터 시행되며, 경제사회 발전수요와 인공지능 발전상황에 근거해 적시에 수정

º 인공지능 관리･연구개발･공급･사용 등과 관련된 활동에 종사하는 자연인, 법인 및 기타 관련 기관 등을 위해 윤리지침을 제공

- (관리활동) 인공지능과 관련된 전략계획, 정책 법규 및 기술 표준 제정 시행, 자원 배치 그리고 감독 심사 등

- (R&D활동) 인공지능과 관련된 과학연구, 기술개발, 제품 연구 제작 등

- (공급활동) 인공지능 제품과 서비스 관련 생산･운영･판매 등

- (사용활동) 인공지능 제품과 서비스 관련 조달･소비･조작 등

º 인간복지 증진, 공평･공정 촉진, 프라이버시 안전 보호, 제어･신뢰성 확보, 책임담당 강화, 윤리적 소양 향상 등 6가지 기본 윤리적 요구사항 제시

- (인간복지 증진) 인간본위에 입각해 인간 공동의 가치관을 준수하며, 인권과 인간의 근본 이익 요구를 존중하고, 국가 또는 지역의 윤리 도덕을 준수

※ 공공이익 우선에 입각해 인간과 기계 간 조화와 친화성을 촉진하며, 민생을 개선하고, 획득감･행복감을 증진시키며, 경제와 사회 및 생태의 지속가능한 발전을 촉진하여 

인간 운명공동체를 공동 구축

- (공평･공정 촉진) 혜택성과 포용성에 입각해 각 관련 주체의 합법적 권익을 보호하며, 전 사회가 인공지능의 이점을 공평하게 공유하도록 견인하고, 사회의 공평 정의와 

기회균등 촉진

※ 인공지능 제품과 서비스 제공 시, 취약･특수계층을 충분히 존중하고 도와주며, 수요별로 상응하는 대체 방안을 제공

- (프라이버시 보안) 개인정보의 알 권리, 동의 등의 권리를 충분히 존중하며, 합법･정당･필요･성실 원칙에 따라 개인정보를 취급하여 개인 프라이버시와 데이터 안전을 보장

※ 개인의 합법적인 데이터 권익에 손해를 끼치어서는 안 되고, 절취･변조･유출 등의 방식으로 불법적으로 개인정보를 수집･이용해서는 안 되며, 개인의 프라이버시 권리를 침해해서는 

안 됨

- (제어･신뢰성 확보) 인간이 충분한 자율적 의사결정권을 가지도록 보장하고, 인공지능이 제공하는 서비스를 받아들일지 여부를 선택할 권리, 언제든지 인공지능과의 상호작용

에서 퇴출할 수 있는 권리, 인공지능 시스템 운행을 수시로 중단할 권리가 있으며, 인공지능이 언제나 인간의 통제하에 있도록 확보

- (책임담당 강화) 인간이 최종 책임 주체임을 견지하고, 이익 관계자의 책임을 확정하며, 전면적 책임 의식을 증진

※ 인공지능 전체 수명주기의 각 단계에서 자성 자율하고, 인공지능 문책 메커니즘을 구축하며, 책임 심사를 회피하지 않고, 져야 할 책임을 회피하지 않음

- (윤리적 소양 향상) 인공지능 윤리지식을 적극 학습 및 보급하고, 윤리문제를 객관적으로 인식하며, 윤리위험을 과소･과대평가하지 않음

※ 인공지능 윤리문제 토론을 능동적으로 전개하거나 참여하며, 인공지능 윤리 거버넌스 실천을 심층 추진하여 대응능력을 제고

º 인공지능 특정 활동에서 준수해야 할 윤리규범에는 관리규범, R&D규범, 공급규범과 사용규범을 포함