□인공지능은 현재･미래 세대 아동에게 직･간접적으로 영향

○ 아동은 이미 장난감, 가상 보조기, 비디오 게임에 내장되거나 챗봇과 적응형 학습SW를 구동하는 데 이용되는 등 다양한 방식으로 AI 기술과 상호작용

 - 알고리즘은 아동에게 다음에 볼 비디오, 어떤 뉴스를 읽을지, 어떤 음악을 들을지, 누구와 친구가 될지에 대한 추천을 제공

○ AI 시스템과 아동 사이의 상호작용은 복잡하며, 아동들을 위해 설계되고 사용되는 시스템에만 국한되지 않음

 - 많은 경우에서, 심지어 AI 시스템이 아동들을 위해 특별히 고안된 것이 아닐 때에도, 아동은 AI시스템과 상호작용을 하고 있으며, 아동이 사용하지 않는 AI 시스템이 아동에게 직간접적으로 영향을 미치는 경우도 존재

○ 아동의 신체적, 인지적, 정서적, 심리적 능력의 발달 단계뿐만 아니라 상이한 사회경제적, 지리적, 문화적 맥락도 모두 AI가 아동들에게 영향을 미친다는 것을 깨닫는 것이 중요

 - 아동들의 생활과 행복은 복지 보조금, 건강관리와 교육 접근성, 가족의 주거 신청과 같이 다양한 문제를 결정하는 자동화된 의사결정 시스템에 의해 간접적으로 영향을 받음

 - 이 영향은 AI 시스템의 혜택을 누릴 수 없어 기회 상실의 영향을 받을 수 있는 개발도상국 아동을 포함한 모든 아동에게 해당

□윤리적 AI를 향한 관심 확대에도 불구, ‘아동 중심 AI’ 대책은 사실상 부재

○ 그동안 60개 이상의 국가가 광범위한 AI 정책 이니셔티브를 발표했는데, 경제 성장과 국가 경쟁력을 위해 AI 시스템을 활용하는 방법에 주로 초점을 맞추고 있음

 - AI 시스템이 견제받지 않고 배치되는 세계에 대한 우려는 이들 기술의 영향과 지배구조, 책임성에 대한 심각한 의문을 촉발

○ 이에, AI 정책과 시스템이 인류에게 봉사하고 윤리적 방식으로 발전하도록 하기 위해 정부, 정부간 기구, 기업 및 관련 단체들이 160개 이상의 AI 원칙을 개발

 - 인권 증진은 대다수 AI 원칙들의 핵심으로, 개인 정보 보호, 책임성, 안전 및 보안, 투명성 및 설명 가능성, 공정성 및 차별 금지, 인간의 기술 통제 및 직업적 책임과 같은 주제에 집중

○ AI 원칙은 모두 아동이 관여할 때 유효하며, 아동의 고유한 특성과 권리는 AI가 미치는 영향과 이들을 위해 원칙을 어떻게 다르게 적용해야 하는지에 대해 훨씬 더 깊은 성찰 필요

 - 디지털 시대에 아동의 권리에 대한 관심이 절실히 필요하지만, AI 시스템이 사회에 더 나은 서비스를 제공할 수 있도록 하기 위한 글로벌 정책과 실행 노력에 반영되지 못함

○ 모든 아동을 대상으로 한 AI 시스템의 혜택을 민주화하는 노력이 시급히 확대 필요

 - AI 시스템이 아동 관련 제기하는 고유의 기회와 위험을 인식한 다음, 특히 소외된 지역사회 아동들의 서로 다른 맥락을 인식하는 방식으로 각각 그것들을 활용하고 완화시키는 행동이 요구

 - 발달 단계와 상이한 학습 능력 등 아동의 다양한 특성을 AI 시스템의 설계와 구현에 고려 필요

□‘아동을 위한 AI’의 기초(foundations)는 3P

○ 보호(Protection = do no harm)

 - 아동은 AI 시스템의 어떠한 해롭고 차별적인 영향으로부터 보호받고 안전한 방법으로 그들과 상호작용할 필요. AI 시스템은 아동이 위해와 착취로부터 보호하는데 적극 활용되어야 함

○ 활용(Provision = do good)

 - AI 시스템이 모든 연령과 배경을 가진 아동에게 주는 기회(교육, 건강관리, 놀 권리 등을 지원)가 중요하면서도 그 활용이 적절한 경우, AI 시스템은 적극적으로 활용될 필요

○ 참여(Participation = include all children)

 - 참여를 보장한다는 것은 아동에게 AI 시스템을 구현하는데 기여할 수단과 기회를 부여하고, AI의 이용과 AI가 자신의 삶에 미칠 수 있는 영향에 대해 제대로 알고 결정을 내리게 됨을 의미. 모든 아동은 AI에 의해 도움을 받아야 하며 모두를 위한 책임있는 디지털 미래의 설계에서 주도적 역할을 담당해야 함

□‘아동 중심 AI’를 위한 9가지 요구사항(Requirements for child-centred AI)

○ 아동의 발달과 웰빙을 지원

 - AI 시스템이 아동에게 어떤 혜택을 부여토록 할 것인지 우선순위 설정(특히 AI 정책 및 전략에서) 필요

 - 아동권리접근법을 위한 설계(a design for a child rights approach)를 개발하고 적용

 ∙ privacy by design, safety by design 및 inclusion by design을 포함하는 AI 기술

 - AI 시스템을 활용하여 아동의 복지와 환경 지속가능성을 지원 및 제고

○ 아동을 포용하고 아동을 위하는 AI

 - AI 시스템을 설계, 개발, 수집, 처리, 구현, 연구, 규제, 감독하는 담당자들의 다양성을 위해 노력

 - 아동이 이용하거나 영향을 미칠 AI 제품 개발 시, 포용적 설계 방식(inclusive design)*을 채택

  * 설계에 의한 AI 포용(AI inclusion by design) 접근 방식 : 모든 아동이 연령, 성 정체성, 지리적･문화적 다양성에 관계없이 AI 제품 또는 서비스를 사용할 수 있도록 보장

 - AI정책과 설계 및 개발과정 모두에서 의미있는 아동 참여를 지원

○ 아동에 대한 공정 및 비차별에 우선순위 부여

 - 가장 소외된 아동들이 AI 시스템의 혜택을 받을 수 있도록 적극 지원

 - 이동 데이터의 다양성이 포함되도록 데이터셋을 개발

 ∙ 상이한 지역, 연령, 사회경제적 조건, 인종 등을 포함한 아동 데이터의 공평과 대표성 반영

 - 아동에 대한 편견 또는 특정 집단의 아동에 대한 편견을 제거하여 차별과 배제를 방지

○ 아동 데이터 및 프라이버시의 보호

 - 아동을 위한 또는 아동에 관한 데이터 취급 시 신뢰할 수 있는 데이터 접근법을 준수

 - 아동 데이터 보호자(data agency) 지원

 ∙ 아동이 스스로 데이터를 관리할 역량을 육성함과 아울러, 부모, 보호자, 교육자, 보육자 등이 아동 데이터 관리를 도울 수 있도록 지원 필요

 - ‘Privacy by Design’ 접근법 채택

 - 그룹 차원의 보호 고려

 ∙ 개인 차원의 정보보호를 넘어, 데이터의 집합을 통해 드러나는 그룹의 특성

(예 : 문화적 이질성 등)도 보호받을 수 있도록 조치 필요

○ 아동 안전 보장

 - AI 시스템이 아동에 미치는 영향을 평가하고 지속적으로 감시할 수 있는 메커니즘을 AI 정책 및 전략에 반영

 - 아동에게 미치는 AI의 영향을 AI 개발 전주기에 걸쳐 지속적으로 평가 및 모니터링

 - AI 시스템의 안전성, 보안성 및 건전성을 지속적으로 테스트

 - AI 시스템 활용을 통해 아동의 안전을 도모

○ 아동에게 투명성, 설명 가능성 및 책임성 제공

 - AI 시스템의 설명가능성과 투명성을 촉진할 때 아동을 명시적으로 고려 필요

 ∙ 윤리적이고 신뢰할 수 있는 AI를 위한 대다수 권고안에 설명가능성과 투명성이 언급되고 있지만, 이들이 아동의 니즈 및 역량에 부합하는 것이 중요

 - AI를 묘사할 때 연령에 맞는 언어를 사용

 - 아동과 보호자가 상호작용을 이해할 수 있을 정도로 AI 시스템이 투명해야

 ∙ 아동이 AI시스템과 직접 소통할 때 상대가 인간이라고 생각하지 않도록 하는 조치가 필요하고, 아동에게 중차대한 영향을 미치는 의사결정에서 AI가 유일한 수단이 되어서는 안 되며, 중요한 의사결정에 AI가 활용되었음을 아동과 보호자에게 고지

 - 시스템에 대한 아동의 이해와 관계없이 법률 및 정책 프레임워크에 따라 아동 사용자를 보호하고 권한을 부여 할 수 있도록 AI 시스템을 개발

 ∙ AI 시스템이 아동의 이해 부족이나 취약성을 무시하거나 악용할 수 있도록 개발되어서는 안 됨

 - 아동권리를 포괄할 수 있도록 AI 관련 규제 프레임워크를 검토, 업데이트 및 개발

∙ 윤리 지침, 법률, 표준 및 규제 기구를 포함한 거버넌스 프레임워크를 수립함으로써 AI 시스템의 적용이 아동 권리를 침해하지 않도록 감독할 수 있어야 함

 - 원칙과 규정을 준수하는 AI 감독기구를 설립하고, 잘못을 시정하기 위한 지원 메커니즘을 확립

○ 정부와 기업의 AI 및 아동권리 관련 지식 확충

 - 정책입안자, 최고 경영자 및 AI 시스템 개발자의 AI 및 아동권리에 대한 역량을 강화

 - 신뢰할 수 있고 투명한 아동 용 AI 솔루션에 대한 고객의 수요를 활용

 ∙ 이를 사업기회로 활용하는 동시에 AI 관련 위해에 대한 기업 이미지 리스크 경감도 추구 가능

 - 아동 중심 AI 인식을 확립하고, 이를 현장에서 실현할 수 있는 메커니즘을 마련

 ∙ 실무진의 저항이 있을 경우 기관장의 강력한 의지가 요구되며, 정책의 경우 경제적 득실에 좌우되지 않고 아동 및 인권을 우선

○ AI의 현재와 미래 발전에 아동을 준비시킬 것

 - AI 시대(미래의 직장 포함)에서 번영하는 데 필요한 기술 및 소프트 스킬을 포함하도록 전 세계적으로 공식･비공식 교육 프로그램을 개발하고 업데이트

 - 교사들이 자신의 AI 이해도와 역량을 평가･발전시킬 수 있도록 국가차원의 자체평가체계 도입

 - 적절한 경우 교육에서 AI 시스템을 적극 활용

 ∙ 소외된 아동, 특별한 요구를 가진 아동 및 소수민족을 위한 개인 맞춤형 교육(현행 교육으로는 충분히 배려될 수 없어 입증된 새로운 접근방식이 도움이 될 수 있는 집단) 등

 - 기업과 교육기관 간의 협업을 촉진하고 장려

 - 부모, 보호자, 사회 전반에 대한 인식 캠페인을 개발하고 홍보

 ∙ AI 리터러시, 디지털 안전, 개인정보보호 및 AI 시스템 사용에 대한 가정 내 규칙 설정의 중요성 등에 중점

○ 아동 중심 AI 활성화 환경 조성

 - 정보격차 해소를 위한 인프라 개발을 지원하고, AI 편익의 공평한 공유 추구

 - 아동 중심 AI 정책 및 전략에 자금과 인센티브를 제공

 - 시스템의 라이프사이클 전반에 걸쳐 아동을 위한, 아동과 함께하는 AI 연구를 지원

 - 디지털 협력에 참여

 ∙ AI 기반 시스템을 포함한 디지털 기술은 국경, 정책 칸막이(policy silos) 및 전문 영역을 관통하고 있지만, 현재의 국제 협력 수단과 수준은 매우 부족한 실정. 이에 UN은 디지털 공공재 창출에 대한 투자를 포함한 AI 협력에 대한 노력 강화를 권고. 아동 중심 AI가 증가하면 정부와 민간이 이러한 협력을 지원하고 자원과 접근방식을 공유함으로써 큰 혜택을 볼 수 있을 것임