① AI의 효용성

□ (AI 활용가치) 대부분 기업들은 ANI를 중심으로 ‘효율’, ‘효과’, ‘데이터기반’으로 이루어지고 있으며, 공공적용에서의 가치가 높을 것으로 예측

○ AI 관련 기업들은 인공지능 기술을 주로 의사결정 및 의사결정과정에서의 효율성을 증대시키거나 조직 효율성 증대와 고객 참여 증대를 위한 도구로서 활용

- AI 활용가치는 경제적 관점도 중요하지만 효율성, 고객참여 증대 등 기업입장의 외부서비스 확장 및 공공 부분에서의 활용 가치도 부각

< AI 활용분야에 대한 기업의 예측 설문 >

□ (AI서비스의 공공 적용 필요성) 전통적으로 공공영역은 서비스의 특성상 효율성보다는 형평성이 더 강조된 영역으로 다소 비효율적인 서비스가 이루어진 영역

○ 공공영역에 효율성과 최적화된 맞춤형 서비스가 강조된 AI 기술 적용은 공공의 비효율성을 제거할 수 있는 좋은 기술

○ AI는 합리성 및 효율성을 기반으로 하는 행정의 본래 취지에 부합. 즉, 행정과 정책결정은 데이터 기반으로 거시적, 미시적 정책분석 및 대응 가능

- (데이터 기반 실시간 정책결정) 공무원의 경험 역량에 의존에서 데이터와 근거에 기반하며 역사에 근거하지 않은 실시간 분석 기반

- (거시적·미시적 정책 추진) 사례와 경험에 기반한 정책대응은 자칫 미시적이거나 거시적인 정책으로 쏠림이 발생할 수 있으나 인공지능에 의한 정책결정은 양 극단의 정책 추진 가능

- (행정비용의 최소화) 민원업무 질의 등 단순 반복적인 대국민 서비스 업무의 인공지능 대체시 행정비용의 최소화 및 효율성 달성 가능

< AI 공공분야 적용 예시 >

□ (이론적 접근) 에반스는 바람직한 관료제(공공서비스)는 경제성장으로 이루어지는 가정을 가지고 있으며 PA모델은 정보격차에 해소에 관심

○ (부패와의 단절) 경제학자 에반스는 베버의 실적주의 관료제가 잘 이루어지기 위한 가설을 제시하고, 동아시아 국가에 대한 효율성 평가시 독립변수 요인으로 실적, 승진, 급여를 종속 변수 요인은 5가지를 제시하였는바 규제환경 등을 제외하면 모두 부패와 연관되어 있음

- AI는 정보공개, 인센티브, 부패 등과 같은 전제에서 자유로움. AI의 부정적 요소를 제외한다면 서비스 영역에서의 활용은 필수적

○ (정보격차문제 해소) 바람직한 서비스는 기존의 주인-대리인(Pricipal-Agent Model) 이론에 의하여 논의되고 있으며 주로 부패에 대한 통제에 집중되어 있음. 이를 위해 정보공개, 인센티브제도에 의한 보완을 주장

- 직접 업무를 수행하는 대리인은 주인보다 많은 정보를 지니고 있어 주인의 의도를 정확히 파악하지 못할 수 있음. 데이터 기반의 문제처리는 주인의 요구, 즉 문제점을 명확히 파악하여 이에 부합하는 서비스 제공이 가능

- 대리인의 역선택 문제 해소 가능, 주인보다 많은 정보를 지닌 대리인은 주인의 이익과 다르게 행동 가능, 공무원이나 일선관료는 주인이 아닌 본인의 승진, 이해관계인의 이득을 위한 모럴해저드가 발생할 수 있으나 AI는 이러한 문제 해소

□ (활용 방향) 대부분의 기업들은 ANI를 중심으로 ‘효율’, ‘효과’, ‘데이터기반’으로 이루어지고 있음, 공공적용에서의 가치가 높을 것으로 예측

○ 무엇을 서비스 할 것인가? 와 관련하여 AI의 활용분야는 인간의 활동분야를 총 망라하므로 그 제한이 없음. 기술발전과 제도의 보완으로 얼마나 빨리 대체 가능한가가 쟁점임

○ AI 관련 기업들은 인공지능 기술을 주로 의사결정 및 의사결정과정에서의 효율성을 증대시키거나 조직 효율성 증대와 고객 참여 증대를 위한 도구로서 활용

② 공공에서의 AI 기술 활용 전망과 사례

□ (공공부분에서의 활용 예측) ’17년 기점 공공영역에서의 AI활용을 통하여 얻을 수 있는 부가가치는 ’25년에 이르러 약 5조 6천만 US$로 예측하고 이로 인하여 World  GDP가 1.93% 추가 성장할 것으로 예측(Capgemini, 2017)

○ AI를 활용해 공공 의사결정의 최적화를 통한 효율과 생산성 증대, 일자리의 증대를 통하여 AI의 부가가치와 World GDP 향상을 예측

- 중립적 전망은 약 4조 달러의 부가가치 창출과 1.4%의 추가 World GDP 향상, 회의적 전망은 약 2.5조 달러와 0.9%의 World GDP 성장 예측

< AI로 인한 공공영역과 비용절감과 World GDP 영향 >

※ 자료 : Capgemini, 2017

□ (방대한 공공데이터의 활용성) AI Quality = DATA Quality, AI는 데이터를 통한 학습과 이를 기반으로 한 범용 AI로의 발전궤적을 지님

​

○ 개인정보를 비롯한, 금융, 의료 등 전 산업 분야에 걸쳐 공공부분은 방대한 데이터를 지니고 있음. 이를 기반으로 한 각종 AI 개발 필요

- 정부는 마이데이터라는 사업추진을 통해 금융 분야 신용정보의 활용도를 높여 신사업 발굴과 금융서비스 산업경쟁력 제고를 추구

- 미국 정부 역시 공공데이터 개방을 통해 AI 미래 준비를 해야한다는 정책적 기조

□ (美 네바다 주의 인공지능기반 식중독 예방프로그램) 미국 남부 네바다 보건당국은 식중독 예방을 위한 식당 위생검사를 Random 방식에서 인공지능을 통한 대상선정 방식으로 전환

○ Rochester 대학은 라스베이거스에서의 식중독 예방과 이를 검사하는 툴을 개발하고, 네바다 보건당국(Southern Nevada Health District:SNHD) 트위터에서 각종 데이터를 수집하고, 이를 인공지능이 위험지수로 환산하여 검사대상을 정하는데 인간의 개입비율은 15%로 제한(NSF, 2016.7.)

- 예를 들어 SNS상 “I feel nauseous”라고 문장이 발견되고, 음식과 연관된 질병의 특징을 지니는 언어적 특징을 발견하는 알고리즘을 지닌 AI nEmesis로 분석 결과, 식중독 문제식당 발견비율이 9%에서 15%로 향상됨

□ (美 스마트 시티에서의 활용) 보스톤시는 빅데이터 기반행정을 위하여 전화, 전용 앱 등을 활용. 뉴욕시의 경우 시의 공공데이터 활용 촉진을 위한 SW개발을 시민에 공모

○ (보스톤시 데이터 분석 전담조직) 보스톤시는 해당 시 전역을 커버하는 데이터 분석팀을 설치 및 데이터 분석가를 배치하여 행정에 활용

○ (보스톤시 전화, SNS를 통한 데이터 확보) 보스톤 311 Call 및 전용 App활용을 통한 민원 정보 수집 및 대응

- 민원대상은 도로 파손, 낙서와 같은 소소한 문제점, 쓰레기, 주차문제를 해결하기 위해 활용

○ (BM Watson의 ANI 활용) 보스톤 311로 수집된 정보를 빠르게 분석하는 실시간 데이터 분석을 통한 대응과 다양한 분석

< 보스톤시의 빅데이터 활용과 AI 적용 추진 >

□ (일본정부의 AI 활용) 일본정부는 정부가 보유한 엄청난 양의 정보 활용을 추진할 경우 행정의 효율성을 높일 수 있다고 판단

○ (회의 의사록 분석) 일본 내각부 “인공지능과 인간사회에 관한 간담회”에서는 AI가 회의 의사록을 분석(2016.5.~)

- 회의에서의 논의 경향이나 내용분석을 통해 정책결정에 반영하였으며 AI의 행정영역 검토를 통하여 향후 AI 도입을 체계화하고 있음

< 일본정부의 AI 활용 분야 >

※ 자료 : 일본 행정연구소(2016)

□ (싱가포르정부의 AI 활용) 싱가포르는 스마트 국가 정책에 있어 인공지능이 중요한 것으로 판단하고, AI를 민간뿐 아니라 공공에서도 활용 추진

○ Accenture 발표 리포트에 따르면 AI활용시 가장 성공적인 국가로 싱가포르를 선정하였으며, AI가 싱가포르 개발에 중요한 역할을 할 것으로 보면서 연 경제성장률이 3.2%에서 2035년 5.4%까지 증가할 것으로 예측

- 싱가포르 정부는 AI 시대 스마트국가 실현을 위해 데이터 분석 및 수집력이 중요하다는 판단아래 정부기관과 공공데이터 포털센터를 구축

- 이외에도 자율주행버스, 택시 노인들을 위한 로봇 운동도우미, 의료 분야에 AI 도입 추진

- 싱가포르는 정책적으로 AI를 중심으로 국가 CTO임명 등 과감하고 책임 있는 조치를 성공적으로 이행하고 있으며

- Business·Financial Service(안면인식을 통한 임차인 확인, AI smart stock investment), Manufacturing(Zero downtime factory, 예방적 유지보수),  법률서비스분야 (LawGeex AI) 도입 등에 있어서 부가가치를 얻을 것으로 Acenture는 평가

< AI의 국가성장률 기여도 >

※ 자료 : ACCENTURE, 2018

□ (국내 남양주시 데이터 기반 행정 사례) 아직 ANI로 보기는 힘드나 빅데이터 분석을 행정에 활용. 교통분야 빅데이터 적용 후 보건, 복지, 농업분야로 확대 및 향후 AI 적용이 가능한 토대를 마련

○ (교통분야) 대중교통 승객 수, 국민연금공단 데이터 등 분석을 통하여 버스노선과 배차 간격 조정, 택시 블랙박스 영상과 연계를 통하여 사고·재난 등이 발생하면 도로 전광판에 즉시 상황 전파

○ (방역분야) 기온·강우량과 방역민원의 상관관계를 분석해 파리·모기의 방역시기를 예측하고 방역지도 제작

○ (재난대비) 과거 기상청 호우주의보 발령시 전원 비상근무를 했으나 재난 및 강우량 데이터를 분석하여 피해가 우려되는 경우에 한하여 탄력적 비상근무. 이를 통해 초과 근무수당 절감 및 비효율적인 대기시간 감축

○ (일자리 지원 등) 지역 내 구직자와 지역 내 구인 업체 간 일자리 미스매치를 해소하기 위하여 실업현황 등 데이터 분석을 통하여 일자리 알선 지원

- 남양주시는 많지 않은 예산으로 데이터 기반의 행정을 추구하여 비용 절감 등 추진으로 최우수 혁신사례상 수상

< 남양주시 빅데이터 행정 사례 >

③ AI 활용시의 부작용

□ (AI 기반 서비스 부작용) 시민에 대한 무차별적인 감시와 통제, AI 윤리기준, 일자리, 세금, AGI 기술적 한계

○ (시민 감시와 통제) 지능화된 CCTV를 통하여 시민에 대한 무차별적인 정보 접근과 통제가 가능, 조지오웰의 1984와 같이 ‘텔레스크린’을 통해 시민을 24시간 감시와 통제

○ (윤리적 판단의 불가능성) 자율주행자동차의 트롤리의 딜레마와 같이 AI는 인간과 같은 윤리적 판단이 어려울 수 있음

○ (일자리 문제) ANI의 단순 반복적 행정업무에 대응하는 인력의 구조조정이 가능해져 일자리의 상실과 새로운 일자리의 창출이 필요

- 단기적으로 콜센터 챗봇 활용시 직원 해고가 아닌 직원 어시스턴트 역할 수행토록 조정

○ (부작용 실제 사례) AI기반 업무처리시 광범위한 문제 발생이 가능하며 민간영역에서도 많은 부작용이 발생하여 프로젝트가 중단

- (경비로봇의 인간 공격) 2016년 실리콘밸리의 ‘경비’로봇이 두 살 유아를 공격 상해

- (인공지능로봇의 인류파괴 발언) ｢비나48」은 “내가 크루즈 미사일을 해킹할 수 있다면 세계를 인질로 잡아 통치”, ｢소피아」는 인류를 파괴하고 싶냐는 질문에 “인류를 파괴하고 싶다”라고 응답, ｢노먼(Norman)」은 살인 등과 같은 반사회적 데이터 학습으로 인공지능 사이코 패스가 되어 버림

< 윤리문제로 실패나 규제대상이 된 AI >

※ 자료 : Youtube 외 방송자료

- (자율주행자동차의 사고) 무인자율주행자동차가 사고를 발생하는 것 역시 부작용 사례의 하나임. 실제 자율주행차의 사고 발생시 자율주행자동차에 대한 시험 중단 및 규제강화의 조치가 잇따름

- (드론 공격) 베네수엘라 니콜라스 마두로 대통령이 드론 폭발물 공격을 받거나 아베신조 일본총리 관저에 방사능 물질이 포함된 드론 추락

 ※ 드론 공격사건 이후 국회의사당, 수상관저, 원전, 국가의 중요시설에서의 소형 무인기 등의 비행금지 구역을 정한 “소형 무인기 등 비행 금지법” 공포 시행(’16.6.30.)

- (군사용 프로젝트 중단) 여기에 구글은 드론에 AI기술을 적용하는 ‘메이븐프로젝트’ 진행을 하다 내부 반발로 중단됨

 ※ ‘Project Maven’은 인공지능 기술을 기반으로 국방부가 수집한 영상정보를 해석하는 등 무인항공기의 공격목표를 향상하기 위한 미 국방부 프로젝트 였으나 안팎의 비난으로 인하여 중단

④ AI 활용을 위한 준비

□ (공공의 역할) 개별 기업은 빅 데이터 축적과 이를 활용하기 위한 알고리즘을 개별하기 어려운 실정이므로 데이터 인프라와 기술 제공 필요

○ 정부의 데이터 축적과 공공데이터의 민간 활용성 강화

- 한국 정부도 행정안전부가 민간 클라우드 서비스 이용범위를 공공기관뿐만 아니라 중앙부처·지방자치단체까지 확대하고 공공기관의 민간 클라우드 사용 제한(공공기관의 민간 클라우드 이용 가이드라인)을 전면 폐지(9.4.)하면서 클라우드 적용에 가속도가 붙을 전망

- 금융위원회도 ’19년부터 개인신용정보 등 금융사가 보유한 사실상 모든 정보를 클라우드에서 활용할 수 있도록 관련 규제 완화할 예정

- 미국 네트워크 전문기업 시스코(CISCO)는 클라우드 시장 세계 1위 업체인 아마존웹서비스(AWS)와 파트너십을 체결(11.8.). 아마존과 공동으로 공공(Public) 클라우드와 사설(Private) 클라우드를 혼합하는 하이브리드 클라우드 솔루션을 제공

- 인도의 경우 국민 개개인의 생체정보를 담은 신분증 플랫폼 ‘아드하르(Aadhaar: ‘기초’를 의미하는 힌두어)’를 구축

- 이를 기반으로 공공생필품배분제도(PDS: Public distribution system), 고용지원프로그램 등과 관련한 보조금을 아드하르와 연계한 계좌에 직접 지급하며 복지 서비스 제공 절차를 간소화·투명화하는데 일조

 ※ 아울러 그 동안 금융서비스 접근성이 낮았던 소외계층도 은행계좌 개설이 가능해 정부의 각종 혜택을 제공하는데 용이

 ※ 필리핀 정부는 주민등록증이 없는 약 740만 명의 인구 보호(의료, 금융 혜택을 받지 못해 고리대금 등 이용)를 위해 이를 도입하는 방안 검토

○ (AI 서비스 프레임의 제공) ETRI는 무료 AI 엔진을 제작 배포, 공공기관이나 기업이 이를 활용할 수 있도록 제공

□ (ELSI) AI도입시 Ethical, Legal, Social lmplication을 고려 필요

※ ELSI는 인간게놈 프로젝트 진행과정상의 문제점을 보완하기 위하여 게놈프로젝트 총 연구비의 5%를 할당하여 별도 연구로 진행(유전자 지도 완성 후 이를 활용할 경우 건강정도에 따른 차별적 조치로 막대한 사회문제 야기)

○ 기술적으로 완성된 AI가 활용되는 시점에서의 문제 즉, 사례에서 본 AI의 사용 중단은 대부분 윤리적 이슈와 직면해서 발생한 문제로서 윤리적인 요소는 AI 활성화를 위한 중요 사항임

- 윤리적 이슈는 ’19년 Gartner의 10대 이슈 중 하나(Digital ethnics & Privacy)로 제시되기도 함

- 삼성전자는 윤리적인 AI 연구와 개발이 이뤄지도록 설립된 구글, 아마존, 페이스북 등이 가입한 국제협력단체에 가입(PAI;Patnership on AI)

< ELSI 최근 연구 주제 >

​

○ (사회적 문제(일자리)) 정보기술은 소수의 고숙련 노동자들이 혜택을 독식, 반면 저임금 노동자 일자리의 상실로 사회안정망 확보와 새로운 기술 교육이 필요

- 미국은 AI도입 전환기를 대비하여 사회보장(고용보험·의료보험) 등 빈곤가정을 위한 지원프로그램 강화와 새로운 일자리 창출에 대비(2016, 美 백악관, 2018, WEF)

- 한국의 경우 ICT, 자동차, 화학, 금속 및 석유정제 산업이 전체 제조산업의  총생산량의 54.6%를 담당(2016, KEIS)

 ※ 화학산업을 제외한 4개 분야의 일자리는 자동화 지수가 높아질수록 고용이 감소, ICT 분야의 경우 2013년 567,037명에서 2013년 513,011명으로 감소

○ (세계경제포럼의 일자리 전망) 사라지는 일자리 이외에 AI 기술 진보가 급격히 이루어지면서 7,500만 개 일자리가 사라지는 반면, 1억 3,300만 개의 새로운 일자리가 창출될 것으로 전망되지만 이를 위한 전환 교육 필요

- WEF는 자동화 기술이 인간을 대체하는 분야는 △회계 △데이터 입력(Data Entry) △급여 서비스(payroll services)와 같은 사무 직종으로 선정

- 반면 데이터 분석가·과학자, AI 기계학습 전문가, 소프트웨어 및 응용프로그램개발자, 정보보안 분석가 등이 새로운 일자리로 자리 잡을 것으로 전망

- ’18∼’22년까지 향후 5년 간 근로 현장에서는 로봇·기계·알고리즘이 사람 역할을 빠르게 대체하지만 새롭게 생겨나는 일자리가 더 많을 것으로 예측

- 과거 기술발전이 산업과 경제를 성장시키며 대량의 일자리를 만들어낸 것과 같이 인공 지능(AI)·사물 인터넷(IoT)·클라우드·빅데이터 등 첨단기술이 일자리 창출의 동인

- 이를 위한 범국가적인 AI 교육은 필수

□ (설명 가능한 AI) EXI(Explainable AI)라고도 불리며 국내에서는 과학기술정보통신부가 인공지능국가전략프로젝트의 하나로 2017년부터 개발 중(UNIST)이며 미국의 DARPA 역시 개발 중

○ EXI는 기존 머신러닝의 고차원적 학습능력은 유지시키면서 설명가능성을 향상시키는 연구로서 심층설명학습(deep explanation), 해석가능한 모델(Interpertable models), 모델귀납(model induction) 등의 전략을 통해 개발

○ EXI는 설명가능한 인터페이스도 필요한데 이는 HCI를 이용 모델의 의사결정에 대한 설명을 사용자가 이해할 수 있는 방식으로 표현하는 연구로 ‘설명인터페이스’는 설명가능성과 정정가능성 2가지 원칙이 충족되어야 함

○ EXI는 군사, 금융, 보험 등 민감한 분야에서 사용자의 신뢰를 얻고 사회적 수용을 위한 공감대 형성에 중요

○ 또한 AI시스템의 잘못된 결과로 인한 분쟁발생시 원인파악이 가능하여 법적 책임근거로 사용 가능

□ (GDPR의 적용고려) 국내에 직접 적용은 없으나 GDPR은 개인정보를 취급하는 EU 회원국에 법적 구속력을 지니며 EU시민에게 재화나 서비스를 제공하는 경우 모두 적용(2018.5.25.)되므로 고려 필요

○ (GDPR 적용원칙) 적법성, 공정성, 투명성의 원칙하에 개인정보 이용 목적의 제시, 보관 기간이 경과시 정보주체를 식별할 수 없는 형태로 보관

- 개인정보의 처리는 정보주체의 동의, 계약이행, 법적의무, 컨트롤러에게 부여된 공적권한 행사를 위해 처리

 ※ 동의 없이 개인정보 처리시 전 세계 연간 매출액의 4% 또는 2천만 유로중 높은 금액 벌금 부과

○ (개인정보의 범위) 이름, 식별번호, 위치정보, 온라인 식별 또는 신체적·생리적·유전적 또는 사회적 정체성에 대한 정보

- 컨트롤러는 개인정보의 처리 목적 및 수단을 단독 또는 제3자와 공동으로 결정하는 자연인, 법인, 공공기관 등 명시

 ※ 컨트롤러 : 이동통신서비스제공자 A는 네트워크 트래픽 관리 및 과금기준 설정, 프로세서는 컨트롤러의 지시에 따라 개인정보를 처리하는 기관, 개인, 법인, 단체 등 위 예시에서 이동통신서비스제공자 A로부터 이메일 마케팅을 위해 개인정보를 활용하는 계약을 체결하는 B, C, D는 프로세서에 해당

- 수령인은 개인정보를 제공받는 기관, 개인, 법인, 단체 등을 말하나 예외적으로 EU회원국 법률에 의하여 특정한 문의나 조회업무(세관, 금융시장 규제)는 수령인에 해당하지 않음

○ (Profiling) AI 활용시 발생할 수 있는 문제영역으로 개인적 특성 평가를 하기 위한 업무수행, 경제상황, 건강, 개인선호, 행동, 위치를 분석 예측하기 위한 개인정보를 사용하는 자동화된 개인정보 수집

- 이중 특별한 유형의 개인정보 즉, 인종·정치적 견해·종교·노동조합 가입 여부·유전자·성생활 정보 등은 개인정보 주체의 명시적 동의 없이 원칙적으로 처리 금지

□ (기타 개인정보보호법 관련 검토 필요) 개인정보보호법 이외에 정보통신망법, 신용정보법, 전자금융거래법 등과의 관계 검토 필요

○ 개인정보호법에 따른 챗봇(AI) 등에 의하여 수집된 개인정보 수정 및 삭제 가능 여부 조치(GDPR 동일)

 ※ 개인정보는 개인정보보호법 제15조, 제16조에 의거 원칙적 수집 금지

○ 전자금융거래법에 따른 보존기간이 경과한 전자금융거래 기록의 파기(5년), 신용정보법에 따른 개인 신용정보 기록 파기(5년), 정보통신망법에 따른 정보통신서비스제공자가 개인정보 수집목적 달성된 경우 및 1년이 지난 경우 파기

○ AI와 클라우드컴퓨팅 발전 및 이용자 보호에 관한 법률 검토, 현행 클라우드 컴퓨팅 발전 및 이용자 보호에 관한 법률은 개인정보보호법, 정보통신망 이용촉진 및 정보보호 등에 관한 법률에 우선하여 적용하나 일부 예외

○ 개인정보보호법에 따른 개인정보처리시스템에 접근하는 컴퓨터 등의 외부 인터넷망 차단(정보통신망법시행령, 금융권 망분리가이드라인 등)

○ 또한 동 법이 다른 법령에서 인가허가등록지정의 요건으로 전산 시설·장비·설비 등(이하 “전산시설등”이라 함)을 규정한 경우 해당 전산시설 등에 클라우드 컴퓨팅 서비스가 포함되는 것으로 본다고 명시하면서도, 다른 법령에서 클라우드 컴퓨팅 서비스의 이용을 금지·사실상 제한하는 경우 등은 제외시켜 금융·의료 클라우드컴퓨팅 이용이 배제되고 있음

 ※ 2018.9.월 현재 위 단서를 삭제하는 클라우드컴퓨팅 법령 개정안이 입법안 공포 중(GDPR의 적용고려). 국내에 직접 적용은 없으나 GDPR은 개인정보를 취급하는 EU 회원국에 법적 구속력을 지니며 EU시민에게 재화나 서비스를 제공하는 경우 모두 적용(2018.5.25.)되므로 고려 필요

○ (공공기업의 개인정보영향평가 수행) 개인정보보호법에 따라 5만 명 이상의 민감 정보를 처리하는 공공기관은 개인정보영향평가를 의무적으로 수행 필요

⑤ 정책 제언

□ (AI의 공공서비스 적용 타당성과 가능성) AI 기술의 개발과 활용은 논리적 타당성과 실행력 측면에서 충분하므로 공공분야에서 선도적으로 적용 필요

○ (타당성) 공공서비스에서의 AI 활용은 불필요한 행정비용의 최소화가 가능하고, 권한을 위임받은 공공업무 수행자와 수임인인 국민 간 정보격차 문제를 해소 가능하며, 정부조달과 확산을 통해 AI 산업화를 조기에 앞당길 수 있음

○ (가능성) 정부는 책임 있고 사회윤리적인 문제에 대한 대응이 가능하며 AI 기술을 가장 빠르게 적용할 수 있는 데이터 인프라를 보유하고 이에 대한 통제가 가능

< AI 공공조직 적용 가능성과 타당성 >

□ (기술개발과 ELSI 고려) 자체 핵심 AI기술을 개발 하거나(In house) 외부도입(Out sourcing) 또는 오픈소스 AI 활용 필요, 국가 연구개발 프로젝트 및 개별 기업의 AI기술 개발시 ELSI 연구를 함께 진행하는 것이 바람직

○ (OECD의 AI 권고안 수립 합의) OECD는 AI의 긍정적 영향을 높이기 위해 법적 구속력은 없지만 사회적 책임을 부과하기 위한 행동규범으로서 권고안을 수립키로 합의(2018.5.)

- 권고안은 일반원칙과 정책결정을 지원하는 원칙으로 구성될 예정이며 ’19.7월 완성 예정

○ (법적이슈) 인간을 위한 서비스 발굴을 위해서 인간의 정보는 AI 활용을 위한 기초 자료에 해당, 여기서 인권보호의 문제 즉, 개인의 정보보호 문제가 발생하므로 이에 대한 조치 필요

- 국내 개인정보보호법을 위주로 한 금융거래법, 신용정보법, 정보통신망법 등 각종 규제법과 클라우드 이용활성화에 관한 법 등을 고려한 개인정보보호 조치 마련 필요

- 국외 유럽연합의 General Data Protection Regualtion 고려한 개인정보보호 필요, GDPR은 개인정보호의 보호는 물론 활용(Profiling)을 위한 가이드라인으로도 적정

- 동의시 미리 체크된 체크박스 불인정, AI 프로파일링만으로 인한 고객요청 거절 불가 등 유념 필요, CAPTCHA 설치 등

 ※ CAPTCHA:Completely Automated Public Turing test to tell Computers and Humans Apart로서 카네기 멜론대학에서 만들었으며 봇은 2～3분 안에 수천개의 e-mail개정을 만들어

    비밀번호 파악, 부정투표 등에 활용가능하며 문자인식 기반이나 시각장애인을 위한 음성 테스트 형식도 있음

□ (AI 활성화를 위한 사회적 담론 형성과 준비) IEEE는 Ethically Alligned Design 발표를 하며 국제적인 참여를 통한 의견수렴을 위해 Global Initiative를 시작하고 가이드라인을 제시

○ 가이드라인은 5개의 목표를 지니며 인권, 복지, AI 책임성, AI 투명성, AI의 잘못된 사용을 최소화하고자 하고 있음

- 우리도 이러한 윤리적 AI 설계를 위한 범정부적인 활동 필요

- 공공부분과 민간영역에서의 AI 서비스 도입 활성화를 위한 범정부적 가이드라인을 마련하는 것이 필요함

< AI 도입을 위한 고려사항 >