□ 데이터혁신센터(CFDI)는 AI 혁신을 해치지 않는 10대 규제 원칙 보고서* 발표(’23.2.)

* Ten Principles for Regulation That Does Not Harm AI Innovation

ㅇ AI 기술의 안전성에 대한 우려로 정책 입안자들로부터 ‘책임 있는 AI’를 만들기 위한 법, 규제가 만들어지고 있으나 AI 혁신 저해 문제가 제기되고 있음

- AI 기술의 발전에 따라 의료, 교육, 교통 등 경제 여러 부문에서 생산성과 삶의 질을 높이기 위해 기술의 활용 기회가 많아지고 있음

- 하지만 AI 시스템이 끼칠 수 있는 위험을 고려하여 정책 입안자들은 다양한 규제를 제안하고 있으며 이로 인해 AI 기술의 잠재적 혜택이 지연되거나 거부될 수 있음

ㅇ 이번에 발표된 실행계획은 정책 입안자가 AI를 활용하여 혁신을 극대화할 수 있는 효율적인 규제 기본 지침을 제공하며 다음의 내용을 포함

(1) 친인간적 편향을 피할 것:인간에게 합법적인 것은 AI도 할 수 있도록 허용

- 인간에게 적용하는 것보다 더 높은 기준을 AI 시스템에 적용하게 되면 기술 사용이 억제됨

※ 경비원이 건물에 들어오는 사람의 신원을 확인하는 것이 합법적이라면 AI 시스템을 이용하여 동일한 작업을 수행하는 것도 합법적이어야 함

(2) 결과를 규제할 것:안전성, 유효성 프로세스보다 AI 시스템의 성능 규제

- 결과 규제함으로써 소비자, 기업, 정부가 여러 시스템 간의 성능을 더 잘 비교할 수 있을 뿐 아니라 최소 성능 요건을 설정할 수 있음

※ 대부업체가 신용 평가 모델을 만들기 위해 다양한 데이터셋을 사용하도록 요구하는 대신, 모든 보호 대상 계층의 위험을 정확하게 평가하는지 검증하도록 성과 기반 규칙을 만들 것

(3) 분야를 규제할 것:기술 자체 규제보다 의료, 교통 등 분야별 규칙 필요

- 모든 분야에 동일한 규칙을 적용하면 일부 분야에서는 과도하거나 중복된 요구 사항이 적용되는 반면 다른 분야에서는 불충분한 요구사항이 적용될 수 있음

※ 차량 네비게이션을 위한 AI 시스템과 주식 거래를 자동화하거나 질병을 진단하는 AI 시스템은 유사 기반 기술을 사용하더라도 다르게 취급해야 함

(4) 근시안적인 규제를 피할 것:예상되는 문제에 대해 근본적 해결책을 제시할 것

- 예상되는 문제의 AI 부분에만 집중하지 않고 전체적으로 해결해야 하는 큰 문제에 대한 해결 필요

※ 경찰의 범인 검거 시 안면 인식 기술로 인한 부당 체포 우려로 AI 기술의 사용을 금지하는 대신 부당 체포를 줄이기 위한 경찰 개혁을 고려할 것

(5) AI를 정확하게 정의할 것:다른 규제 범위에 포함되지 않도록 명확하게 정의

- 광범위한 AI 정의를 규제에 사용하여 기본적인 분석 및 자동화를 위한 제품 및 서비스 개발, 배포에도 상당한 비용이 부과될 수 있음

※ EU의 AI 규제는 초기에 AI를 너무 광범위하게 정의하여 Microsoft Excel과 같은 기본적인 스프레드시트 소프트웨어도 포함될 수 있었음

(6) 기존 규정을 적용할 것:AI도 기존 규정을 준수할 필요가 있음

- 근로자 안전, 제조물 책임, 차별 등에 관한 법과 규정은 AI 적용 여부와 무관한 기본적인 의무로 새로운 규정을 제정할 것이 아니라 기존 규정을 그대로 따를 수 있음

※ 기업은 고용을 결정할 때 기본적으로 차별을 금지하는 법을 준수해야 하므로 AI가 고용 시스템에 적용된다고 하더라도 새로운 차별 금지 규정을 만들 필요가 없음

(7) 비용보다 이점이 더 큰지 확인할 것:규제로 인한 편익이 비용보다 더 큰지 고려

- 비용을 고려할 때는 직접적인 규정 준수 비용, 신기술 사용 기회 감소, 기술을 시장에 출시하기 위한 국내 기업의 투자 감소와 같은 간접적인 생산성, 혁신 및 경쟁 비용도 함께 고려해야 함

(8) 규제를 최적화할 것:규제가 긍정적 영향을 미치더라도 혜택 극대화 노력 필요

- 동일한 결과를 달성하는 방법은 여러 가지가 있을 수 있으므로 정책 입안자는 규제 목표를 달성하는 가장 효율적인 방법을 찾아야 함

(9) 기업을 동등하게 대할 것:모든 기업을 동등하게 대우하여 공정 경쟁의 장 제공

- 규제 과정에서 소규모 기업이 감당할 수 없는 높은 규정 준수 부담으로 규제 대상에서 소규모 기업을 면제하는 경우가 있으나, 대기업을 포함하여 전반적인 규제 준수 부담을 낮추는 방향으로 규제를 만들어야 함

(10) 전문성을 확보할 것:인공지능 전문가의 규제 입안 과정 참여 필요

- 해당 기술 및 제품의 전문가가 정책 수립 시 운영과 관련된 자세한 정보를 제공하도록 하며, 정책 입안자가 AI 및 데이터 해석 능력을 갖출 수 있도록 기술 교육 및 자문을 제공하도록 함