국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
EU의 AI법으로 인한 오픈소스 AI에 대한 규제 복잡성 발생 원문보기 1
- 국가 미국
- 생성기관 데이터혁신센터(CFDI)
- 주제분류 핵심R&D분야
- 원문발표일 2024-03-04
- 등록일 2024-03-18
- 권호 259
○ 미국 데이터혁신센터에서는 EU의 인공지능법(AI Act)으로 인해 발생한 오픈소스 AI*와 관련한 규제 복잡성에 대한 보고서를 발표
* 오픈소스 AI: 개발자들이 대중이 자유롭게 이용할 수 있도록 만든 AI 모델
- 오픈소스 AI와 관련하여 AI Act에서 규정한 규칙 및 한계에 대해 설명
○ AI법은 AI 시스템 제공자, 배포자, 수입자, 유통업자, 상품 제조자를 포함해 포괄적인 규칙을 만드는데, 동 법은 AI시스템을 4개로 범주화함
- 허용할 수 없는 위험(원격 실시간 생체인식, 개인의 잠재의식 조작을 위해 사용되는 AI 시스템), 고위험(은행, 보험, 고용, 교육 등 필수서비스에 사용되는 AI 시스템), 제한된 위험(개인과 직접 상호작용하는 AI 시스템), 최소위험(기타)
- 동 법은 허용되지 않은 위험을 지닌 AI 시스템을 금지하고 고위험 AI 시스템이 데이터 가버넌스와 같은 특정 규칙을 따르도록 하며, 제한된 위험의 AI 시스템에는 투명성을 요구함
○ AI Act의 한계 및 복잡성
- AI Act는 수용할 수 없는 위험을 가진 AI를 금지하고 고위험 AI 시스템을 제한할 때, 오픈 소스 AI 시스템에 대한 어떠한 예외도 없음
- 다만, 과학적 연구와 개발을 목적으로만 특별히 개발된 서비스'는 AI시스템을 면제하고 있으며, 이로 인해 규제 복잡성이 발생
- 이 예외규정은 과학적 연구를 허용하는데는 유용하지만, 오픈소스 라이선스 하에서 학술적 목적으로 개발된 AI 모델은 상업적 목적으로 용도변경될 수도 있으며, 이 조항이 사실상 허점을 제공
* 오픈소스 AI: 개발자들이 대중이 자유롭게 이용할 수 있도록 만든 AI 모델
- 오픈소스 AI와 관련하여 AI Act에서 규정한 규칙 및 한계에 대해 설명
○ AI법은 AI 시스템 제공자, 배포자, 수입자, 유통업자, 상품 제조자를 포함해 포괄적인 규칙을 만드는데, 동 법은 AI시스템을 4개로 범주화함
- 허용할 수 없는 위험(원격 실시간 생체인식, 개인의 잠재의식 조작을 위해 사용되는 AI 시스템), 고위험(은행, 보험, 고용, 교육 등 필수서비스에 사용되는 AI 시스템), 제한된 위험(개인과 직접 상호작용하는 AI 시스템), 최소위험(기타)
- 동 법은 허용되지 않은 위험을 지닌 AI 시스템을 금지하고 고위험 AI 시스템이 데이터 가버넌스와 같은 특정 규칙을 따르도록 하며, 제한된 위험의 AI 시스템에는 투명성을 요구함
○ AI Act의 한계 및 복잡성
- AI Act는 수용할 수 없는 위험을 가진 AI를 금지하고 고위험 AI 시스템을 제한할 때, 오픈 소스 AI 시스템에 대한 어떠한 예외도 없음
- 다만, 과학적 연구와 개발을 목적으로만 특별히 개발된 서비스'는 AI시스템을 면제하고 있으며, 이로 인해 규제 복잡성이 발생
- 이 예외규정은 과학적 연구를 허용하는데는 유용하지만, 오픈소스 라이선스 하에서 학술적 목적으로 개발된 AI 모델은 상업적 목적으로 용도변경될 수도 있으며, 이 조항이 사실상 허점을 제공
