□ MIT 테크놀로지 리뷰는 2023년 주요 뉴스로 부상한 AI 정책과 규제가 2024년에 어떻게 구체적으로 실행될지 전망한 기사를 발표*(’24.1.)

* What’s next for AI regulation in 2024?

ㅇ2023년에 EU는 최초의 AI 규제 법안에 합의, 미국은 행정명령 발표, 중국은 추천 알고리즘에 대한 특정 규칙을 제정하는 등 정책적으로 기념비적인 해였음

- 2023년이 비전에 합의한 해였다면, 2024년은 정책이 구체적으로 실행되기 시작하는 해가 될 전망

ㅇ(미국) 2023년 미국에서는 AI가 본격적으로 정치권의 화두로 떠올랐으며, 10월 바이든 대통령은 AI의 투명성과 새로운 기준을 요구하는 행정명령*을 발표

* E.O. on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence

- 이러한 활동을 통해 모범사례를 강조하고 다양한 기관들이 자체적으로 규칙을 만들며 경제의 각 부문을 다르게 규제하는 세분화된 접근 방식을 취하는 등 AI 산업에 우호적인 미국식 AI 정책이 등장함

- 2024년에는 행정명령에 명시된 많은 사항이 구체화 될 것이며, 이를 실행할 AI 안전연구소(AI Safety Institute)에 대해서도 많은 논의가 이루어질 것임

- 의회 차원에서는 투명성, 딥페이크, 플랫폼 책임 등 AI의 다양한 측면을 다루는 법안이 발의되어 있으나, 이 중 어떤 법안이 통과될지는 불분명함

- 다만, EU의 AI법과 유사하게 AI의 유형과 용도를 위험도에 따라 등급을 매기는 접근 방식의 프레임워크가 실행될 수 있음

- 또한 2024년 미국 대통령 선거가 AI 규제에 관한 많은 논의에 영향을 줄 전망

※ 소셜 미디어 플랫폼과 허위정보에 대한 생성형 AI의 영향에서 볼 수 있듯이, 선거 시즌에 어떤 일이 벌어지는지에 따라 기술로 인한 피해 방지 방법에 대한 논쟁이 형성될 것으로 예상

ㅇ (유럽) EU는 세계 최초로 포괄적인 AI 법에 합의했으며, 2024년 상반기 EU 의회와 회원국의 공식 승인과 기술적 보완을 거친 후 신속하게 시행될 전망

- 빠르면 올해 말부터 특정 AI 사용에 대한 제한이 적용될 수 있으며, 이는 2024년이 새로운 AI　규정을 준수하기 위해 준비하는 바쁜 해가 될 것임을 의미

- 교육, 의료, 치안과 같은 분야에 사용되어 기본권에 높은 위험을 초래할 수 있는 기반모델이나 앱을 개발하는 기업은 EU의 새로운 표준을 충족해야 하며, 기업은 모델 개발 방식을 투명하게 공개하고 피해에 대해 책임져야 함

- 새로운 요구사항을 충족하기 위해, AI 기업은 시스템 구축 방식에 대해 더욱 신중해야 하며, 감사를 받을 수 있도록 작업 내용을 엄격하게 문서화해야 함

- 이 법에 따라 기업은 그들의 모델을 훈련하는 방법을 투명하게 공개해야 하며, 위험성이 높은 AI 시스템은 편견을 최소화하기 위해 충분히 대표성이 있는 데이터 셋을 훈련하고 테스트해야 함

※ EU는 OpenAI의 GPT-4, Google의 Gemini와 같은 강력한 AI 모델이 ‘시스템적’ 위험을 초래할 수 있으므로 EU 표준을 충족하기 위한 추가 작업이 필요하다고 생각함

- 기업은 위험을 평가･완화하고 시스템의 보안을 보장하기 위한 조치를 취해야 하며, 심각한 사고를 보고하고 에너지 소비에 관한 세부 정보를 공유해야 함

- 한편 EU는 AI 기술로 인해 피해를 입은 사람들이 재정적 보상을 받을 수 있도록 하는 법안인 ‘AI 책임 지침(AI Liability Directive)’에 대한 협의를 진행 중

ㅇ (중국) AI를 전체적으로 규제하기보다는 새로운 AI 제품이 등장할 때마다 개별 법안을 발표하는 형태로, 단편적이고 세분화된 규제를 시행

※ 알고리즘 추천 서비스(틱톡과 같은 앱과 검색 엔진), 딥페이크, 생성형 AI에 관한 규정 따로 존재

- 이러한 접근 방식은 기술 발전으로 인해 발생하는 위험에 신속하게 대응할 수 있다는 장점이 있으나, 장기적이고 거시적인 관점의 발전을 저해함

- 2023년 6월 중국 국무원이 포괄적인 ‘인공지능법’을 입법 의제로 삼겠다고 발표함에 따라 올해는 상황이 달라질 수 있을 것으로 전망

- 현재 중국 AI 기업은 이미 많은 규제를 받고 있는데, 실제로 모든 기반모델은 중국 대중에게 공개되기 전에 중국 정부에 등록되어야 함

- 외국 AI 기업은 중국 내에서 제품 출시 승인을 받지 못했으며, 중국의 상업 환경은 자국 기업을 보호하고 경쟁을 억제하고 있음

ㅇ (기타 지역) 올해는 전 세계 다른 지역에서도 더 많은 AI 규제가 도입될 것으로 보이며, 특히 아프리카 지역에 주목할 필요가 있음

- 아프리카 연합은 2024년 초 아프리카 대륙을 위한 AI 전략을 발표할 것으로 예상되며, 이는 개별 국가가 AI 분야에서 경쟁하고 서구 테크 기업으로부터 아프리카 소비자를 보호하기 위해 활용할 수 있는 정책을 수립함을 의미

- 르완다, 나이지리아, 남아프리카공화국과 같은 일부 국가는 이미 국가 AI 전략 초안을 마련하고 AI 기업을 지원하기 위한 교육 프로그램, 컴퓨팅 성능, 산업 친화적인 정책을 개발하기 위해 노력하고 있음

- UN, OECD, G20, 지역연합 등과 같은 글로벌 기구는 AI에 관한 워킹그룹, 자문위원회, 원칙, 표준, 성명서 등을 만들고 있음

- 지정학적으로 민주주의 국가와 권위주의 국가가 AI 산업을 육성하고 무기화하는 방식의 차이는 점점 더 커질 것으로 보임

- 2024년에는 AI 기업이 글로벌 확장과 국내 전문화 중 어느 쪽에 우선순위를 둘 것인지 지켜보는 것 또한 흥미로운 부분일 것임