□ 中, 챗봇 등 생성형 인공지능(AI) 서비스 규제안 공표

ㅇ 중국 국가인터넷정보판공실(互聯網信息辦公室)은 ‘네트워크 보안법 및 기타 법률 및 규정에 따른 생성형 AI에 대한 관리 조치(生成式人工智能服務管理辦法)’ 초안을 공개(4.11.)

- 지침은 중국 영토 내에서 대중에게 서비스를 제공하기 위해 AI 제품의 연구･개발･활용에 적용되며 챗GPT 등 텍스트 모델뿐만 아니라 이미지･소리･영상･코드 및 기타 콘텐츠 등 생성 AI 기술 전반에 적용

- 주요 내용으로는 △안전하고 신뢰할 수 있는 소프트웨어･도구･컴퓨팅･데이터 자원의 우선 사용 장려, △AI 제품과 서비스의 중국 법률 및 규정 요구사항의 준수 등

- 특히 생성형 AI 제품과 서비스는 사회주의 핵심 가치를 반영해야 하며, △국가 권력 전복, △사회주의 체제 전복, △국가 분열 선동, △민족단결 저해, △테러 조장, △극단주의, △인종 증오와 차별, △폭력, △음란 및 허위 정보, △경제 및 사회 질서 교란 위험이 있는 콘텐츠는 피해야 한다고 명시

- 인종･민족･성별 및 기타 특성에 따른 차별을 방지하는 방식으로 알고리즘을 설계하는 방법에 대한 지침도 제시

- AI 제품에서 생성하는 모든 콘텐츠는 업체가 책임을 지며, 업체는 서비스 개시 이전에 당국에 사이버 보안 평가를 위한 AI 알고리즘 정보를 제출하는 것이 필수

- 만일 생성형 AI가 법률 및 규정 요구사항에 위배되는 콘텐츠를 제공한다면, 콘텐츠 여과 등 조처를 하고 3개월 안에 콘텐츠 재생성 방지 조처를 하는 것이 필수

- 콘텐츠 시정 명령을 받고 3개월 안에 조처를 하지 않은 업체는 1만 위안~10만 위안의 벌금이 부과할 예정

- 서비스 제공자가 위의 내용을 위반할 경우 ‘네트워크 보안법’, ‘데이터 보안법’, ‘개인정보보호법’ 등 법령 및 행정처분에 따라 처벌

- 중국 정부는 금년 5월 10일까지 생성형 AI 관리 조치 초안에 대한 의견 수렴을 진행하여 연내 시행 예정

ㅇ 한편, 중국 관계 당국은 AI챗봇이 검열을 받지 않은 답변을 내놓을 수 있다는 우려 때문에 중국 내 챗GPT 서비스 차단(2.23)

- 텐센트와 전자상거래 기업 알리바바그룹의 핀테크 자회사 앤트그룹에게 플랫폼에 챗GPT에 접속할 수 있는 서비스를 제공하지 말 것을 지시

- 중국 정부는 챗GPT가 미국 정부가 지정학적 이익을 위해 거짓 정보를 퍼뜨리고, 사실을 조작하는 데 도움을 줄 수 있다고 주장

□ 앞서, 생성 AI를 이용한 콘텐츠에 대해 제작과 유통을 금지하는 규정도 발표

ㅇ 중국 국가사이버정보판공실 ‘인터넷 정보 서비스의 심층합성 관리에 관한 규정’을 발표(2022.12)

- 규정에서는 중국 당국이 중요하다고 인식하는 텍스트, 이미지, 음성 및 비디오 합성 콘텐츠에 대해 워터마크 등 출처 표기가 없는 콘텐츠에 대한 제작 및 유통을 금지한다고 명시

- 각 콘텐츠가 공개되기 전에 규정을 준수하는지 확인하고, 생성 AI 콘텐츠를 나타내는 정확한 표기(워터마크)가 포함되어 있는지 규정에 따라 정부 당국의 보안 평가를 받아야 하는 것이 필수

- 아울러, 어떠한 조직이나 개인이 기술적 수단을 통해 관련 표기를 삭제하거나 변조 또는 은폐를 금지하였으며, 생성 AI 제작자 역시 제작 내용에 대한 기록과 실명 계정 등록을 의무화

- 특히, AI를 통해 만들어진 정치적 목적의 콘텐츠를 차단하는 것이 주된 목적으로 분석

- 앞서 중국 정부는 2019년부터 출처 표기가 없는 딥페이크 콘텐츠를 불법으로 규정했으며, 2020년부터 실제 규제에 들어가는 등 단속을 시행

□ 정부 규제와 검열에도 불구, 민간 업계의 AI 챗봇 개발은 한창

ㅇ 알리바바, 바이두, 센스타임, 하오모 등 중국 주요기업은 챗GPT 대항마 성격의 생성형 AI 챗봇을 연달아 발표하며 시장 경쟁 가세