□ 의회조사국(CRS)은 딥페이크(Deep fake)와 국가 안보를 주제로 딥페이크의 활용 사례 및 정책적 고려사항 등을 담은 보고서 발표*(’23.4.)

* Deep Fakes and National Security

ㅇ 딥페이크는 인공지능의 하위 분야인 머신러닝, 특히 생성적 적대 신경망(GANs) 기술을 사용하여 생성된 사실적인 사진, 오디오, 영상 등의 위조물을 의미

- GAN 프로세스 내에서 뉴럴 네트워크라고 하는 두 개의 머신러닝 시스템이 서로 경쟁적으로 학습하는 과정을 통해 더 사실적인 위조 데이터를 생성*

* 첫 번째 뉴럴 네트워크인 생성자(generator)가 원본 데이터 세트의 속성을 복제하는 위조 데이터를 생성, 두 번째 뉴럴 네트워크인 판별자(discriminator)가 생성된 위조 데이터를 식별하는 작업을 수행. 판별자가 진짜와 위조 데이터를 구분할 수 없을 정도로 성능이 향상될 때까지 두 네트워크가 작업을 반복하며 점점 더 사실적인 데이터를 생성

- 최근 무료 제공 소프트웨어와 클라우드 컴퓨팅을 활용하여 위조 콘텐츠가 무분별하게 제작됨에 따라 관련 우려가 확산

ㅇ 딥페이크 기술은 엔터테인먼트 목적으로 대중화되었고 의학 분야 등에서 유익한 목적으로 사용되고 있으나, 악의적인 목적으로 활용되는 사례도 다수 발생

ㅇ 딥페이크 기술의 정교함은 인간의 검출 능력을 뛰어넘는 경우가 많아 정부 및 민간 차원에서 검출 도구에 대한 투자 활동을 수행 중

- 정부는 GAN 결과물 식별법*에 따라 국립과학재단에 조작･합성된 콘텐츠 및 정보의 진위성에 대한 연구 지원을, 국립표준기술연구소에 콘텐츠의 조작･합성 기술의 기능과 결과물 검사 도구 개발을 위한 측정 및 표준 개발 연구 지원 지시

* Identifying Outputs of Generative Adversarial Networks Act

- 국방고등연구계획국은 딥페이크 탐지와 관련하여 MedFor*와 SemaFor**라는 두 개의 프로그램을 운영하여, 적의 정보 작전 등에 대한 방어 수단 향상 노력

*MedFor(Media Forensics):사진과 비디오의 무결성을 자동으로 평가하고 위조 콘텐츠가 생성된 방식에 대한 정보를 분석가들에게 제공하기 위한 알고리즘 개발을 목표로, 픽셀의 불일치(디지털 무결성), 물리 법칙과의 불일치(물리적 무결성) 및 다른 정보 소스와의 불일치(의미론적 무결성) 등 딥페이크에서 발견되는 시청각적 불일치 식별 기술 연구

** SemaFor(Semantic Forensics):MedFor 기술을 기반으로 다양한 유형의 딥페이크 이미지를 자동으로 감지, 속성화 및 특성화(양성 또는 악성으로 식별)하는 알고리즘 개발

ㅇ 정책적으로는 딥페이크 탐지 도구의 한계에 따른 사용자 규제 및 규제로 인한 표현의 자유 제한 문제 등을 고려할 필요가 있음

- 알고리즘 기반 탐지 도구에서 식별된 결함을 해결하기 위해 GAN이 빠른 속도로 업데이트될 수 있으므로, 딥페이크 탐지 도구 배포 외에 소셜 미디어 사용자를 대상으로 콘텐츠 라벨링 및 인증 등의 수단을 확대할 필요가 있음

- 한편, 딥페이크 기술 규제가 소셜 미디어 플랫폼에 과도한 부담을 주거나 언론의 자유와 예술적 표현에 대한 위헌적 제한으로 이어질 수 있다는 우려 제기

- 기술적인 대응만으로는 불충분하며 대중에게 딥페이크 교육을 실시하고, 악의적 딥페이크 제작자의 동기를 최소화하는데 초점을 맞춰야 한다는 주장도 제기

ㅇ 딥페이크 기술은 미국의 국방, 소셜 미디어 플랫폼 규제 등에 영향을 미칠 수 있으므로 의회에서는 다음의 내용에 대한 고려가 필요