국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
과학과 기술 스팟라이트 : 딥페이크와의 전쟁 원문보기 1
- 국가 미국
- 생성기관 정부책임처(GAO)
- 주제분류 핵심R&D분야
- 원문발표일 2024-03-11
- 등록일 2024-03-29
- 권호 260
○ 딥페이크(Deepfakes)는 인공지능을 사용해 조작된 비디오, 오디오 혹은 이미지를 말하며, 종종 얼굴을 만들거나 교체하거나 수정하며 음성을 합성함
- 이들은 선거에 영향을 주거나 비동의적인 포르노를 만들기 위해 사용되는 등 악의적으로 사용되어 왔으며, 이러한 남용을 방지하기 위해 기술은 딥페이크를 탐지하거나 진짜 미디어 인증을 위해 사용될 수 있음
○ 탐지기술(Detection technologies)은 원래의 수정되지 않은 미디어와 비교할 필요 없이 가짜 미디어를 식별하는 것을 목적으로 함
- 이런 기술은 일반적으로 머신러닝으로 알려진 AI 형태를 사용하며, 이 모델들은 실제와 가짜 미디어의 데이터를 가지고 훈련함
○ 인증기술(Authentication technologies)은 미디어 조각을 만드는 동안에 내장되도록 설계되는데, 이 기술은 진품을 증명하거나 미디어의 특정 원본조각이 수정되었다는 것을 증명하는 것을 목적으로 하며 다음의 방법이 있음
- 디지털 워터마크(Digital watermarks), 메타데이터, 블록체인
○ 탐지기술과 인증기술은 얼마나 성숙했는가
- 최근 연구에 따르면, 기존 탐지방법이나 모델은 실제 시나리오에서 딥페이크를 정확하게 식별하지 못할 수 있음
- 인증기술도 새로운 것은 아니지만 딥페이크를 퇴치하기 위해 이를 사용하는 것은 새로운 영역으모, 여러 회사가 디지털 워터마크, 메타데이터, 블록체인 기술을 활용해서 인증서비스를 제공하고 있음
○ 향후 과제로는 허위정보와 대중의 신뢰문제, 그리고 딥페이트를 식별하기 위한 기술과 모델이 더 정교한 딥페이크 생성 기술을 유도하는 문제가 있음
○ 정책적 맥락과 질문
- 현재 법과 규제가 악의적인 딥페이크 사용을 둘러싼 우려를 해결하는데 적절한가?
- 어떤 주체(정부, 비영리, 민간기업)가 딥페이크를 식별하고 막는 것에 대한 결정을 해야하는가, 혹은 딥페이크를 만들거나 유포하는 사람들을 언제 어떻게 제재해야 하는가?
- 딥페이크 탐지 및 인증기술을 개선하거나 개발하는데 있어 사회전체의 조직을 어떻게 조정할 것인가?
- 이들은 선거에 영향을 주거나 비동의적인 포르노를 만들기 위해 사용되는 등 악의적으로 사용되어 왔으며, 이러한 남용을 방지하기 위해 기술은 딥페이크를 탐지하거나 진짜 미디어 인증을 위해 사용될 수 있음
○ 탐지기술(Detection technologies)은 원래의 수정되지 않은 미디어와 비교할 필요 없이 가짜 미디어를 식별하는 것을 목적으로 함
- 이런 기술은 일반적으로 머신러닝으로 알려진 AI 형태를 사용하며, 이 모델들은 실제와 가짜 미디어의 데이터를 가지고 훈련함
○ 인증기술(Authentication technologies)은 미디어 조각을 만드는 동안에 내장되도록 설계되는데, 이 기술은 진품을 증명하거나 미디어의 특정 원본조각이 수정되었다는 것을 증명하는 것을 목적으로 하며 다음의 방법이 있음
- 디지털 워터마크(Digital watermarks), 메타데이터, 블록체인
○ 탐지기술과 인증기술은 얼마나 성숙했는가
- 최근 연구에 따르면, 기존 탐지방법이나 모델은 실제 시나리오에서 딥페이크를 정확하게 식별하지 못할 수 있음
- 인증기술도 새로운 것은 아니지만 딥페이크를 퇴치하기 위해 이를 사용하는 것은 새로운 영역으모, 여러 회사가 디지털 워터마크, 메타데이터, 블록체인 기술을 활용해서 인증서비스를 제공하고 있음
○ 향후 과제로는 허위정보와 대중의 신뢰문제, 그리고 딥페이트를 식별하기 위한 기술과 모델이 더 정교한 딥페이크 생성 기술을 유도하는 문제가 있음
○ 정책적 맥락과 질문
- 현재 법과 규제가 악의적인 딥페이크 사용을 둘러싼 우려를 해결하는데 적절한가?
- 어떤 주체(정부, 비영리, 민간기업)가 딥페이크를 식별하고 막는 것에 대한 결정을 해야하는가, 혹은 딥페이크를 만들거나 유포하는 사람들을 언제 어떻게 제재해야 하는가?
- 딥페이크 탐지 및 인증기술을 개선하거나 개발하는데 있어 사회전체의 조직을 어떻게 조정할 것인가?
