국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
인공지능을 활용한 딥페이크 기술의 현황 원문보기 1
- 국가 미국
- 생성기관 RAND 연구소
- 주제분류 핵심R&D분야
- 원문발표일 2022-07-06
- 등록일 2022-07-29
- 권호 219
○ RAND 연구소(RAND Corporation)는 인공지능을 활용한 딥페이크 기술의 리스크와 대응 정책 현황을 살펴본 보고서*를 발표함
* Artificial Intelligence, Deepfakes, and Disinformation
○ 다양한 인공지능 기술이 가짜정보 캠페인에 활용되고 있으며, 최근 들어 딥페이크와 음성 복제, 생성 텍스트 등의 기술이 악용되고 있음
- 딥페이크 비디오는 대상의 얼굴과 몸을 합성해 조작된 장면을 만드는 기술로 해상도와 품질은 높아지는 한편 구현 비용이 빠르게 하락하고 있음
- 딥페이크와 함께 다른 사람의 음성을 복제하는 소프트웨어와 딥페이크 이미지를 생성한 소셜미디어 계정, 생성 텍스트를 활용한 가짜 뉴스 유포 등의 기술 악용 사례가 보고되고 있음
○ 딥페이크와 인공지능 생성 컨텐츠는 선거 결과를 조작하고, 사회적인 갈등을 조장하며, 제도와 기구에 대한 신뢰를 낮추고, 언론과 정보의 신뢰할만한 출처를 약화시킬 수 있음
- 딥페이크의 피해를 줄이기 위해 관련 컨텐츠를 탐지하고 조작이 없음을 증명하는 기술이 개발되고 있으며, 주 정부를 중심으로 관련 법제를 정비하고 있음
○ 본 보고서는 딥페이크의 악용을 막기 위해 정보 기관이 정보 수집 전략에 투자하고, 딥페이크 탐지 기술을 개발하며, 미디어 이해도를 높이고, 증거 기반의 접근법을 확대하여야 함
* Artificial Intelligence, Deepfakes, and Disinformation
○ 다양한 인공지능 기술이 가짜정보 캠페인에 활용되고 있으며, 최근 들어 딥페이크와 음성 복제, 생성 텍스트 등의 기술이 악용되고 있음
- 딥페이크 비디오는 대상의 얼굴과 몸을 합성해 조작된 장면을 만드는 기술로 해상도와 품질은 높아지는 한편 구현 비용이 빠르게 하락하고 있음
- 딥페이크와 함께 다른 사람의 음성을 복제하는 소프트웨어와 딥페이크 이미지를 생성한 소셜미디어 계정, 생성 텍스트를 활용한 가짜 뉴스 유포 등의 기술 악용 사례가 보고되고 있음
○ 딥페이크와 인공지능 생성 컨텐츠는 선거 결과를 조작하고, 사회적인 갈등을 조장하며, 제도와 기구에 대한 신뢰를 낮추고, 언론과 정보의 신뢰할만한 출처를 약화시킬 수 있음
- 딥페이크의 피해를 줄이기 위해 관련 컨텐츠를 탐지하고 조작이 없음을 증명하는 기술이 개발되고 있으며, 주 정부를 중심으로 관련 법제를 정비하고 있음
○ 본 보고서는 딥페이크의 악용을 막기 위해 정보 기관이 정보 수집 전략에 투자하고, 딥페이크 탐지 기술을 개발하며, 미디어 이해도를 높이고, 증거 기반의 접근법을 확대하여야 함
