국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
딥페이크 기술의 특성 및 국가 안보에 미치는 영향 원문보기 1
- 국가 미국
- 생성기관 의회조사국
- 주제분류 과학기술전략
- 원문발표일 2021-05-07
- 등록일 2021-05-21
- 권호 191
○ 의회조사국(CRS)은 딥페이크 기술의 특징과 활용 방안을 분석하고, 국가 안보에 미치는 영향을 분석한 보고서*를 발표함
* Deep Fakes and National Security
○ 2017년 처음 등장한 딥페이크(deep fakes) 기술은 인공지능을 활용해 실제와 같이 생성된 위조된 사진, 음성, 비디오로 최근 빠르게 발전하고 있음
- 딥페이크 기술은 생성적 적대 신경망(Generative Adversarial Networks)을 통해 하나의 네트워크가 위조된 데이터를 만들고 다른 네트워크가 위조된 데이터를 파악하는 과정을 끊임없이 거치면서 인공지능이 판별할 수 없을만큼 실제와 같은 결과물을 얻음
- 딥페이크 기술은 실제 같은 이미지를 빠르고 저렴하게 제작하는 것을 가능하게 만들었으며, 이에 따라 훈련받지 않은 일반인도 쉽게 위조된 컨텐츠를 만들 수 있음
○ 딥페이크 기술은 사람들에 즐거움을 주고 질병 퇴치에 활용되는 등 좋은 의도로 사용될 수 있지만, 비도덕적으로 활용될 수도 있음
- 딥페이크 기술은 재미있는 컨텐츠를 만드는데 활용되거나 희귀병을 파악하는 알고리듬을 개발하는데 사용하는 등 좋은 의도로 사용될 수 있음
- 반면 정치인이 부적절한 말과 행동을 하거나 유명인을 협박하는데 악용될 수 있으며 사람들이 진실된 컨텐츠를 의심하고 거부하게 만들어 민주주의를 위협할 수 있음
○ 미국 정부는 방위고등연구계획국(DARPA)의 미디어 포렌식(Medifor)과 의미적 포렌식(SemaFor) 프로그램을 통해 딥페이크에 대항하는 기술을 개발 중임
- 미디어 포렌식(MediFor)은 픽셀의 불일치나 물리적 법칙이 적용되지 않는 경우, 다른 정보와 일치하지 않는 요소를 찾아 딥페이크 기술이 적용되었는지 판별하는 기술을 개발함
- 의미적 포렌식(SemaFor)은 이상한 부분이나 일반적이지 않은 표정, 배경 등을 찾아 딥페이크 기술이 적용되었는지 판별함
○ 딥페이크 기술이 발전함에 따라 일부에서는 소셜미디어 플랫폼이 작성자가 언제 어디서 컨텐츠가 작성되었는지 명시하도록 만들 것을 요구하지만 다른 편에서는 이러한 제도는 소셜미디어에 과도한 부담을 지우는 것이라 주장함
* Deep Fakes and National Security
○ 2017년 처음 등장한 딥페이크(deep fakes) 기술은 인공지능을 활용해 실제와 같이 생성된 위조된 사진, 음성, 비디오로 최근 빠르게 발전하고 있음
- 딥페이크 기술은 생성적 적대 신경망(Generative Adversarial Networks)을 통해 하나의 네트워크가 위조된 데이터를 만들고 다른 네트워크가 위조된 데이터를 파악하는 과정을 끊임없이 거치면서 인공지능이 판별할 수 없을만큼 실제와 같은 결과물을 얻음
- 딥페이크 기술은 실제 같은 이미지를 빠르고 저렴하게 제작하는 것을 가능하게 만들었으며, 이에 따라 훈련받지 않은 일반인도 쉽게 위조된 컨텐츠를 만들 수 있음
○ 딥페이크 기술은 사람들에 즐거움을 주고 질병 퇴치에 활용되는 등 좋은 의도로 사용될 수 있지만, 비도덕적으로 활용될 수도 있음
- 딥페이크 기술은 재미있는 컨텐츠를 만드는데 활용되거나 희귀병을 파악하는 알고리듬을 개발하는데 사용하는 등 좋은 의도로 사용될 수 있음
- 반면 정치인이 부적절한 말과 행동을 하거나 유명인을 협박하는데 악용될 수 있으며 사람들이 진실된 컨텐츠를 의심하고 거부하게 만들어 민주주의를 위협할 수 있음
○ 미국 정부는 방위고등연구계획국(DARPA)의 미디어 포렌식(Medifor)과 의미적 포렌식(SemaFor) 프로그램을 통해 딥페이크에 대항하는 기술을 개발 중임
- 미디어 포렌식(MediFor)은 픽셀의 불일치나 물리적 법칙이 적용되지 않는 경우, 다른 정보와 일치하지 않는 요소를 찾아 딥페이크 기술이 적용되었는지 판별하는 기술을 개발함
- 의미적 포렌식(SemaFor)은 이상한 부분이나 일반적이지 않은 표정, 배경 등을 찾아 딥페이크 기술이 적용되었는지 판별함
○ 딥페이크 기술이 발전함에 따라 일부에서는 소셜미디어 플랫폼이 작성자가 언제 어디서 컨텐츠가 작성되었는지 명시하도록 만들 것을 요구하지만 다른 편에서는 이러한 제도는 소셜미디어에 과도한 부담을 지우는 것이라 주장함
