국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
생성형 AI의 부상에 따른 소셜 미디어 조작 위험 보고서 원문보기 1
- 국가 미국
- 생성기관 RAND 연구소
- 주제분류 핵심R&D분야
- 원문발표일 2023-09-04
- 등록일 2023-09-12
- 권호 248
○ RAND 연구소는 생성형 AI의 부상에 따른 소셜 미디어 조작 위험에 대한 보고서*를 발표
* The Rise of Generative AI and the Coming Era of Social Media Manipulation 3.0 : Next-Generation Chinese Astroturfing and Coping with Ubiquitous AI
○ 생성형 AI는 가짜 콘텐츠 생성과 같은 소셜 미디어 조작을 통해 오용의 위험이 있으며 이로 인해 중국을 비롯한 우려대상 국가로부터 잠재적인 안보 위협이 발생할 수 있음
○ 생성형 AI를 사용한 소셜 미디어 조작 전술은 다음과 같음
- (알고리즘 게이밍) 알고리즘 이해를 통한 특정 콘텐츠 유도(예: 검색 엔진 최적화 또는 해시태그 조작)
- (에스트로터핑 봇) 대량의 비인증(가짜) 계정을 통해 특정 주제에 대한 대규모 여론 조작
- (광고) 특정 단체 또는 인물을 지지하기 위한 유료 프로모션 콘텐츠 배포
- (칩페이크(Cheapfakes) 및 미디어 조작) 일반적으로 이미지 등에 간단한 편집을 통해 용도를 변경하여 사용
- (밈) 쉽게 공유될 수 있는 밈을 사용하여 특정 단체나 인물 등을 홍보
- (잘못된 인포그래픽) 전문적이고 권위있는 것처럼 보이나 부정확하거나 잘못된 정보를 담고 있는 인포그래픽
○ 생성형 AI를 사용한 안보 위협에 대응하기 위하여 미국은 기술, 정책, 외교 측면에서 선제적인 완화 조치가 필요
- (기술적 완화) 비인증 계정을 식별, 속성화 및 삭제하기 위하여 더 나은 탐지 모델 개발에 주력하는 한편, 미디어용 블록체인 시스템을 구축하여 진성 콘텐츠에 대한 대중의 신뢰를 강화
- (정책적 완화) 소셜 미디어 플랫폼에 대한 통일된 표준을 비롯, 규제를 통해 투명성과 접근성을 강화
- (외교적 완화) 중국 등 우려국가와의 대화를 통해 악의적 사용을 제한하는데 합의할 여지를 검토
* The Rise of Generative AI and the Coming Era of Social Media Manipulation 3.0 : Next-Generation Chinese Astroturfing and Coping with Ubiquitous AI
○ 생성형 AI는 가짜 콘텐츠 생성과 같은 소셜 미디어 조작을 통해 오용의 위험이 있으며 이로 인해 중국을 비롯한 우려대상 국가로부터 잠재적인 안보 위협이 발생할 수 있음
○ 생성형 AI를 사용한 소셜 미디어 조작 전술은 다음과 같음
- (알고리즘 게이밍) 알고리즘 이해를 통한 특정 콘텐츠 유도(예: 검색 엔진 최적화 또는 해시태그 조작)
- (에스트로터핑 봇) 대량의 비인증(가짜) 계정을 통해 특정 주제에 대한 대규모 여론 조작
- (광고) 특정 단체 또는 인물을 지지하기 위한 유료 프로모션 콘텐츠 배포
- (칩페이크(Cheapfakes) 및 미디어 조작) 일반적으로 이미지 등에 간단한 편집을 통해 용도를 변경하여 사용
- (밈) 쉽게 공유될 수 있는 밈을 사용하여 특정 단체나 인물 등을 홍보
- (잘못된 인포그래픽) 전문적이고 권위있는 것처럼 보이나 부정확하거나 잘못된 정보를 담고 있는 인포그래픽
○ 생성형 AI를 사용한 안보 위협에 대응하기 위하여 미국은 기술, 정책, 외교 측면에서 선제적인 완화 조치가 필요
- (기술적 완화) 비인증 계정을 식별, 속성화 및 삭제하기 위하여 더 나은 탐지 모델 개발에 주력하는 한편, 미디어용 블록체인 시스템을 구축하여 진성 콘텐츠에 대한 대중의 신뢰를 강화
- (정책적 완화) 소셜 미디어 플랫폼에 대한 통일된 표준을 비롯, 규제를 통해 투명성과 접근성을 강화
- (외교적 완화) 중국 등 우려국가와의 대화를 통해 악의적 사용을 제한하는데 합의할 여지를 검토
