국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
인공지능 언어모델 GPT-3을 통한 가짜 정보 캠페인의 가능성 분석 원문보기 1
- 국가 일본
- 생성기관 안보유망기술센터
- 주제분류 기술혁신지원
- 원문발표일 2021-05-18
- 등록일 2021-05-21
- 권호 192
○ 안보유망기술센터(CSET)는 인공지능 언어모델 GPT-3을 이용한 가짜 정보 캠페인의 성능을 평가하고 이에 대응하는 방안을 제시하는 보고서*를 발표함
* Truth, Lies, and Automation
○ 가짜 정보 캠페인은 진실과 거짓을 섞어 불화와 의심을 키우고 파괴적인 행동을 야기하는 것으로, 최신의 사례로는 러시아가 미국 대선에 개입한 사건 등이 있음
- 2020년 인공지능 기업 오픈AI(OpenAI)는 인공지능 기술을 기반으로 글을 작성할 수 있는 GPT-3 기술을 발표하였으며, 본 보고서는 이러한 기술이 가짜 정보 캠페인에 악용될 가능성을 분석함
○ 안보유망기술센터(CSET)는 자동화가 가짜 정보 캠페인에 활용될 컨텐츠를 생성할 수 있는지 발표보기 위해 GPT-3의 역량을 6개 요소별로 분석함
- GPT-3는 강력한 기능을 가지고 있음에도 인간을 완전히 대체할 수는 없었지만, 인간과 기계가 잘 협력할 경우 강력한 도구로 활용될 수 있었음
- GPT-3 기술은 메세지의 반복, 정교화, 조작, 살포 등에서 우수한 성능을 보였으며, 불화 유발이나 설문조사의 조작 등에서는 인간과의 협업을 통해 우수한 성과를 올림
○ 러시아나 중국 등의 적대국이 GPT-3이나 이와 유사한 인공지능 기술을 이미 보유하고 있을 가능성이 높다는 점에서, 적절한 대응방안이 요구됨
- 보고서는 인공지능 기술의 높은 완성도와 성능을 고려할 때, 글의 저자가 인공지능인지 인간인지에 초점을 맞추는 것보다는 가짜 정보 캠페인의 기반 시설(예: 가짜 계정)에 초점을 맞추는 것이 효과적일 수 있다고 지적함
* Truth, Lies, and Automation
○ 가짜 정보 캠페인은 진실과 거짓을 섞어 불화와 의심을 키우고 파괴적인 행동을 야기하는 것으로, 최신의 사례로는 러시아가 미국 대선에 개입한 사건 등이 있음
- 2020년 인공지능 기업 오픈AI(OpenAI)는 인공지능 기술을 기반으로 글을 작성할 수 있는 GPT-3 기술을 발표하였으며, 본 보고서는 이러한 기술이 가짜 정보 캠페인에 악용될 가능성을 분석함
○ 안보유망기술센터(CSET)는 자동화가 가짜 정보 캠페인에 활용될 컨텐츠를 생성할 수 있는지 발표보기 위해 GPT-3의 역량을 6개 요소별로 분석함
- GPT-3는 강력한 기능을 가지고 있음에도 인간을 완전히 대체할 수는 없었지만, 인간과 기계가 잘 협력할 경우 강력한 도구로 활용될 수 있었음
- GPT-3 기술은 메세지의 반복, 정교화, 조작, 살포 등에서 우수한 성능을 보였으며, 불화 유발이나 설문조사의 조작 등에서는 인간과의 협업을 통해 우수한 성과를 올림
○ 러시아나 중국 등의 적대국이 GPT-3이나 이와 유사한 인공지능 기술을 이미 보유하고 있을 가능성이 높다는 점에서, 적절한 대응방안이 요구됨
- 보고서는 인공지능 기술의 높은 완성도와 성능을 고려할 때, 글의 저자가 인공지능인지 인간인지에 초점을 맞추는 것보다는 가짜 정보 캠페인의 기반 시설(예: 가짜 계정)에 초점을 맞추는 것이 효과적일 수 있다고 지적함
