국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
미국의 AI 보안위협·리스크에 관한 인지조사보고서 원문보기 1
- 국가 일본
- 생성기관 정보처리추진기구
- 주제분류 핵심R&D분야
- 원문발표일 2024-05-30
- 등록일 2024-06-07
- 권호 265
○ 정보처리추진기구(IPA)는 AI 관련 보안 위협 및 인지 현황 등에 대해 AI 선진국인 미국을 대상으로 조사를 실시하고 그 결과를 정리한 보고서를 발표
○ 조사 개요
- (조사 방법) 80개 이상의 관련 문헌 조사, 중요 문헌 10건 추출, 다양한 분야의 전문가 10명 인터뷰(AI·사이버보안·행정·법무 등)
- (분석내용) 보안 위협 관련 다섯 가지 유형에 대한 위협 및 인지 상황 실태, 각 분야의 리스크 크기(시기·영향도)에 관한 맵
- (조사기간) '24.1~2월
○ AI로 강화된 기존의 사이버 공격
- (공격 경향) AI를 통해 기존 공격을 빠르고 강력하며 효율적으로 수행하는 경향이 보이며, AI를 이용한 새로운 공격 방법은 아직 보이지 않음(최대 과제는 피싱에 대한 악용)
- (사례) 큰 사례는 없으나 AI 피싱의 급증·고도화, 조직에 대한 AI의 집요한 공격은 관측되고 있음(악성 피싱 메일은 '22년 말에 비해 1,265% 증가)
- (리스크의 크기 및 인지 상황) 피싱에 대해서는 리스크가 크다고 인식, 고도의 공격·멀웨어 자동 생성은 위협이 되기까지 아직 시간이 있다고 인식
※ 그 밖에 AI를 이용한 허위정보, AI에 의한 시스템 장애 및 AI 시스템에 대한 공격, AI로 인한 국가안보상 리스크, 생성형 인공지능의 오용에 따른 비즈니스 리스크 등 내용 포함
○ 조사 개요
- (조사 방법) 80개 이상의 관련 문헌 조사, 중요 문헌 10건 추출, 다양한 분야의 전문가 10명 인터뷰(AI·사이버보안·행정·법무 등)
- (분석내용) 보안 위협 관련 다섯 가지 유형에 대한 위협 및 인지 상황 실태, 각 분야의 리스크 크기(시기·영향도)에 관한 맵
- (조사기간) '24.1~2월
○ AI로 강화된 기존의 사이버 공격
- (공격 경향) AI를 통해 기존 공격을 빠르고 강력하며 효율적으로 수행하는 경향이 보이며, AI를 이용한 새로운 공격 방법은 아직 보이지 않음(최대 과제는 피싱에 대한 악용)
- (사례) 큰 사례는 없으나 AI 피싱의 급증·고도화, 조직에 대한 AI의 집요한 공격은 관측되고 있음(악성 피싱 메일은 '22년 말에 비해 1,265% 증가)
- (리스크의 크기 및 인지 상황) 피싱에 대해서는 리스크가 크다고 인식, 고도의 공격·멀웨어 자동 생성은 위협이 되기까지 아직 시간이 있다고 인식
※ 그 밖에 AI를 이용한 허위정보, AI에 의한 시스템 장애 및 AI 시스템에 대한 공격, AI로 인한 국가안보상 리스크, 생성형 인공지능의 오용에 따른 비즈니스 리스크 등 내용 포함
