국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
생성형 AI 사이버 위협 원문보기 1
- 국가 미국
- 생성기관 OliverWyman
- 주제분류 핵심R&D분야
- 원문발표일 2025-05-22
- 등록일 2025-06-13
- 권호 289
○ 올리버와이만(OliverWyman)은 생성형AI로 인해 급증하고 있는 사이버 위협에 대응하기 위한 전략을 제시하는 브리프를 발표
- 본 브리프는 조직의 보안 리더들이 생성형 AI가 촉발한 위협 환경을 이해하고, 이에 효과적으로 대응할 수 있는 지능적 사이버보안 프레임워크를 구축하는 데 필요한 전략적 통찰을 제공하는 것을 목적으로 함
- AI 기술의 발전이 공격자에게 새로운 도구를 제공하고 있으며, 보안 대응 방식의 패러다임 전환이 불가피하다는 점을 강조함
○ ChatGPT의 공개 이후, 생성형 AI는 미국 기업, 지방정부, 연방기관 등을 겨냥한 사이버 공격자의 주요 무기로 빠르게 자리잡음
- 사이버보안·IT 전문가 대상 Darktrace 설문조사에 따르면, 응답자의 74%가 AI 기반 위협이 조직에 심각한 도전 과제라고 응답
- 악의적 행위자가 이미 AI를 활용한 공격에 나서고 있으며, 기술의 진화로 이러한 위협은 더 정교하고 보편화될 가능성이 큼
※ 생성형 AI의 확산은 공격자의 기술 수준에 관계없이 위험 수준을 끌어올리는 요인으로 작용
○ 생성형 AI는 초보 해커도 정교한 코드와 기술적 익스플로잇*을 생성할 수 있도록 지원
* 기술적 익스플로잇(technical exploit): 소프트웨어, 하드웨어, 네트워크의 취약점을 악의적으로 이용하는 기술 또는 코드
- 이는 사이버공격의 접근성을 높이고, 속도와 규모 면에서 공격을 더욱 위협적으로 만듦
- AI는 자연어 기반 상호작용으로 고급 기술 지식 없이도 공격 도구를 생성할 수 있게 하며, 이는 잠재적 위협의 양적 증가로 이어짐
○ AI 기술을 활용한 사이버공격은 더욱 다양하고 정교한 형태로 발전하고 있음
- 주요 위협 유형에는 다음이 포함됨: 피싱 및 소셜 엔지니어링, 딥페이크 영상 및 음성을 활용한 사기, AI가 변형한 악성코드 및 랜섬웨어, 소프트웨어 취약점을 자동 탐지·악용하는 공격 등
- 이러한 위협은 기존 방어 체계로는 대응이 어렵고, 고도화된 탐지 및 대응 역량이 요구됨
○ 전통적인 보안 체계만으로는 생성형 AI 기반 위협에 효과적으로 대응하기 어려우며, 아래와 같은 지능적 보안 전략이 요구됨
- AI 기반 위협탐지 시스템 및 실시간 행동분석 기능 도입
- 이상 징후 탐지 및 신속한 사고 대응 체계 강화
- 지속적인 위협 모니터링을 통한 능동적 보안 운영
- 본 브리프는 조직의 보안 리더들이 생성형 AI가 촉발한 위협 환경을 이해하고, 이에 효과적으로 대응할 수 있는 지능적 사이버보안 프레임워크를 구축하는 데 필요한 전략적 통찰을 제공하는 것을 목적으로 함
- AI 기술의 발전이 공격자에게 새로운 도구를 제공하고 있으며, 보안 대응 방식의 패러다임 전환이 불가피하다는 점을 강조함
○ ChatGPT의 공개 이후, 생성형 AI는 미국 기업, 지방정부, 연방기관 등을 겨냥한 사이버 공격자의 주요 무기로 빠르게 자리잡음
- 사이버보안·IT 전문가 대상 Darktrace 설문조사에 따르면, 응답자의 74%가 AI 기반 위협이 조직에 심각한 도전 과제라고 응답
- 악의적 행위자가 이미 AI를 활용한 공격에 나서고 있으며, 기술의 진화로 이러한 위협은 더 정교하고 보편화될 가능성이 큼
※ 생성형 AI의 확산은 공격자의 기술 수준에 관계없이 위험 수준을 끌어올리는 요인으로 작용
○ 생성형 AI는 초보 해커도 정교한 코드와 기술적 익스플로잇*을 생성할 수 있도록 지원
* 기술적 익스플로잇(technical exploit): 소프트웨어, 하드웨어, 네트워크의 취약점을 악의적으로 이용하는 기술 또는 코드
- 이는 사이버공격의 접근성을 높이고, 속도와 규모 면에서 공격을 더욱 위협적으로 만듦
- AI는 자연어 기반 상호작용으로 고급 기술 지식 없이도 공격 도구를 생성할 수 있게 하며, 이는 잠재적 위협의 양적 증가로 이어짐
○ AI 기술을 활용한 사이버공격은 더욱 다양하고 정교한 형태로 발전하고 있음
- 주요 위협 유형에는 다음이 포함됨: 피싱 및 소셜 엔지니어링, 딥페이크 영상 및 음성을 활용한 사기, AI가 변형한 악성코드 및 랜섬웨어, 소프트웨어 취약점을 자동 탐지·악용하는 공격 등
- 이러한 위협은 기존 방어 체계로는 대응이 어렵고, 고도화된 탐지 및 대응 역량이 요구됨
○ 전통적인 보안 체계만으로는 생성형 AI 기반 위협에 효과적으로 대응하기 어려우며, 아래와 같은 지능적 보안 전략이 요구됨
- AI 기반 위협탐지 시스템 및 실시간 행동분석 기능 도입
- 이상 징후 탐지 및 신속한 사고 대응 체계 강화
- 지속적인 위협 모니터링을 통한 능동적 보안 운영
