국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
포괄적 프레임워크로 AI 시스템 보안하기 원문보기 1
- 국가 미국
- 생성기관 Kearney
- 주제분류 핵심R&D분야
- 원문발표일 2024-10-30
- 등록일 2024-11-08
- 권호 275
○ Kearney는 인공지능(AI) 시스템의 고유한 보안 취약점에 대응하기 위한 종합적 프레임워크의 필요성에 대해 분석한 보고서를 발표
- AI가 조직의 주요 운영에 널리 적용되면서 이 시스템을 표적으로 한 정교한 사이버 공격이 증가하고 있으며, 이에 대한 예방 및 방어 대책을 마련하는 것이 중요
- 보고서는 기존의 국제적 보안 프레임워크를 활용하여 AI 시스템을 보호하는 방안을 제시하며, 특히 MITRE ATLAS(Adversarial Threat Landscape for Artificial-Intelligence Systems) 프레임워크의 적용을 권장
○ AI 시스템은 방대한 데이터 학습을 통해 독립적으로 의사결정을 내리는 고유 기능을 갖추고 있어 기존 시스템보다 다양한 공격에 취약
- 이러한 위협은 AI 모델의 역동적 특성을 악용해서, 공격을 탐지하고 완화시키는데 있어 실체적인 어려움을 만들어냄
- 따라서, AI 시스템을 보안하는 것은 악의적 행위자로부터의 취약성을 악용하는 것을 방지하고 그들의 신뢰성과 진실성을 보장하는데 있어 매우 중요함
○ 사이버위협을 방지하기 위한 노력의 핵심은 공동의 프레임워크를 구축하는 것으로, AI 시스템의 보호를 위해 여러 사이버 보안 프레임워크가 존재
- 현재까지 조직이 공격을 막기위해 채택할 수 있는 IT 시스템을 위해 개발된 4개의 중요한 사이버보안 프레임워크가 개발됨
※ Diamond Model of Intrusion, MITRE ATT&CK 등
- 개발자들은 MITRE ATT&CK 프레임워크를 더 진전시켰으며, 다양한 영역에서 AI 시스템을 보안하기 위해 이를 채택했음
- MITRE ATLAS라고 불리는 이 프레임워크는 AI 시스템의 취약성을 식별하고 해결하며, 조직이 다양한 위험에 대해 AI 기술을 보호할 수 있도록 할 수 있음
○ AI가 비지니스 운영에서 더욱 중요해짐에 따라 시스템을 새로운 위협으로부터 보호하는 것은 더욱 중요해지고 있으며, 이를 바탕으로 조직은 3단계 대응책을 채택할 필요
- 첫째, 사이버보안 프레임워크를 AI 시스템으로 통합해서 더 강력한 방어막을 구축할 것
- 둘째, AI 시스템이 제시하는 도전과제와 기회를 인식해야 함
- 마지막으로 이해관계자, 개발자, 비지니스팀, 연구원이 협력해서 MITRE ATLAS와 같이 이미 구축된 프레임워크를 채택하고 효과적으로 실행해야 함
- AI가 조직의 주요 운영에 널리 적용되면서 이 시스템을 표적으로 한 정교한 사이버 공격이 증가하고 있으며, 이에 대한 예방 및 방어 대책을 마련하는 것이 중요
- 보고서는 기존의 국제적 보안 프레임워크를 활용하여 AI 시스템을 보호하는 방안을 제시하며, 특히 MITRE ATLAS(Adversarial Threat Landscape for Artificial-Intelligence Systems) 프레임워크의 적용을 권장
○ AI 시스템은 방대한 데이터 학습을 통해 독립적으로 의사결정을 내리는 고유 기능을 갖추고 있어 기존 시스템보다 다양한 공격에 취약
- 이러한 위협은 AI 모델의 역동적 특성을 악용해서, 공격을 탐지하고 완화시키는데 있어 실체적인 어려움을 만들어냄
- 따라서, AI 시스템을 보안하는 것은 악의적 행위자로부터의 취약성을 악용하는 것을 방지하고 그들의 신뢰성과 진실성을 보장하는데 있어 매우 중요함
○ 사이버위협을 방지하기 위한 노력의 핵심은 공동의 프레임워크를 구축하는 것으로, AI 시스템의 보호를 위해 여러 사이버 보안 프레임워크가 존재
- 현재까지 조직이 공격을 막기위해 채택할 수 있는 IT 시스템을 위해 개발된 4개의 중요한 사이버보안 프레임워크가 개발됨
※ Diamond Model of Intrusion, MITRE ATT&CK 등
- 개발자들은 MITRE ATT&CK 프레임워크를 더 진전시켰으며, 다양한 영역에서 AI 시스템을 보안하기 위해 이를 채택했음
- MITRE ATLAS라고 불리는 이 프레임워크는 AI 시스템의 취약성을 식별하고 해결하며, 조직이 다양한 위험에 대해 AI 기술을 보호할 수 있도록 할 수 있음
○ AI가 비지니스 운영에서 더욱 중요해짐에 따라 시스템을 새로운 위협으로부터 보호하는 것은 더욱 중요해지고 있으며, 이를 바탕으로 조직은 3단계 대응책을 채택할 필요
- 첫째, 사이버보안 프레임워크를 AI 시스템으로 통합해서 더 강력한 방어막을 구축할 것
- 둘째, AI 시스템이 제시하는 도전과제와 기회를 인식해야 함
- 마지막으로 이해관계자, 개발자, 비지니스팀, 연구원이 협력해서 MITRE ATLAS와 같이 이미 구축된 프레임워크를 채택하고 효과적으로 실행해야 함
