국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
머신러닝 기술에 대한 사이버 공격 특성과 대응 방안 원문보기 1
- 국가 미국
- 생성기관 안보유망기술센터
- 주제분류 핵심R&D분야
- 원문발표일 2020-12-15
- 등록일 2021-01-08
- 권호 182
○ 안보유망기술센터(CSET)는 머신러닝 기술에 대한 사이버 공격의 특성을 분석하고 정책 제언을 제시하는 보고서*를 발표함
* Hacking AI: A Primer for Policymakers on Machine Learning Cybersecurity
○ 인공지능과 머신러닝 기술은 사이버 공격에 매우 취약하며, 이는 새로운 유형의 사이버보안 리스크를 야기할 수 있음
- 머신러닝의 취약점은 해커가 머신러닝 시스템을 조작해 실수을 일으키도록 만들 수 있으며, 정보를 누출하게 만들거나, 기능을 멈추도록 만들 수 있음
- 머신러닝에 대한 공격은 프라이버시 리스크를 높이거나, 편견과 같은 시스템적인 불평등을 야기하거나, 물리적 피해를 끼칠 수도 있음
○ 전통적인 사이버 해킹과 머신러닝 시스템에 대한 공격은 매우 다른 특성을 보이며, 이에 따라 대응법도 달라져야 함
- 머신러닝은 전통적인 소프트웨어가 하는 방식으로 수정될 수 없어 해커가 악용할 수 있는 약점을 계속 노출함
- 머신러닝의 피해자의 시스템이나 네트워크에 직접 연결되어 있지 않아도 공격이 가능하다는 점에서 공격을 감지하고 막는 것이 어려움
○ 보고서는 정책입안가가 머신러닝 기술에 대한 사이버 공격에 대응 방안을 마련하는 과정에서 고려할 점을 다음과 같이 제시함
- 머신러닝은 새로운 리스크를 야기하며, 새로운 방어책은 단기적으로만 활용 가능할 수도 있음
- 공격에 대한 방어 능력은 대부분 시스템 수준의 방어책에서 제공될 수 있으며, 해커에 대한 머신러닝 기술의 공격적 활용은 혜택보다 비용이 더 클 수도 있음
* Hacking AI: A Primer for Policymakers on Machine Learning Cybersecurity
○ 인공지능과 머신러닝 기술은 사이버 공격에 매우 취약하며, 이는 새로운 유형의 사이버보안 리스크를 야기할 수 있음
- 머신러닝의 취약점은 해커가 머신러닝 시스템을 조작해 실수을 일으키도록 만들 수 있으며, 정보를 누출하게 만들거나, 기능을 멈추도록 만들 수 있음
- 머신러닝에 대한 공격은 프라이버시 리스크를 높이거나, 편견과 같은 시스템적인 불평등을 야기하거나, 물리적 피해를 끼칠 수도 있음
○ 전통적인 사이버 해킹과 머신러닝 시스템에 대한 공격은 매우 다른 특성을 보이며, 이에 따라 대응법도 달라져야 함
- 머신러닝은 전통적인 소프트웨어가 하는 방식으로 수정될 수 없어 해커가 악용할 수 있는 약점을 계속 노출함
- 머신러닝의 피해자의 시스템이나 네트워크에 직접 연결되어 있지 않아도 공격이 가능하다는 점에서 공격을 감지하고 막는 것이 어려움
○ 보고서는 정책입안가가 머신러닝 기술에 대한 사이버 공격에 대응 방안을 마련하는 과정에서 고려할 점을 다음과 같이 제시함
- 머신러닝은 새로운 리스크를 야기하며, 새로운 방어책은 단기적으로만 활용 가능할 수도 있음
- 공격에 대한 방어 능력은 대부분 시스템 수준의 방어책에서 제공될 수 있으며, 해커에 대한 머신러닝 기술의 공격적 활용은 혜택보다 비용이 더 클 수도 있음
