국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
머신러닝을 위한 공유 자원의 보안 강화 방안 원문보기 1
- 국가 미국
- 생성기관 안보유망기술센터
- 주제분류 핵심R&D분야
- 원문발표일 2021-06-21
- 등록일 2021-07-23
- 권호 195
○ 안보유망기술센터(CSET)는 머신러닝을 위한 공유 자원의 보안을 강화하는 방안을 제시하는 보고서*를 발표함
* Poison in the Well: Securing the Shared Resources of Machine Learning
○ 머신러닝 기술의 발전과 보급은 공유 도구와 데이터에 상당 부문의 의존하고 있으나, 머신러닝 도구, 머신러닝 모델, 데이터셋의 3대 요소가 취약점으로 작용할 수 있음
- 개발자는 시간과 돈을 절약하기 위해 공유된 자료나 코드를 이용해 프로그램을 짜고 머신을 훈련시키며, 이와 같은 개방성이 보안의 취약점이 될 수 있음
- 신경망을 설계하거나 이미지를 전처리하는 등의 머신러닝 도구는 수백만 개의 프로그래밍 라인으로 구성되어 있으며, 이와 같은 코드는 공격자에 악용될 수 있는 내용을 포함하고 있을 수 있음
- 연구자들은 대규모 데이터셋이나 예산을 필요로 하지 않는다는 측면에서 이미 훈련된 머신러닝 모델을 활용하고 있으며, 만약 머신러닝 모델이 오염되었을 경우 문제가 될 수 있음
- 수백만 장의 사진과 같은 방대한 분량의 머신러닝 훈련 데이터의 일부라도 조작될 경우, 훈련을 받은 머신러닝 시스템이 잘못된 패턴을 학습하거나 중대한 시점에 실수를 저지를 수 있음
○ 본 보고서는 머신러닝을 위한 공유 도구와 데이터의 보안 위협을 인식하고 관련 리스크를 줄이기 위해 다음과 같은 제언을 제시함
- 연방 정부는 공유 자원을 지키고 오염을 감지하는 새로운 솔루션을 생성하기 위한 관련 데이터의 경연 프로그램을 고려하여야 함
- 기술 기업이 인공지능 가상 공격팀을 조직하는 것과 같이 머신러닝 가상 공격팀을 조직해 운영할 것
- 의회는 머신러닝 자원을 정리하고 무결성을 검사하는데 예산을 지원하는 방안을 고려하여야 함
- 미국은 공유 자원을 공격하는 것에 대한 윤리성과 관련해 국제적인 대화를 시작하여야 함
- 국내 기술 기업을 지원하고 공유 혁신의 문화를 촉진해 자원의 창조와 배분의 우위를 유지하여야 함
* Poison in the Well: Securing the Shared Resources of Machine Learning
○ 머신러닝 기술의 발전과 보급은 공유 도구와 데이터에 상당 부문의 의존하고 있으나, 머신러닝 도구, 머신러닝 모델, 데이터셋의 3대 요소가 취약점으로 작용할 수 있음
- 개발자는 시간과 돈을 절약하기 위해 공유된 자료나 코드를 이용해 프로그램을 짜고 머신을 훈련시키며, 이와 같은 개방성이 보안의 취약점이 될 수 있음
- 신경망을 설계하거나 이미지를 전처리하는 등의 머신러닝 도구는 수백만 개의 프로그래밍 라인으로 구성되어 있으며, 이와 같은 코드는 공격자에 악용될 수 있는 내용을 포함하고 있을 수 있음
- 연구자들은 대규모 데이터셋이나 예산을 필요로 하지 않는다는 측면에서 이미 훈련된 머신러닝 모델을 활용하고 있으며, 만약 머신러닝 모델이 오염되었을 경우 문제가 될 수 있음
- 수백만 장의 사진과 같은 방대한 분량의 머신러닝 훈련 데이터의 일부라도 조작될 경우, 훈련을 받은 머신러닝 시스템이 잘못된 패턴을 학습하거나 중대한 시점에 실수를 저지를 수 있음
○ 본 보고서는 머신러닝을 위한 공유 도구와 데이터의 보안 위협을 인식하고 관련 리스크를 줄이기 위해 다음과 같은 제언을 제시함
- 연방 정부는 공유 자원을 지키고 오염을 감지하는 새로운 솔루션을 생성하기 위한 관련 데이터의 경연 프로그램을 고려하여야 함
- 기술 기업이 인공지능 가상 공격팀을 조직하는 것과 같이 머신러닝 가상 공격팀을 조직해 운영할 것
- 의회는 머신러닝 자원을 정리하고 무결성을 검사하는데 예산을 지원하는 방안을 고려하여야 함
- 미국은 공유 자원을 공격하는 것에 대한 윤리성과 관련해 국제적인 대화를 시작하여야 함
- 국내 기술 기업을 지원하고 공유 혁신의 문화를 촉진해 자원의 창조와 배분의 우위를 유지하여야 함
