국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
AI 모델 가중치 보안 : 프런티어 모델의 오용 및 탈취방지 원문보기 1
- 국가 미국
- 생성기관 RAND연구소
- 주제분류 핵심R&D분야
- 원문발표일 2024-05-30
- 등록일 2024-06-07
- 권호 265
○ 프런티어 AI모델 즉, 개발 당시 가장 발전된 모델의 기능과 일치하거나 이를 능가하는 모델의 성능이 향상됨에 따라, 프런티어 AI 모델을 탈취나 오용으로부터 보호하는 것이 더욱 중요해지고 있음
- 본 보고서는 AI의 핵심 인텔리전스를 인코딩하는 학습 매개변수인 모델 가중치(weights)를 다양한 잠재적 공격자의 탈취로부터 보호하기 위해 무엇이 필요한지 분석함
○ 주요 결과
- AI 조직은 뚜렷한 공격벡터와 광범위한 공격역량으로 인한 다양한 위협에 직면해 있음
- 사이버보안이나 국가 안보 전문가들 사이에서는 역량이 낮은 행위자로부터 디지털 시스템이나 정보를 보호하는 것에 대한 대략적인 합의가 있으나, 최고의 사이버 역량을 갖춘 국가와 같이 보다 능력있는 행위자에 대응하기 위해 무엇이 필요한지에 대한 견해는 매우 다양함
- 프런티어 AI모델 가중치 보호는 몇개의 '해결책(silver bullet)' 보안조치를 실행한다고 해서 보장할 수 없으며, 포괄적인 접근방법이 필요함
- 가장 유능한 행위자로부터 모델 가중치를 보호하는 것은 앞으로 향후 몇 년간 상당히 많은 투자를 필요로 함
○ 권고 사항
- AI모델 개발자들은 위험한 역량을 갖췄다고 판단되는 모델을 보호하기 위한 명확한 계획 수립
- 프런티어 모델을 개발하는 조직은 위협 환경 분석과 보안수준 벤치마크를 활용하여 취약점을 평가 및 대응
- 모델 가중치에 대한 무단접근과 도난을 방지하는데 중점을 둔 종합적인 위협모델에 대한 보안계획 수립 등
- 본 보고서는 AI의 핵심 인텔리전스를 인코딩하는 학습 매개변수인 모델 가중치(weights)를 다양한 잠재적 공격자의 탈취로부터 보호하기 위해 무엇이 필요한지 분석함
○ 주요 결과
- AI 조직은 뚜렷한 공격벡터와 광범위한 공격역량으로 인한 다양한 위협에 직면해 있음
- 사이버보안이나 국가 안보 전문가들 사이에서는 역량이 낮은 행위자로부터 디지털 시스템이나 정보를 보호하는 것에 대한 대략적인 합의가 있으나, 최고의 사이버 역량을 갖춘 국가와 같이 보다 능력있는 행위자에 대응하기 위해 무엇이 필요한지에 대한 견해는 매우 다양함
- 프런티어 AI모델 가중치 보호는 몇개의 '해결책(silver bullet)' 보안조치를 실행한다고 해서 보장할 수 없으며, 포괄적인 접근방법이 필요함
- 가장 유능한 행위자로부터 모델 가중치를 보호하는 것은 앞으로 향후 몇 년간 상당히 많은 투자를 필요로 함
○ 권고 사항
- AI모델 개발자들은 위험한 역량을 갖췄다고 판단되는 모델을 보호하기 위한 명확한 계획 수립
- 프런티어 모델을 개발하는 조직은 위협 환경 분석과 보안수준 벤치마크를 활용하여 취약점을 평가 및 대응
- 모델 가중치에 대한 무단접근과 도난을 방지하는데 중점을 둔 종합적인 위협모델에 대한 보안계획 수립 등
