국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
딥시크 AI 모델에 대한 CAISI 평가, 단점 및 위험 요소 발견 원문보기 1
- 국가 미국
- 생성기관 국립표준기술연구소(NIST)
- 주제분류 핵심R&D분야
- 원문발표일 2025-09-30
- 등록일 2025-10-10
- 권호 297
○ 미국 상무부 산하 국립표준기술연구소(NIST)의 AI 표준 및 혁신 센터(CAISI)는 중국의 AI 개발업체 DeepSeek가 개발한 최신 AI 모델에 대한 종합 평가 보고서를 발표
- CAISI의 평가*는 또한 DeepSeek 모델의 보안과 모델응답 검열과 관련된 단점이 애플리케이션 개발자와 소비자, 그리고 미국 국가안보에 위험을 일으킬 수 있다고 제시함
* Evaluation of DeepSeek AI Models
- 이러한 위험에도 불구하고 DeepSeek는 선도적인 개발자이며, 중국모델이 세계적으로 급격하게 활용되는데 기여해 옴
- CAISI 평가는 트럼프 대통령의 AI행동계획에 대응하며, 동 계획은 CAISI가 중국의 프런티어 모델에 대한 연구를 수행하고 평가를 발표하도록 지시함
○ 주요 결과는 다음과 같음
- DeepSeek 성능은 최고의 미국 참조모델에 비해 뒤떨어짐
- DeepSeek 모델은 비교할 수 있는 미국 모델보다 활용 시 더 많은 비용을 사용함
- DeepSeek 모델은 미국 프런티어 모델보다 에이전트 하이재킹 공격(hijacking attacks)*에 훨씬 더 취약함
* 악의적인 주체가 다른 사용자의 세션이나 데이터를 가로채는 사이버 공격을 의미함
- DeepSeek 모델은 미국모델보다 탈옥공격(jailbreaking attacks)*에 훨씬 더 취약함
* LLM에 내장된 안전 가이드라인을 우회하거나 무력화하여 AI가 금지된 내용을 생성하도록 유도하는 공격
- DeepSeek 모델은 중국 공산당의 내러티브를 진전시킴
- 중국 모델의 채택은 DeepSeek R1이 출시된 이후 크게 증가하였음
- CAISI의 평가*는 또한 DeepSeek 모델의 보안과 모델응답 검열과 관련된 단점이 애플리케이션 개발자와 소비자, 그리고 미국 국가안보에 위험을 일으킬 수 있다고 제시함
* Evaluation of DeepSeek AI Models
- 이러한 위험에도 불구하고 DeepSeek는 선도적인 개발자이며, 중국모델이 세계적으로 급격하게 활용되는데 기여해 옴
- CAISI 평가는 트럼프 대통령의 AI행동계획에 대응하며, 동 계획은 CAISI가 중국의 프런티어 모델에 대한 연구를 수행하고 평가를 발표하도록 지시함
○ 주요 결과는 다음과 같음
- DeepSeek 성능은 최고의 미국 참조모델에 비해 뒤떨어짐
- DeepSeek 모델은 비교할 수 있는 미국 모델보다 활용 시 더 많은 비용을 사용함
- DeepSeek 모델은 미국 프런티어 모델보다 에이전트 하이재킹 공격(hijacking attacks)*에 훨씬 더 취약함
* 악의적인 주체가 다른 사용자의 세션이나 데이터를 가로채는 사이버 공격을 의미함
- DeepSeek 모델은 미국모델보다 탈옥공격(jailbreaking attacks)*에 훨씬 더 취약함
* LLM에 내장된 안전 가이드라인을 우회하거나 무력화하여 AI가 금지된 내용을 생성하도록 유도하는 공격
- DeepSeek 모델은 중국 공산당의 내러티브를 진전시킴
- 중국 모델의 채택은 DeepSeek R1이 출시된 이후 크게 증가하였음
