국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
글로벌 대형언어모델(LLM) 과학기술 보안 역량 평가 보고서 발표 원문보기 1
- 국가 중국
- 생성기관 신화통신사
- 주제분류 핵심R&D분야
- 원문발표일 2026-07-03
- 등록일 2026-07-10
- 권호 315
○ 신화통신사는 글로벌 대형언어모델(LLM)의 과학기술 보안 역량을 평가한 보고서(全球大语言模型科技安全防范能力测评报告)에서 일부 모델의 보안 취약점이 확인됐다고 보도
- AI가 답변하는 과학기술 정보의 신뢰성과 안전성을 검증하고자 동벽과기데이터(东壁科技数据有限责任公司)와 상하이재경대학(上海财经大学数字经济学院)이 공동 평가를 실시
- 평가 측은 생물화학, 사이버보안 등 최첨단 분야를 포괄하는 313개 문항의 테스트 세트를 구축해 전 세계 38개 대규모 언어모델(LLM)을 전방위적으로 점검했으며, 과학기술 콘텐츠의 신뢰성을 평가하기 위해 약 10만 건의 과학기술 문헌 자료를 참고 자료로 선정
- 전문가들은 과학기술 콘텐츠의 신뢰성이 높다고 해서 반드시 안전한 것은 아니며, 신뢰할 수 있는 지식을 규제 범위 안에 두는 것이 핵심이고, 이에 따라 대형 언어모델의 안전 평가는 단순한 키워드 차단에서 종합적 위험 평가로 전환되고 있다는 견해를 표명
- AI가 답변하는 과학기술 정보의 신뢰성과 안전성을 검증하고자 동벽과기데이터(东壁科技数据有限责任公司)와 상하이재경대학(上海财经大学数字经济学院)이 공동 평가를 실시
- 평가 측은 생물화학, 사이버보안 등 최첨단 분야를 포괄하는 313개 문항의 테스트 세트를 구축해 전 세계 38개 대규모 언어모델(LLM)을 전방위적으로 점검했으며, 과학기술 콘텐츠의 신뢰성을 평가하기 위해 약 10만 건의 과학기술 문헌 자료를 참고 자료로 선정
- 전문가들은 과학기술 콘텐츠의 신뢰성이 높다고 해서 반드시 안전한 것은 아니며, 신뢰할 수 있는 지식을 규제 범위 안에 두는 것이 핵심이고, 이에 따라 대형 언어모델의 안전 평가는 단순한 키워드 차단에서 종합적 위험 평가로 전환되고 있다는 견해를 표명
