국내외 과학기술 정책에 대한 간략한 정보
단신동향
국내단신
국내 최초 AI 모델 안전성 평가 실시 원문보기 1
- 국가 한국
- 생성기관 과학기술정보통신부
- 주제분류 핵심R&D분야
- 원문발표일 2025-12-29
- 등록일 2026-01-21
- 권호 302
○ 과학기술정보통신부는 인공지능안전연구소･한국정보통신기술협회와 함께 카카오의 AI 모델 ‘Kanana’를 대상으로 국내 최초 인공지능 안전성 평가를 실시
-한국정보통신기술협회와 KAIST가 공개한 AssurAI 평가 데이터셋을 활용하여 폭력･차별적 표현 등 일반 위험 요소부터 무기･보안 등 오남용 시나리오까지 평가
-AssurAI 데이터셋은 한국어 기반 35개 위험 영역 평가 벤치 마크로 해외 연구기관 공동 검증･활용을 위해 공개되었으며, 국제 AI 안전연구소 네트워크 및 국제표준화 반영 추진
-2026년에는 독자 AI 파운데이션 모델 사업 1차 단계평가 참여 및 국내외 AI 기업과의 협력을 통한 타 AI 모델 대상 평가 확대 추진 방침
-한국정보통신기술협회와 KAIST가 공개한 AssurAI 평가 데이터셋을 활용하여 폭력･차별적 표현 등 일반 위험 요소부터 무기･보안 등 오남용 시나리오까지 평가
-AssurAI 데이터셋은 한국어 기반 35개 위험 영역 평가 벤치 마크로 해외 연구기관 공동 검증･활용을 위해 공개되었으며, 국제 AI 안전연구소 네트워크 및 국제표준화 반영 추진
-2026년에는 독자 AI 파운데이션 모델 사업 1차 단계평가 참여 및 국내외 AI 기업과의 협력을 통한 타 AI 모델 대상 평가 확대 추진 방침
