국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
생성형 인공지능 품질 관리 가이드라인 1판 원문보기 1
- 국가 일본
- 생성기관 산업종합연구소(AIST)
- 주제분류 핵심R&D분야
- 원문발표일 2025-05-26
- 등록일 2025-06-13
- 권호 289
○ 국립연구개발법인 산업기술종합연구소(AIST)는 생성형 AI를 대상으로 한 품질관리 가이드라인을 발표
- 본 가이드라인은 타사가 개발하여 온라인 서비스 및 오픈소스 소프트웨어로 제공되는 LLM을 부품으로 활용하여 생성형 AI 시스템을 개발, 운용하는 기업을 주요 대상으로 하고 있으며, 사용자에게 일정한 품질을 갖춘 시스템을 제공하기 위해 개발·운용자가 지켜야 할 사항을 체계적으로 제시
- 기계학습을 이용한 AI 시스템의 '품질'을 AI 시스템 사용시 필요한 '사용시 품질', AI 시스템 내에서 기계학습요소에 필요한 '외부 품질', 기계학습요소 자체가 가진 '내부 품질'의 세 가지로 나누어 '내부 품질' 향상을 통해 필요한 수준의 '외부 품질'을 달성하여 최종 제품의 '사용시 품질'을 향상시키는 방안 제시
- 본 가이드라인에서는 기계학습요소 특유의 외부 품질로서 리스크 회피성, AI 퍼포먼스, 공평성의 세 가지를 제시하고 내부 품질에 대해서는 기계학습요소 구축 프로세스 및 성능 저하 원인 분석 등을 실시하고 데이터 설계의 충분성, 기계학습모델의 정확성 및 안전성, 프로그램의 건정성, 운용시 품질 유지성 등 8개 항목으로 정리
- 이러한 내부 품질을 프로세스 관리 및 수치 평가를 통해 구체적으로 확인하여 외부 품질에 필요한 요건 달성
- 가이드라인이 요구하는 품질 관리의 대상은 기계학습요소의 개발 뿐 아니라 기계학습요소를 포함한 AI시스템의 품질요건 정의, 실증실험, 시스템 개발, 보수·운용까지 시스템 라이프사이클 전체에 해당되며, 각각의 AI 시스템 개발 정도 등에 따라 서비스 제공자·시스템 개발자(SI 벤더·엔지니어) 등의 이해관계자 사이에서 역할을 분담하여 이들 품질관리 수요를 충족시켜야 한다는 내용 명시
- 본 가이드라인은 타사가 개발하여 온라인 서비스 및 오픈소스 소프트웨어로 제공되는 LLM을 부품으로 활용하여 생성형 AI 시스템을 개발, 운용하는 기업을 주요 대상으로 하고 있으며, 사용자에게 일정한 품질을 갖춘 시스템을 제공하기 위해 개발·운용자가 지켜야 할 사항을 체계적으로 제시
- 기계학습을 이용한 AI 시스템의 '품질'을 AI 시스템 사용시 필요한 '사용시 품질', AI 시스템 내에서 기계학습요소에 필요한 '외부 품질', 기계학습요소 자체가 가진 '내부 품질'의 세 가지로 나누어 '내부 품질' 향상을 통해 필요한 수준의 '외부 품질'을 달성하여 최종 제품의 '사용시 품질'을 향상시키는 방안 제시
- 본 가이드라인에서는 기계학습요소 특유의 외부 품질로서 리스크 회피성, AI 퍼포먼스, 공평성의 세 가지를 제시하고 내부 품질에 대해서는 기계학습요소 구축 프로세스 및 성능 저하 원인 분석 등을 실시하고 데이터 설계의 충분성, 기계학습모델의 정확성 및 안전성, 프로그램의 건정성, 운용시 품질 유지성 등 8개 항목으로 정리
- 이러한 내부 품질을 프로세스 관리 및 수치 평가를 통해 구체적으로 확인하여 외부 품질에 필요한 요건 달성
- 가이드라인이 요구하는 품질 관리의 대상은 기계학습요소의 개발 뿐 아니라 기계학습요소를 포함한 AI시스템의 품질요건 정의, 실증실험, 시스템 개발, 보수·운용까지 시스템 라이프사이클 전체에 해당되며, 각각의 AI 시스템 개발 정도 등에 따라 서비스 제공자·시스템 개발자(SI 벤더·엔지니어) 등의 이해관계자 사이에서 역할을 분담하여 이들 품질관리 수요를 충족시켜야 한다는 내용 명시
