국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
국립표준기술연구소(NIST), 생성형 AI 위험관리를 위한 새로운 공개 워킹 그룹 발족 원문보기 1
- 국가 미국
- 생성기관 국립표준기술연구소
- 주제분류 핵심R&D분야
- 원문발표일 2023-06-22
- 등록일 2023-06-26
- 권호 243
○ 국립표준기술연구소(NIST)는 AI에 관한 새로운 공개 워킹 그룹을 발족
○ 새로운 워킹 그룹은 지난 2023년 1월 NIST가 발표한 AI 위험 관리 프레임워크(NIST AI Risk Management Framework, NIST AI RMF)를 기반으로 생성형 AI 위험 관리에 집중할 계획
- AI 위험 관리 프레임워크는 생성형 AI 기술로 인한 잠재적 피해를 최소화하는데 도움을 주기 위한 것으로, 이를 기반으로 워킹 그룹은 생성형 AI를 개발, 배포, 사용하는 조직과 그 신뢰성을 보장할 책임이 있는 조직에 필수적인 지침 개발을 지원할 계획
○ NIST는 워킹 그룹의 단기, 중기, 장기 목표를 다음과 같이 제시
- (단기 목표) NIST AI RMF를 활용하여 생성형 AI 기술 개발을 지원하는 방법을 설명하는 지침에 대한 의견을 수집
- (중기 목표) 생성형 AI와 관련된 테스트, 평가 및 측정에 대한 NIST 작업을 지원
- (장기 목표) 건강, 환경, 기후 변화 등 글로벌 주요 과제 해결에 생성형 AI 기술 활용을 위한 구체적인 기회를 모색
○ 새로운 워킹 그룹은 지난 2023년 1월 NIST가 발표한 AI 위험 관리 프레임워크(NIST AI Risk Management Framework, NIST AI RMF)를 기반으로 생성형 AI 위험 관리에 집중할 계획
- AI 위험 관리 프레임워크는 생성형 AI 기술로 인한 잠재적 피해를 최소화하는데 도움을 주기 위한 것으로, 이를 기반으로 워킹 그룹은 생성형 AI를 개발, 배포, 사용하는 조직과 그 신뢰성을 보장할 책임이 있는 조직에 필수적인 지침 개발을 지원할 계획
○ NIST는 워킹 그룹의 단기, 중기, 장기 목표를 다음과 같이 제시
- (단기 목표) NIST AI RMF를 활용하여 생성형 AI 기술 개발을 지원하는 방법을 설명하는 지침에 대한 의견을 수집
- (중기 목표) 생성형 AI와 관련된 테스트, 평가 및 측정에 대한 NIST 작업을 지원
- (장기 목표) 건강, 환경, 기후 변화 등 글로벌 주요 과제 해결에 생성형 AI 기술 활용을 위한 구체적인 기회를 모색
