국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
‘국제 AI 안전 보고서 2025’ 공개 원문보기 1
- 국가 영국
- 생성기관 과학혁신기술부,AI 안전연구소
- 주제분류 핵심R&D분야
- 원문발표일 2025-01-29
- 등록일 2025-02-07
- 권호 280
○ 범용 AI의 안전성에 관한 과학적 근거를 종합하여, 첨단 AI의 위험성을 이해하고 관리하는 방법에 대한 국제적 이해를 증진할 목적으로 작성된 ‘국제 AI 안전 보고서 2025’ 발간
○ 보고서는 범용 AI의 역량, 범용 AI 관련된 위험, 범용 AI 위험 완화 기술에 대한 과학적 근거를 정리하여 제시
1) 범용 AI의 역량: 범용 AI는 현재와 미래에 어떤 일을 할 수 있는가?
- 많은 전문가는 현재 범용 AI가 실제 사진과 구별하기 어려운 이미지 생성, 텍스트･비디오 등과 같은 여러 모달리티와 동시 작업, 대학원 수준의 수학 및 과학 문제를 해결할 수 있는 단계까지 성장했다고 평가
2) 범용 AI의 위험: 범용 AI와 관련된 위험은 무엇인가?
- 범용 AI의 위험을 ‘악의적인 사용 위험, 오작동으로 인한 위험, 시스템적 위험’의 세 범주로 분류하고, 이미 현실화된 위험과 향후 몇 년 내에 현실화될 수 있는 위험을 포함하여 설명
3) 위험 관리 : 범용 AI로 인한 위험을 관리하기 위한 기술에는 어떤 것이 있는가?
- 범용 AI 시스템의 사용 가능 범위와 맥락은 매우 광범위하고, 개발자들이 범용 AI 모델이 어떻게 작동하는지를 여전히 거의 이해하지 못하고 있기에 정량적 위험 추정이나 보장에 어려움이 존재
