국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
첨단 AI의 안전성에 대한 보고서 원문보기
- 국가 영국
- 생성기관 과학혁신기술부AI 안전연구소
- 주제분류 핵심R&D분야
- 원문발표일 2024-05-17
- 등록일 2024-05-24
- 권호 264
○ 최근 빠르게 발전한 범용(general purpose) AI의 역량과 위험에 대한 증거를 종합하고, 이를 완화하기 위한 방법을 평가하는 보고서를 발간
- 해당 보고서는 2023년 영국이 개최한 AI 안전 정상회의(AI Safety Summit)의 목표결과물 중 하나로, 5월에 개최되는 서울 AI 안전 정상회의를 앞두고 중간 보고서를 발표한 것
○ 중간 보고서의 주요 내용은 다음과 같음
- 범용 AI는 복지나 과학적 발견을 향상시킬 수 있음
- 범용 AI의 역량은 빠르게 발전하고 있지만 인과관계의 파악과 같은 근본적인 역량에 진전이 있는지에 대해서는 논란이 존재하며, 향후 발전 속도에 대해서도 의견이 갈리는 상황
- 범용 AI는 악의적 사용, 오작동, 시스템화된 위험 및 종합적 위험 요소로써 개인과 공공의 안전 및 복지에 영향을 줄 수 있음
- 범용 AI에 대한 사람의 이해가 제한적이라 이러한 이해도를 높이는 것이 최우선 과제이며, 오남용될 경우 인종, 성별, 문화, 연령, 장애 등에 대한 편향을 보일 수 있음
- 노동 시장의 혼란이나 경제적 불평등과 같은 시스템적 혼란을 초래할 수 있으며, AI에 대한 통제력 상실이 야기하는 위험에 대해서도 전문가들의 의견이 상이함
- 벤치마킹, 레드팀, 훈련 데이터 감사 등의 수단이 존재하지만 모두 제한점이 존재하며, 사회와 정부의 합의 방향이 이후 AI의 발전 방향에 큰 영향을 미칠 수 있음
- 해당 보고서는 2023년 영국이 개최한 AI 안전 정상회의(AI Safety Summit)의 목표결과물 중 하나로, 5월에 개최되는 서울 AI 안전 정상회의를 앞두고 중간 보고서를 발표한 것
○ 중간 보고서의 주요 내용은 다음과 같음
- 범용 AI는 복지나 과학적 발견을 향상시킬 수 있음
- 범용 AI의 역량은 빠르게 발전하고 있지만 인과관계의 파악과 같은 근본적인 역량에 진전이 있는지에 대해서는 논란이 존재하며, 향후 발전 속도에 대해서도 의견이 갈리는 상황
- 범용 AI는 악의적 사용, 오작동, 시스템화된 위험 및 종합적 위험 요소로써 개인과 공공의 안전 및 복지에 영향을 줄 수 있음
- 범용 AI에 대한 사람의 이해가 제한적이라 이러한 이해도를 높이는 것이 최우선 과제이며, 오남용될 경우 인종, 성별, 문화, 연령, 장애 등에 대한 편향을 보일 수 있음
- 노동 시장의 혼란이나 경제적 불평등과 같은 시스템적 혼란을 초래할 수 있으며, AI에 대한 통제력 상실이 야기하는 위험에 대해서도 전문가들의 의견이 상이함
- 벤치마킹, 레드팀, 훈련 데이터 감사 등의 수단이 존재하지만 모두 제한점이 존재하며, 사회와 정부의 합의 방향이 이후 AI의 발전 방향에 큰 영향을 미칠 수 있음
