국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
인공지능 사고의 유형과 요인, 정책 제언 원문보기 1
- 국가 미국
- 생성기관 안보유망기술센터
- 주제분류 과학기술전략
- 원문발표일 2021-07-07
- 등록일 2021-08-13
- 권호 196
○ 안보유망기술센터(CSET)는 인공지능 사고의 유형과 요인, 정책 제언을 제시하는 보고서*를 작성함
* AI Accidents: An Emerging Threat
○ 인공지능은 강력한 기능에도 불구하고 취약성 때문에 인공지능 사고(AI Accidents)를 피할 수 없으며, 예측하지 못한 사고는 크게 3가지 유형으로 구분할 수 있음
- 강건성(robustness): 인공지능 시스템이 비정상적이고 예상치 못한 투입물을 받아 제대로 작동하지 않음
- 세밀성(specification): 시스템이 설계자나 운영자가 의도한 것과는 살짝 다른 것을 달성하려 노력하며, 예상치 못한 행동이나 부작용을 일으킴
- 확인성(assurance): 시스템이 운영되는 동안 적절하게 모니터링되거나 통제되지 못함
○ 인공지능 사고는 빠른 속도의 운영, 시스템의 복잡성, 경젱적 압박, 훈련받지 않은 사용자, 다양한 상황에 직면하는 등의 요인으로 인해 더 자주 일어날 수 있음
○ 보고서는 점점 더 많은 분야에 인공지능이 적용됨에 따라 인공지능 사고의 인적, 경제적, 정치적 비용이 늘어날 것을 지적하며 다음과 같은 정책 제언을 제시함
- 민간 분야와 협력헤 인공지능 사고와 사고 일보직전의 사례에 대한 정보의 공유를 촉진할 것
- 중요하지만 현재 예산이 충분히 제공되고 있지 못한 인공지능 안전 R&D 부문에 투자할 것
- 인공지능 표준 개발과 시험 역량에 투자해 안전하고 신뢰할 수 있는 인공지능 시스템의 기초 컨셉과 자원을 개발하는 것을 촉진할 것
- 국제적인 R&D 연대와 다자적 조직을 통해 사고 리스크를 줄일 수 있도록 국제적으로 협력할 것
* AI Accidents: An Emerging Threat
○ 인공지능은 강력한 기능에도 불구하고 취약성 때문에 인공지능 사고(AI Accidents)를 피할 수 없으며, 예측하지 못한 사고는 크게 3가지 유형으로 구분할 수 있음
- 강건성(robustness): 인공지능 시스템이 비정상적이고 예상치 못한 투입물을 받아 제대로 작동하지 않음
- 세밀성(specification): 시스템이 설계자나 운영자가 의도한 것과는 살짝 다른 것을 달성하려 노력하며, 예상치 못한 행동이나 부작용을 일으킴
- 확인성(assurance): 시스템이 운영되는 동안 적절하게 모니터링되거나 통제되지 못함
○ 인공지능 사고는 빠른 속도의 운영, 시스템의 복잡성, 경젱적 압박, 훈련받지 않은 사용자, 다양한 상황에 직면하는 등의 요인으로 인해 더 자주 일어날 수 있음
○ 보고서는 점점 더 많은 분야에 인공지능이 적용됨에 따라 인공지능 사고의 인적, 경제적, 정치적 비용이 늘어날 것을 지적하며 다음과 같은 정책 제언을 제시함
- 민간 분야와 협력헤 인공지능 사고와 사고 일보직전의 사례에 대한 정보의 공유를 촉진할 것
- 중요하지만 현재 예산이 충분히 제공되고 있지 못한 인공지능 안전 R&D 부문에 투자할 것
- 인공지능 표준 개발과 시험 역량에 투자해 안전하고 신뢰할 수 있는 인공지능 시스템의 기초 컨셉과 자원을 개발하는 것을 촉진할 것
- 국제적인 R&D 연대와 다자적 조직을 통해 사고 리스크를 줄일 수 있도록 국제적으로 협력할 것
