국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
EU 인공지능 법을 통한 안전성 향상을 위한 제안 원문보기 1
- 국가 독일
- 생성기관 만하임경제연구소
- 주제분류 핵심R&D분야
- 원문발표일 2023-02-14
- 등록일 2023-03-17
- 권호 234
○ 인공지능 법은 유럽연합이 인공지능이 가져올 수 있는 부작용을 최소화 하기 위해 제안된 법으로, 전 세계 최초로 제정된 인공지능 관련 규제를 다룬 법이라는 점에서 큰 의의
- 이는 의료 의사결정, 영상/이미지 진단처럼 오판으로 인한 위험이 높은 경우 인공지능 시스템의 안전한 사용을 보장하기 위함
- 이 법은 인공지능에 대한 인간의 모니터링을 강조하고 있지만, 이 방안이 항상 신뢰성이 높은 것은 아님을 지적
○ 많은 경우 인간이 알고리즘이 내린 답의 품질을 정확히 평가할 수 없기 때문에 위험한 결과를 예측/예방할 수 없다는 점을 들어 보고서는 3가지 방안을 권고
- 인간의 감독이 만병통치약이 될 수 없고, 실패할 수 있음을 인식하도록 인공지능법 14조를 개정
- 인공지능법에서 인간의 인공지능 감독의 타당성과 효율성을 사전 검증할 수 있는 경험적(empirlcal) 실험 방안을 제공
- 인간(의사결정자)이 내린 의사결정이 인공지능의 의사결정에 반영시킬 수 있는 피드백 메커니즘 개발
- 이는 의료 의사결정, 영상/이미지 진단처럼 오판으로 인한 위험이 높은 경우 인공지능 시스템의 안전한 사용을 보장하기 위함
- 이 법은 인공지능에 대한 인간의 모니터링을 강조하고 있지만, 이 방안이 항상 신뢰성이 높은 것은 아님을 지적
○ 많은 경우 인간이 알고리즘이 내린 답의 품질을 정확히 평가할 수 없기 때문에 위험한 결과를 예측/예방할 수 없다는 점을 들어 보고서는 3가지 방안을 권고
- 인간의 감독이 만병통치약이 될 수 없고, 실패할 수 있음을 인식하도록 인공지능법 14조를 개정
- 인공지능법에서 인간의 인공지능 감독의 타당성과 효율성을 사전 검증할 수 있는 경험적(empirlcal) 실험 방안을 제공
- 인간(의사결정자)이 내린 의사결정이 인공지능의 의사결정에 반영시킬 수 있는 피드백 메커니즘 개발
