국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
인공지능 시스템의 윤리 관점 적용을 위한 표준화 권고안 제시 원문보기 1
- 국가 독일
- 생성기관 연방경제에너지부
- 주제분류 과학기술문화
- 원문발표일 2020-10-02
- 등록일 2020-10-23
- 권호 177
○ 연방경제에너지부는 최근 "자율 기계와 차량의 인공지능 표준화의 윤리적 측면" 프로젝트를 통해 인공지능에 의해 제어되는 각종 장비와 기계에 어떤 형태의 윤리적 가치를 부여할 수 있을지를 면밀하게 조사하고, 그 결과를 백서를 통해 공개한 바 있음
- 규칙과 표준 제정은 인공지능 개발과 사용에서 반드시 선행되어야 할 작업으로, 인공지능 시스템이 시스템 전체 수명주기 전반에서 내부 및 외부 액세스를 통한 검증이 가능해야 함을 강조
- 이는 소비자, 사용자, 개발자가 모두 인식하고 있어야 하며, 이를 통해 인공지능 시스템의 안전한 사용이 보장될 수 있다는 점을 인식한데서 출발한 프로젝트
○ 이 프로젝트의 목표는 인공지능과 윤리라는 학제 간 영역의 관점에서 표준화 작업의 현재 수준을 분석하고 미래에 개선/적용해야 할점을 도출하는데 있음
○ 이를 위해 민간 기업, 과학 연구, 공공 부문, 시민 사회 전문가 77인이 참여하였으며 수차례 워크숍을 통해 그 내용이 다듬어짐
○ 백서는 표준화 기구와 전문가 그룹이 도출한 8대 권장 사항을 수록하고 있으며 그 골자는 아래와 같이 요약됨
- 표준화 기관은 인공지능이 인간 자유 의지를 우선적으로 설정할 수 있음을 검증하는 테스트 기준을 정립해야 함
- 설명 가능성, 추적 가능성, 검증 가능성, 보안성 및 데이터 보호와 같은 추가 기준이 도입되어야 함
- 인공지능 시스템은 외부 접근에서 완전한 보호가 보장되어야 하며 주변 환경에 위협이 되어선 안됨
- 위험 가능성이 높거나 중요성이 높은 인공지능 시스템은 개인과 사회에 미치는 피해를 사전에 예측하고 동시에 검토할 수 있는 위험 분석 기법을 내장해야 함
○ 이 백서에서 제시한 권고안은 2020년 11월 30일 연방정부의 국가 인공지능 전략 표준화 로드맵에 통합될 예정
○ 보고서 원문은 독일 표준화협회 홈페이지에서 다운로드 가능
https://www.din.de/resource/blob/754724/00dcbccc21399e13872b2b6120369e74/whitepaper-ki-ethikaspekte-data.pdf
- 규칙과 표준 제정은 인공지능 개발과 사용에서 반드시 선행되어야 할 작업으로, 인공지능 시스템이 시스템 전체 수명주기 전반에서 내부 및 외부 액세스를 통한 검증이 가능해야 함을 강조
- 이는 소비자, 사용자, 개발자가 모두 인식하고 있어야 하며, 이를 통해 인공지능 시스템의 안전한 사용이 보장될 수 있다는 점을 인식한데서 출발한 프로젝트
○ 이 프로젝트의 목표는 인공지능과 윤리라는 학제 간 영역의 관점에서 표준화 작업의 현재 수준을 분석하고 미래에 개선/적용해야 할점을 도출하는데 있음
○ 이를 위해 민간 기업, 과학 연구, 공공 부문, 시민 사회 전문가 77인이 참여하였으며 수차례 워크숍을 통해 그 내용이 다듬어짐
○ 백서는 표준화 기구와 전문가 그룹이 도출한 8대 권장 사항을 수록하고 있으며 그 골자는 아래와 같이 요약됨
- 표준화 기관은 인공지능이 인간 자유 의지를 우선적으로 설정할 수 있음을 검증하는 테스트 기준을 정립해야 함
- 설명 가능성, 추적 가능성, 검증 가능성, 보안성 및 데이터 보호와 같은 추가 기준이 도입되어야 함
- 인공지능 시스템은 외부 접근에서 완전한 보호가 보장되어야 하며 주변 환경에 위협이 되어선 안됨
- 위험 가능성이 높거나 중요성이 높은 인공지능 시스템은 개인과 사회에 미치는 피해를 사전에 예측하고 동시에 검토할 수 있는 위험 분석 기법을 내장해야 함
○ 이 백서에서 제시한 권고안은 2020년 11월 30일 연방정부의 국가 인공지능 전략 표준화 로드맵에 통합될 예정
○ 보고서 원문은 독일 표준화협회 홈페이지에서 다운로드 가능
https://www.din.de/resource/blob/754724/00dcbccc21399e13872b2b6120369e74/whitepaper-ki-ethikaspekte-data.pdf
