국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
인공지능의 편견 파악과 관리 원문보기 1
- 국가 미국
- 생성기관 벨퍼연구소
- 주제분류 핵심R&D분야
- 원문발표일 2022-03-16
- 등록일 2022-04-15
- 권호 212
○ 국립표준기술연구소(NIST)는 인공지능의 편견을 파악하고 관리하는 방안을 제시하는 보고서*를 발표함
* Towards a Standard for Identifying and Managing Bias in Artificial Intelligence
○ 인공지능은 의도와는 관계없이 편견이 있는 결과를 만들수 있으며, 이는 인공지능 기술에 대한 국민의 신뢰를 낮출 수 있음
○ 인공지능의 편견은 개인적이고 조직적인 수준이 아닌 사회적인 수준에 기인할 수 있으며, 통계적이고 연산적인 편견 외에도 제도적이고 사회적인 요소가 편견에 영향을 줄 수 있음
- 체계적인 편견은 일부 제도의 절차와 관행을 시행하는 과정에서 특정 그룹에 혜택을 주거나 다른 그룹에 불이익을 주는 것임
- 통계적, 연산적 편견은 인공지능에 사용된 샘플이 전체 인구를 충분히 대표하지 못할 경우 의도와는 관계 없이 일어날 수 있음
- 인간적 편견은 제한된 수의 원칙이나 단순한 판단에 따라 일어나며, 모든 인공지능의 생애 주기와 활용 과정에서 나타남
○ 인공지능의 편견을 낮추기 위해 데이터셋과 시험 및 평가, 인간 요소와 관련한 과제에 대응하여야 함
- 대표성을 줄이기 위한 통계학적인 방안과 사회기술적 배경을 고려한 절차, 인간 요소와 인공지능 기술 시스템 간의 상호작용에 초점을 맞추어야 함
- 불확실성에 기인한 리스크를 줄이기 위해 모델 개발자는 활용 기관과 긴밀히 협의하고 적절한 관리 과정을 수행하여야 함
- 인간적 편견 요소과 관련해 자동화된 의사 결정을 보완할 영향 평가와 다양한 이해당사자의 참여, 다양성과 공정성, 포용성 개선 등이 필요함
* Towards a Standard for Identifying and Managing Bias in Artificial Intelligence
○ 인공지능은 의도와는 관계없이 편견이 있는 결과를 만들수 있으며, 이는 인공지능 기술에 대한 국민의 신뢰를 낮출 수 있음
○ 인공지능의 편견은 개인적이고 조직적인 수준이 아닌 사회적인 수준에 기인할 수 있으며, 통계적이고 연산적인 편견 외에도 제도적이고 사회적인 요소가 편견에 영향을 줄 수 있음
- 체계적인 편견은 일부 제도의 절차와 관행을 시행하는 과정에서 특정 그룹에 혜택을 주거나 다른 그룹에 불이익을 주는 것임
- 통계적, 연산적 편견은 인공지능에 사용된 샘플이 전체 인구를 충분히 대표하지 못할 경우 의도와는 관계 없이 일어날 수 있음
- 인간적 편견은 제한된 수의 원칙이나 단순한 판단에 따라 일어나며, 모든 인공지능의 생애 주기와 활용 과정에서 나타남
○ 인공지능의 편견을 낮추기 위해 데이터셋과 시험 및 평가, 인간 요소와 관련한 과제에 대응하여야 함
- 대표성을 줄이기 위한 통계학적인 방안과 사회기술적 배경을 고려한 절차, 인간 요소와 인공지능 기술 시스템 간의 상호작용에 초점을 맞추어야 함
- 불확실성에 기인한 리스크를 줄이기 위해 모델 개발자는 활용 기관과 긴밀히 협의하고 적절한 관리 과정을 수행하여야 함
- 인간적 편견 요소과 관련해 자동화된 의사 결정을 보완할 영향 평가와 다양한 이해당사자의 참여, 다양성과 공정성, 포용성 개선 등이 필요함
