국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
AI 시스템 내 편향성 개선을 위한 연구 지원 원문보기 1
- 국가 영국
- 생성기관 과학혁신기술부
- 주제분류 핵심R&D분야
- 원문발표일 2023-10-16
- 등록일 2023-10-24
- 권호 250
○ 과학혁신기술부(DSIT)와 데이터윤리및혁신센터(CDEI)는 AI 시스템에 내재한 편견 및 차별문제를 해결하기 위한 솔루션 개발 공모전을 통해 3개의 혁신적인 과제를 지원하고자 함
- 공모전은 40만 파운드 규모로, 선정된 3개 프로젝트에 각각 약 13만 파운드 가량 지원 예정
- 영국은 이미 보건의료 분야 등에서 AI의 도입을 시도하고 있으나 AI의 편향성과 같은 위험이 해결되어야 안전한 AI의 도입이 가능하리라고 판단, AI 규제 백서를 통해 공정한 AI의 중요성을 강조함
○ 기존의 AI 편향성 검사 도구의 대다수가 미국에서 개발되었으며, 이는 영국의 규제 및 법적 환경과는 다른 경우가 있기에 기술 뿐만 아니라 사회 및 문화적 맥락을 포함한 AI 평가를 개발하고자 함
○ 이번 공모전은 기존 영국 정부의 AI 프로젝트와 연관되어 다음의 두 개 분야에 초점을 맞추고 있음
1) AI 모델의 잠재정 편향성 분석: 연구는 킹스칼리지런던과 협력을 통해 수행되며, 특히 NHS AI가 100만 명이 넘는 환자 익명 데이터를 통해 학습시킨 모델의 편향성을 중점적으로 분석함
2) 개방 활용 사례: 지원자들은 자체적이며 고유한 모델 및 활용 영역을 정의하고 혁신적인 솔루션을 제시할 수 있으며, AI를 활용한 사기행위 근절, 새로운 법 집행의 AI 툴 개발, 더 공정항 고용 시스템 개발 등 다양한 사회문제를 대상으로 함
- 공모전은 40만 파운드 규모로, 선정된 3개 프로젝트에 각각 약 13만 파운드 가량 지원 예정
- 영국은 이미 보건의료 분야 등에서 AI의 도입을 시도하고 있으나 AI의 편향성과 같은 위험이 해결되어야 안전한 AI의 도입이 가능하리라고 판단, AI 규제 백서를 통해 공정한 AI의 중요성을 강조함
○ 기존의 AI 편향성 검사 도구의 대다수가 미국에서 개발되었으며, 이는 영국의 규제 및 법적 환경과는 다른 경우가 있기에 기술 뿐만 아니라 사회 및 문화적 맥락을 포함한 AI 평가를 개발하고자 함
○ 이번 공모전은 기존 영국 정부의 AI 프로젝트와 연관되어 다음의 두 개 분야에 초점을 맞추고 있음
1) AI 모델의 잠재정 편향성 분석: 연구는 킹스칼리지런던과 협력을 통해 수행되며, 특히 NHS AI가 100만 명이 넘는 환자 익명 데이터를 통해 학습시킨 모델의 편향성을 중점적으로 분석함
2) 개방 활용 사례: 지원자들은 자체적이며 고유한 모델 및 활용 영역을 정의하고 혁신적인 솔루션을 제시할 수 있으며, AI를 활용한 사기행위 근절, 새로운 법 집행의 AI 툴 개발, 더 공정항 고용 시스템 개발 등 다양한 사회문제를 대상으로 함
