국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
헬스케어 부문 내 챗봇의 책임감있는 활용을 위한 정책 프레임워크 제시 원문보기 1
- 국가 국제기구
- 생성기관 세계경제포럼
- 주제분류 핵심R&D분야
- 원문발표일 2020-12-07
- 등록일 2021-01-08
- 권호 182
○ 세계경제포럼(WEF)은 헬스케어 부문 내 챗봇의 책임감 있는 활용을 위한 정책 프레임워크를 제시하는 보고서*를 발표함
* Chatbots RESET: A Framework for Governing Responsible Use of Conversational AI in Healthcare
○ COVID-19 사태는 이전부터 헬스케어 부문에서 진행되어 오던 인공지능을 활용한 챗봇의 확산을 더욱 가속화시켰음
- 챗봇은 인공지능 기술을 활용한 대화 시스템으로, 소비자와 자연스럽고 편리하게 소통하기 위해 활용되고 있음
- 반면 민감한 건강 정보의 교환이나 성능, 합법성, 프라이버시 및 보안, 공정성 등의 챗봇의 잠재적인 문제점에 대한 우려도 높아지고 있음
○ 본 보고서는 챗봇의 책임감 있는 활용을 위한 10가지 원칙을 제시하고, 이를 실현할 행동 방안을 제시하고 있음
- 안전성: 챗봇의 활동이 피할 수 있는 피해나 예상치 못한 결과로 이어지지 않아야 함
- 효율성: 챗봇은 효율성을 검증받아야 하며 결과는 사용자에 맞게 제공되어야 함
- 데이터 보호: 모든 개인 데이터는 동의 하에 수집되고 다른 목적에 의해 사용되지 않아야 함
- 인간 에이전시: 챗봇은 인간의 실시간 감독 하에 운영되어야 함
- 책임성: 조직의 한 개체가 챗봇의 거버넌스에 대한 책임을 져야 함
- 투명성: 챗봇의 사용자는 인공지능의 사용여부와 성능 등을 투명하게 알 수 있어야 함
- 공정성: 챗봇은 편견이나 차별없이 운영되어야 하며, 인구 대상을 대표하는 데이터로 훈련되어야 함
- 설명가능성: 챗봇에 의해 제공된 의사결정과 제언에 어떻게 도달하였는지 설명이 가능해야 함
- 무결성: 챗봇은 근거와 대응을 합리적이고 근거에 기반해 제한적으로 제공하여야 함
- 포용성: 소외되는 사람 없이 모든 사용자가 서비스에 접근 가능해야 함
* Chatbots RESET: A Framework for Governing Responsible Use of Conversational AI in Healthcare
○ COVID-19 사태는 이전부터 헬스케어 부문에서 진행되어 오던 인공지능을 활용한 챗봇의 확산을 더욱 가속화시켰음
- 챗봇은 인공지능 기술을 활용한 대화 시스템으로, 소비자와 자연스럽고 편리하게 소통하기 위해 활용되고 있음
- 반면 민감한 건강 정보의 교환이나 성능, 합법성, 프라이버시 및 보안, 공정성 등의 챗봇의 잠재적인 문제점에 대한 우려도 높아지고 있음
○ 본 보고서는 챗봇의 책임감 있는 활용을 위한 10가지 원칙을 제시하고, 이를 실현할 행동 방안을 제시하고 있음
- 안전성: 챗봇의 활동이 피할 수 있는 피해나 예상치 못한 결과로 이어지지 않아야 함
- 효율성: 챗봇은 효율성을 검증받아야 하며 결과는 사용자에 맞게 제공되어야 함
- 데이터 보호: 모든 개인 데이터는 동의 하에 수집되고 다른 목적에 의해 사용되지 않아야 함
- 인간 에이전시: 챗봇은 인간의 실시간 감독 하에 운영되어야 함
- 책임성: 조직의 한 개체가 챗봇의 거버넌스에 대한 책임을 져야 함
- 투명성: 챗봇의 사용자는 인공지능의 사용여부와 성능 등을 투명하게 알 수 있어야 함
- 공정성: 챗봇은 편견이나 차별없이 운영되어야 하며, 인구 대상을 대표하는 데이터로 훈련되어야 함
- 설명가능성: 챗봇에 의해 제공된 의사결정과 제언에 어떻게 도달하였는지 설명이 가능해야 함
- 무결성: 챗봇은 근거와 대응을 합리적이고 근거에 기반해 제한적으로 제공하여야 함
- 포용성: 소외되는 사람 없이 모든 사용자가 서비스에 접근 가능해야 함
