국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
<설명가능한 인공지능> 백서 원문보기 1
- 국가 독일
- 생성기관 독일공학한림원
- 주제분류 핵심R&D분야
- 원문발표일 2025-06-25
- 등록일 2025-07-11
- 권호 291
○ 독일공학한림원은 인공지능 보급과 함께 지속적인 관심을 받고 있는 <설명가능한 인공지능> 관련 백서를 발간
- 인공지능이 도출한 결과를 다양한 대상 그룹에게 이해시킬 수 있는 방법과 도구를 제안하고자 함
- 특히 의료 진단, 채용 과정, 품질 관리 등에서 AI 결과의 추적 가능성은 필수로, 개발자는 시스템 개선을 위한 정보를 얻고, 사용자는 판별 요인을 파악할 수 있다는 점에서 특별
○ 설명가능한 인공지능 연구는 크게 2가지로 분류
- 데이터와 모델 개선에 집중하고 개발자들이 구현 전 모델을 실험 및 품질 향상
- 책임감 있는 인공지능을 위한 윤리적 기준으로 사용자에게 투명성과 신뢰성 제공
○ 투명성은 안전 분야에서 필수적인 요건이며, 민간 기업에서는 인공지능의 예측이 어떤 근거에서 이뤄졌는지를 파악하면 영업활동과 생산 프로세스 개선에 기여
○ 보고서는 설명가능한 인공지능이 신뢰할 수 있는 인공지능의 근간이자 모델 개선 도구라는 점에서 새로운 기회로 인식되며, 이를 위한 연구활동의 중요성 강조
○ 또한 교육 부문에서는 인공지능과 데이터 사이언스 전공에 관련 사항을 교과 과정에 편입할 것을 권장하며, 기업은 내부 소통 개선과 경쟁력 차별화를 위해 적극 활용 권장
- 인공지능이 도출한 결과를 다양한 대상 그룹에게 이해시킬 수 있는 방법과 도구를 제안하고자 함
- 특히 의료 진단, 채용 과정, 품질 관리 등에서 AI 결과의 추적 가능성은 필수로, 개발자는 시스템 개선을 위한 정보를 얻고, 사용자는 판별 요인을 파악할 수 있다는 점에서 특별
○ 설명가능한 인공지능 연구는 크게 2가지로 분류
- 데이터와 모델 개선에 집중하고 개발자들이 구현 전 모델을 실험 및 품질 향상
- 책임감 있는 인공지능을 위한 윤리적 기준으로 사용자에게 투명성과 신뢰성 제공
○ 투명성은 안전 분야에서 필수적인 요건이며, 민간 기업에서는 인공지능의 예측이 어떤 근거에서 이뤄졌는지를 파악하면 영업활동과 생산 프로세스 개선에 기여
○ 보고서는 설명가능한 인공지능이 신뢰할 수 있는 인공지능의 근간이자 모델 개선 도구라는 점에서 새로운 기회로 인식되며, 이를 위한 연구활동의 중요성 강조
○ 또한 교육 부문에서는 인공지능과 데이터 사이언스 전공에 관련 사항을 교과 과정에 편입할 것을 권장하며, 기업은 내부 소통 개선과 경쟁력 차별화를 위해 적극 활용 권장
