국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
인공지능 오용 방지를 위한 방안 제안 원문보기 1
- 국가 독일
- 생성기관 독일공학한림원
- 주제분류 핵심R&D분야
- 원문발표일 2022-03-25
- 등록일 2022-04-15
- 권호 212
○ 독일 공학한림원은 인공지능 오용 문제에 대응하기 위한 연구 개발 정책 제안용 보고서 <인공지능 시스템 보호, 오용방지>를 발표
○ 인공지능이 가진 폭넓은 장점에도 불구, 설계상의 목적과 달리 사회와 경제에 피해를 입힐 가능성도 있으며, 오남용을 완전히 배제할 수는 없음
- 가령 혼잡시간에 사용된 자율주행 차량은 편리하고 편안한 이동을 가능하게 하지만, 설명할 수 없는 오류로 인해 통제 불가능한 사고를 발생시킬 수 있음
○ 기존의 전통적 소프트웨어와 달리 오용은 해킹을 통해서만 발생하지 않는 다는 점에서 새로운 설계상의 철학이 필요
- 연구진은 설계 단계에서부터 인공지능 애플리케이션을 가해자의 입장에서 상정한 최악(공격) 시나리오를 고려한 후, 이를 역으로 방어할 수 있는 기술적 보호 메커니즘을 통합할 수 있어야 함을 강조
- 이를 위해 인공지능 시스템 뿐 아니라 구축과 활용 단계에서 사용되는 데이터와 학습 프로세스(알고리즘)도 보호할 수 있어야 함
- 또한 인간의 위법/불법 행위가 인공지능 시스템 전체 주기에서 발현 가능하다는 점을 또 다른 위험으로 언급
○ 보고서는 사회 전반에서 인공지능에 대한 지식 수준을 향상시키고 인공지능이 가진 잠재적 취약점에 대한 토론도 보다 늘려야 함을 강조
○ 또한 승인 후 도입된 인공지능 시스템을 대상으로 한 제3의 독립 기관의 점검, 오용 시 책임 소재를 규명할 수 있는 법적 근거 마련의 필요성도 함께 언급
○ 인공지능이 가진 폭넓은 장점에도 불구, 설계상의 목적과 달리 사회와 경제에 피해를 입힐 가능성도 있으며, 오남용을 완전히 배제할 수는 없음
- 가령 혼잡시간에 사용된 자율주행 차량은 편리하고 편안한 이동을 가능하게 하지만, 설명할 수 없는 오류로 인해 통제 불가능한 사고를 발생시킬 수 있음
○ 기존의 전통적 소프트웨어와 달리 오용은 해킹을 통해서만 발생하지 않는 다는 점에서 새로운 설계상의 철학이 필요
- 연구진은 설계 단계에서부터 인공지능 애플리케이션을 가해자의 입장에서 상정한 최악(공격) 시나리오를 고려한 후, 이를 역으로 방어할 수 있는 기술적 보호 메커니즘을 통합할 수 있어야 함을 강조
- 이를 위해 인공지능 시스템 뿐 아니라 구축과 활용 단계에서 사용되는 데이터와 학습 프로세스(알고리즘)도 보호할 수 있어야 함
- 또한 인간의 위법/불법 행위가 인공지능 시스템 전체 주기에서 발현 가능하다는 점을 또 다른 위험으로 언급
○ 보고서는 사회 전반에서 인공지능에 대한 지식 수준을 향상시키고 인공지능이 가진 잠재적 취약점에 대한 토론도 보다 늘려야 함을 강조
○ 또한 승인 후 도입된 인공지능 시스템을 대상으로 한 제3의 독립 기관의 점검, 오용 시 책임 소재를 규명할 수 있는 법적 근거 마련의 필요성도 함께 언급
