국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
AI 위험 관리를 위한 미국 선도 기업의 자발적 약속 원문보기 1
- 국가 미국
- 생성기관 백악관
- 주제분류 핵심R&D분야
- 원문발표일 2023-07-21
- 등록일 2023-07-25
- 권호 245
○ 바이든 정부는 AI로 인한 위험 관리의 일환으로 AI 분야 7개 선도기업*을 소집하여, 안전하고 투명한 AI 기술 개발을 위한 자발적인 약속을 확보
* Amazon, Anthropic, Google, Inflection, Meta, Microsoft, OpenAI 社
○ 기업들은 "안전, 보안, 신뢰"의 세 가지 기본 원칙을 강조하며, 책임감 있는 AI 개발을 약속
- (제품 출시 전 안전성 확인) 기업은 제품을 출시하기 전에 AI 시스템에 대한 내·외부 보안 테스트를 실시하여, 사이버 보안과 같은 AI 위험요소 뿐 아니라 광범위한 사회적 영향에 대비
- (보안을 최우선으로하는 시스템 구축) 사이버 보안 및 내부자 위협 보호 장치에 투자
- (대중의 신뢰 얻기) 워터마킹 시스템과 같은 강력한 기술 메커니즘을 개발하여 사용자가 콘텐츠가 AI로 생성되었는지 알 수 있도록 보장
○ 정부는 국내 기업의 자발적 약속에 따라 동맹국 및 파트너와 협력하여 AI 개발 및 사용을 관리하기 위한 강력한 국제 프레임워크를 구축할 계획
- 이미 호주, 브라질, 캐나다, 칠레, 프랑스, 독일, 인도, 이스라엘, 이탈리아, 일본, 케냐, 멕시코, 네덜란드, 뉴질랜드, 나이지리아, 필리핀, 싱가포르, 한국, 아랍에미리트, 영국과 자발적 약속에 대해 협의
* Amazon, Anthropic, Google, Inflection, Meta, Microsoft, OpenAI 社
○ 기업들은 "안전, 보안, 신뢰"의 세 가지 기본 원칙을 강조하며, 책임감 있는 AI 개발을 약속
- (제품 출시 전 안전성 확인) 기업은 제품을 출시하기 전에 AI 시스템에 대한 내·외부 보안 테스트를 실시하여, 사이버 보안과 같은 AI 위험요소 뿐 아니라 광범위한 사회적 영향에 대비
- (보안을 최우선으로하는 시스템 구축) 사이버 보안 및 내부자 위협 보호 장치에 투자
- (대중의 신뢰 얻기) 워터마킹 시스템과 같은 강력한 기술 메커니즘을 개발하여 사용자가 콘텐츠가 AI로 생성되었는지 알 수 있도록 보장
○ 정부는 국내 기업의 자발적 약속에 따라 동맹국 및 파트너와 협력하여 AI 개발 및 사용을 관리하기 위한 강력한 국제 프레임워크를 구축할 계획
- 이미 호주, 브라질, 캐나다, 칠레, 프랑스, 독일, 인도, 이스라엘, 이탈리아, 일본, 케냐, 멕시코, 네덜란드, 뉴질랜드, 나이지리아, 필리핀, 싱가포르, 한국, 아랍에미리트, 영국과 자발적 약속에 대해 협의
