국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
미국 AI안전연구소는 Anthropic 및 OpenAI와 AI 안전연구, 시험 및 평가에 대한 계약을 체결함 원문보기 1
- 국가 미국
- 생성기관 국립표준기술연구소
- 주제분류 핵심R&D분야
- 원문발표일 2024-08-29
- 등록일 2024-09-06
- 권호 271
○ 상무부 NIST의 인공지능 안전연구소는 Anthropic 및 OpenAI와 AI안전 연구, 시험, 평가에 대한 공식적인 협력을 위한 계약을 발표함
- 각 기업의 양해각서는 미국 AI안전연구소가 각 기업의 신모델에 대중 공개 전후로 접근할 수 있는 프레임워크를 구축할 것이라는 내용을 포함
- 이번 계약은 역량과 안전 위험을 평가하는 방법과 이러한 위험을 완화하는 방안에 대한 협력 연구를 가능하게 할 것임
- 또한, 미국 AI안전연구소는 파트너들과 함께 영국 AI안전연구소와 긴밀히 협력하여 Anthropic 및 OpenAI에 그들의 모델에 대한 잠재적인 안전 개선 사항에 대한 피드백을 제공할 계획임
