국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
AI 안전연구소(AI Safety Institute) 설치 및 소개 원문보기 1
- 국가 영국
- 생성기관 AI 안전연구소
- 주제분류 핵심R&D분야
- 원문발표일 2024-01-17
- 등록일 2024-01-22
- 권호 256
○ AI 안전연구소(AI Safety Institute)는 첨단 AI의 위험을 인식하고 거버넌스를 활성화하는 데 필요한 사회기술 인프라를 개발하는 것을 목표로 함
- 불확실성이 높은 AI분야의 발전에 뒤처지지 않고 AI 안전과 보안을 모두 고려하고자 함
- 민감한 데이터가 포함된 시스템을 미세 조정하는 방법, 모델 훈련 및 위험 평가에 대한 집단적 의견과 참여를 유도하는 플랫폼, 훈련 데이터의 편향성을 분석하는 기술 등을 제공함
○ 주요 기능
- 고급 AI 시스템 개발 및 평가 수행-안전 관련 기능을 특성화하고, 시스템의 안전과 보안을 이해하며, 사회적 영향을 평가함
- 기초적인 AI 안전 연구 추진-외부 연구자 초빙 등의 다양한 탐색적 연구 프로젝트를 진행함
- 정보 교환 촉진-자발적으로 기존의 개인정보 보호 및 데이터 규제에 따라 국내 및 국제 행위자 간의 명확한 정보 공유 채널을 구축함
○ 평가 우선순위
- 1) 겸용(dual-use) 기능, 2) 사회적 영향, 3) 시스템 안전 및 보안, 4) 통제력 상실
- 불확실성이 높은 AI분야의 발전에 뒤처지지 않고 AI 안전과 보안을 모두 고려하고자 함
- 민감한 데이터가 포함된 시스템을 미세 조정하는 방법, 모델 훈련 및 위험 평가에 대한 집단적 의견과 참여를 유도하는 플랫폼, 훈련 데이터의 편향성을 분석하는 기술 등을 제공함
○ 주요 기능
- 고급 AI 시스템 개발 및 평가 수행-안전 관련 기능을 특성화하고, 시스템의 안전과 보안을 이해하며, 사회적 영향을 평가함
- 기초적인 AI 안전 연구 추진-외부 연구자 초빙 등의 다양한 탐색적 연구 프로젝트를 진행함
- 정보 교환 촉진-자발적으로 기존의 개인정보 보호 및 데이터 규제에 따라 국내 및 국제 행위자 간의 명확한 정보 공유 채널을 구축함
○ 평가 우선순위
- 1) 겸용(dual-use) 기능, 2) 사회적 영향, 3) 시스템 안전 및 보안, 4) 통제력 상실
