국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
AI시대 과학적 무결성을 보호하기 위해 인간의 책임과 의무 필요 원문보기 1
- 국가 미국
- 생성기관 국립학술원(NASEM)
- 주제분류 핵심R&D분야
- 원문발표일 2024-05-21
- 등록일 2024-06-07
- 권호 265
○ 국립과학원저널(Proceedings of National Academy of Sciences) 사설*에서, 학제 간 전문가 집단은 과학 공동체에 연구에서 인공지능을 활용할 때 인간의 책임성(accountability)과 책무성(responsibility)의 5가지 원칙을 준수할 것을 촉구함
* Protecting scientific integrity in an age of generative AI
- 저자들은 또한 기술이 진보함에 따라 책무성과 모범사례에 대한 지속적인 지침과 감독을 제공할 수 있도록 과학분야에서 AI에 대한 책임있는 사용을 위한 전략위원회의 설립을 요청하였음
○ 사설에서, 저자들은 과학공동체가 AI를 활용하여 연구를 수행할 때 5개의 원칙을 준수할 것을 촉구함
- 투명성 공개와 저작자 표시(attribution), AI생성형 콘텐츠와 분석의 검증, AI 생성형 데이터의 문서화, 윤리와 형평성에 대한 초점, 지속적인 모니터링과 감독, 대중 참여
- 각 원칙에서, 저자들은 AI를 활용해서 모델을 구축한 과학자들이 지켜야하는 구체적인 조치를 제시하고 있음
- 예를 들어, 연구자에게 있어 투명한 공개와 저작자 표시는 연구에서 특정 도구, 알고리즘, 설정값 등을 포함해 생성형 AI활용을 명확하게 공개하는 것과 정보나 아이디어에 대해 인간이나 AI자원을 명확하게 표시하는 것 등이 포함됨
* Protecting scientific integrity in an age of generative AI
- 저자들은 또한 기술이 진보함에 따라 책무성과 모범사례에 대한 지속적인 지침과 감독을 제공할 수 있도록 과학분야에서 AI에 대한 책임있는 사용을 위한 전략위원회의 설립을 요청하였음
○ 사설에서, 저자들은 과학공동체가 AI를 활용하여 연구를 수행할 때 5개의 원칙을 준수할 것을 촉구함
- 투명성 공개와 저작자 표시(attribution), AI생성형 콘텐츠와 분석의 검증, AI 생성형 데이터의 문서화, 윤리와 형평성에 대한 초점, 지속적인 모니터링과 감독, 대중 참여
- 각 원칙에서, 저자들은 AI를 활용해서 모델을 구축한 과학자들이 지켜야하는 구체적인 조치를 제시하고 있음
- 예를 들어, 연구자에게 있어 투명한 공개와 저작자 표시는 연구에서 특정 도구, 알고리즘, 설정값 등을 포함해 생성형 AI활용을 명확하게 공개하는 것과 정보나 아이디어에 대해 인간이나 AI자원을 명확하게 표시하는 것 등이 포함됨
