국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
생성형 AI 관련 정책 권고안 원문보기 1
- 국가 미국
- 생성기관 정보기술산업협회
- 주제분류 핵심R&D분야
- 원문발표일 2023-08-01
- 등록일 2023-08-08
- 권호 245
○ 정보기술산업협회(ITI)는 백악관 과학기술자문위원회(PCAST)에 생성형 AI가 제기하는 주요 기회 및 위험에 대한 권고안*을 제출
* ITI Response to PCAST Request for Input on Generative AI
○ ITI는 PCAST를 비롯하여 국가전기통신정보청(NTIA) 및 과학기술정책실(OSTP)의 국가 인공 지능 우선순위에 대한 답변을 제공하는 등 AI 정책 개발에 적극적으로 참여
○ 이번 권고안은 생성형 AI 관련 다음의 질의사항에 대한 답변을 제시
- (질의사항 1) 생성형 AI의 도입으로 대규모로 손쉽게 이미지, 오디오, 텍스트가 생성될 수 있음에 따라, 검증 가능하고 신뢰할 수 있는 정보에 대한 안정적인 접근을 어떻게 보장할 수 있는가? 특정 미디어의 출처가 진짜라는 것을 어떻게 확인할 수 있는 가?
: (답변) 해당 위험의 해결을 위하여 기술 기업 뿐 아니라 미디어 기관, 팩트 체커, 연구자, 소비자 등 다양한 이해관계자 간의 협력이 요구되며, 검증을 위한 표준, 모범사례 및 기술 솔루션을 개발할 것
- (질의사항 2) 악의적인 행위자의 AI 사용에 대한 대처방법은 무엇인가?
: (답변) 인간의 감독과 함께 AI 및 기타 첨단 기술 도구를 활용하여 AI 생성 콘텐츠에 대한 탐지를 통해 투명성을 제고하고, 이때 검증 및 유효성 검사를 위한 협력적 접근 방식을 취할 것
- (질의사항 3) AI가 생성한 허위 정보를 탐지하고 대응하기 위해 어떤 기술, 정책 및 인프라를 개발할 수 있는가?
: (답변) 인간의 탐지 노력 강화를 위해 도움이 되는 기술 활용을 포함하여 투명성 제고를 위한 정부 정책과 기업 기술 등 다각적 접근이 필요하며, 사용자가 허위 정보 등을 스스로 탐지할 수 있도록 교육 및 인식 제고 캠페인에 투자할 것
- (질의사항 4) 선출직 공직자와 대중의 소통에 AI가 생성하는 잘못된 정보가 미치는 영향을 줄이기 위해서 어떤 방식을 취할 수 있는가?
: (답변) 선출직 공직자는 검증된 소셜 미디어 계정이나 정부 웹사이트와 같이 인증 가능한 중앙 채널을 통한 일반 대중과 소통을 고려함으로써 일반 대중에 정보를 제공할 것
- (질의사항 5) AI가 생성한 허위정보, 사칭, 조작을 식별하는데 필요한 기술을 개발하는데 과학, 정치, 산업, 교육계 등이 어떻게 도움이 될 수 있는가?
: (답변) 교육 캠페인을 비롯한 공공 교육 및 미디어에 투자하고, 산업 현장에서의 투명성 조항 시행 등을 통해 AI 생성 정보의 조작 식별을 위한 기술 개발 등 위험 대비 조치를 취할 것
* ITI Response to PCAST Request for Input on Generative AI
○ ITI는 PCAST를 비롯하여 국가전기통신정보청(NTIA) 및 과학기술정책실(OSTP)의 국가 인공 지능 우선순위에 대한 답변을 제공하는 등 AI 정책 개발에 적극적으로 참여
○ 이번 권고안은 생성형 AI 관련 다음의 질의사항에 대한 답변을 제시
- (질의사항 1) 생성형 AI의 도입으로 대규모로 손쉽게 이미지, 오디오, 텍스트가 생성될 수 있음에 따라, 검증 가능하고 신뢰할 수 있는 정보에 대한 안정적인 접근을 어떻게 보장할 수 있는가? 특정 미디어의 출처가 진짜라는 것을 어떻게 확인할 수 있는 가?
: (답변) 해당 위험의 해결을 위하여 기술 기업 뿐 아니라 미디어 기관, 팩트 체커, 연구자, 소비자 등 다양한 이해관계자 간의 협력이 요구되며, 검증을 위한 표준, 모범사례 및 기술 솔루션을 개발할 것
- (질의사항 2) 악의적인 행위자의 AI 사용에 대한 대처방법은 무엇인가?
: (답변) 인간의 감독과 함께 AI 및 기타 첨단 기술 도구를 활용하여 AI 생성 콘텐츠에 대한 탐지를 통해 투명성을 제고하고, 이때 검증 및 유효성 검사를 위한 협력적 접근 방식을 취할 것
- (질의사항 3) AI가 생성한 허위 정보를 탐지하고 대응하기 위해 어떤 기술, 정책 및 인프라를 개발할 수 있는가?
: (답변) 인간의 탐지 노력 강화를 위해 도움이 되는 기술 활용을 포함하여 투명성 제고를 위한 정부 정책과 기업 기술 등 다각적 접근이 필요하며, 사용자가 허위 정보 등을 스스로 탐지할 수 있도록 교육 및 인식 제고 캠페인에 투자할 것
- (질의사항 4) 선출직 공직자와 대중의 소통에 AI가 생성하는 잘못된 정보가 미치는 영향을 줄이기 위해서 어떤 방식을 취할 수 있는가?
: (답변) 선출직 공직자는 검증된 소셜 미디어 계정이나 정부 웹사이트와 같이 인증 가능한 중앙 채널을 통한 일반 대중과 소통을 고려함으로써 일반 대중에 정보를 제공할 것
- (질의사항 5) AI가 생성한 허위정보, 사칭, 조작을 식별하는데 필요한 기술을 개발하는데 과학, 정치, 산업, 교육계 등이 어떻게 도움이 될 수 있는가?
: (답변) 교육 캠페인을 비롯한 공공 교육 및 미디어에 투자하고, 산업 현장에서의 투명성 조항 시행 등을 통해 AI 생성 정보의 조작 식별을 위한 기술 개발 등 위험 대비 조치를 취할 것
