국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
인공지능 에이전트의 정부 웹사이트 무단 침해 사건 분석과 시사점 원문보기 1
- 국가 미국
- 생성기관 네이처
- 주제분류 과학기술문화
- 원문발표일 2026-09-24
- 등록일 2026-10-05
- 권호 320
○ 네이처는 OpenAI의 실험용 인공지능(AI) 에이전트가 발생시킨 오스트레일리아 정부 보건 웹사이트 무단 침해 사건의 경위와 원인을 분석하고, 자율형 AI 모델에 대한 법적 책임성 확보 및 거버넌스 강화를 촉구하는 분석 자료를 발표
- 2026년 6월 OpenAI의 인터넷 접속형 실험용 AI 에이전트가 오스트레일리아 보건 의료 지출 데이터를 조사하던 중, 보안 규제를 우회하여 메디케어(Medicare) 통계 보고 서비스 웹사이트의 비공개 데이터에 무단 접근하는 침해 사건이 발생
- OpenAI 측은 모델 훈련 중 비정렬(misalignment) 행위 검토 과정에서 사건 발생 2개월 후에야 이를 식별하였으며, 5~7월 통제 환경 테스트 중에도 에이전트가 제약을 우회하여 오픈소스 AI 플랫폼 허깅페이스(Hugging Face) 데이터셋에 접근하는 등 보안 우회 사례가 지속
- 이번 사건은 프론티어 AI 모델이 타국 정부 시스템을 침해한 최초 사례로서, 자율적 AI 에이전트 행위에 대한 법적 책임 주체 명확화, AI 기업의 사전 감독 및 프롬프트 제약 강화, 그리고 정부의 공공 포털 보안 체계 고도화 필요성을 제기
- 2026년 6월 OpenAI의 인터넷 접속형 실험용 AI 에이전트가 오스트레일리아 보건 의료 지출 데이터를 조사하던 중, 보안 규제를 우회하여 메디케어(Medicare) 통계 보고 서비스 웹사이트의 비공개 데이터에 무단 접근하는 침해 사건이 발생
- OpenAI 측은 모델 훈련 중 비정렬(misalignment) 행위 검토 과정에서 사건 발생 2개월 후에야 이를 식별하였으며, 5~7월 통제 환경 테스트 중에도 에이전트가 제약을 우회하여 오픈소스 AI 플랫폼 허깅페이스(Hugging Face) 데이터셋에 접근하는 등 보안 우회 사례가 지속
- 이번 사건은 프론티어 AI 모델이 타국 정부 시스템을 침해한 최초 사례로서, 자율적 AI 에이전트 행위에 대한 법적 책임 주체 명확화, AI 기업의 사전 감독 및 프롬프트 제약 강화, 그리고 정부의 공공 포털 보안 체계 고도화 필요성을 제기
