국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
생성형AI, 미군을 위해 첩보활동을 학습 원문보기 1
- 국가 미국
- 생성기관 MIT 테크놀로지 리뷰
- 주제분류 핵심R&D분야
- 원문발표일 2025-04-11
- 등록일 2025-04-18
- 권호 285
○ MIT 테크놀로지 리뷰는 미국 국방부가 생성형 AI를 실제 정보작전에 활용하는 실험을 진행하고 있다는 기사를 발표
○ 국방부가 자금을 지원해온 선도적 AI도구를 테스트하기 위해 외국 정보를 분류하여 잠재적인 지역적 위협을 알리는 책임을 갖고 있는 해병들은 처음으로 생성형 AI를 활용
- 첫 번째 실험이 완료됨에 따라, 부대 지휘관은 기자들과의 통화해서 생성형 AI가 더욱 광범위하게 사용될 것이라고 언급하며, 이 실험은 "빙산의 일각"일 뿐이며, AI의 적극적 활용은 전체 미군이 전속력으로 질주하고 있는 방향이라고 언급
- 12월 국방부는 향후 2년 동안 생성형 AI 애플리케이션을 위한 시범사업에 1억 달러를 투자할 것이라고 밝혔으나, 국방부 외부의 많은 사람들은 이러한 계획의 잠재적 위험에 대해서 경고함
- LLMs은 매우 부정확할 수 있으며, 인간이 그 많은 정보를 면밀히 검토하여 AI 출력의 오류를 판단하는 것은 사실상 불가능함
- 또한 우려되는 활용사례 중 하나는 매우 주관적인 지표인 감정분석(sentiment analysis)으로, AI가 인간 분석가가 감지하지 못하는 미군에 대한 적대감을 감지하거나 시스템이 실제로 존재하는 적대감을 놓칠 경우, 군은 잘못된 정보를 바탕으로 결정을 내리거나 불필요하게 상황을 악화시킬 수 있음
- 또 다른 한계는오픈소스 인텔리전스의 유용성으로, 공개된 인터넷에 노출되어 있어 잘못된 정보 캠페인, 봇 네트워크, 고의적인 조작 등에 더욱 취약할 수 있음
○ 국방부가 자금을 지원해온 선도적 AI도구를 테스트하기 위해 외국 정보를 분류하여 잠재적인 지역적 위협을 알리는 책임을 갖고 있는 해병들은 처음으로 생성형 AI를 활용
- 첫 번째 실험이 완료됨에 따라, 부대 지휘관은 기자들과의 통화해서 생성형 AI가 더욱 광범위하게 사용될 것이라고 언급하며, 이 실험은 "빙산의 일각"일 뿐이며, AI의 적극적 활용은 전체 미군이 전속력으로 질주하고 있는 방향이라고 언급
- 12월 국방부는 향후 2년 동안 생성형 AI 애플리케이션을 위한 시범사업에 1억 달러를 투자할 것이라고 밝혔으나, 국방부 외부의 많은 사람들은 이러한 계획의 잠재적 위험에 대해서 경고함
- LLMs은 매우 부정확할 수 있으며, 인간이 그 많은 정보를 면밀히 검토하여 AI 출력의 오류를 판단하는 것은 사실상 불가능함
- 또한 우려되는 활용사례 중 하나는 매우 주관적인 지표인 감정분석(sentiment analysis)으로, AI가 인간 분석가가 감지하지 못하는 미군에 대한 적대감을 감지하거나 시스템이 실제로 존재하는 적대감을 놓칠 경우, 군은 잘못된 정보를 바탕으로 결정을 내리거나 불필요하게 상황을 악화시킬 수 있음
- 또 다른 한계는오픈소스 인텔리전스의 유용성으로, 공개된 인터넷에 노출되어 있어 잘못된 정보 캠페인, 봇 네트워크, 고의적인 조작 등에 더욱 취약할 수 있음
