주요동향 : S&T GPS

미국, 중대한 AI 활용 사례 식별을 위한 프레임워크 발표 원문보기 1

□ 특별경쟁연구프로젝트(SCSP)는 존스홉킨스대학 응용물리학 연구실(JHUAPL)과 협력하여 ‘중대한 AI 활용 사례를 식별하기 위한 프레임워크*’를 발표(’23.11.)

* Framework for Identifying Highly Consequential AI Use Cases

ㅇ 이는 AI 거버넌스에 대한 미국적 접근방식으로서 4가지 원칙*을 설명한 SCSP의 2022년 보고서**에서 비롯됨

* ① AI 활용 사례와 성과를 해당 분야별로 관리, ② 기존 규제기관의 권한을 강화하고 AI 시대에 맞게 이를 현대화, ③ 영향력이 큰(high-consequence) 활용 사례의 관리에 집중, ④ 비규제적 AI 거버넌스를 강화

** Mid-Decade Challenges to National Competitiveness

ㅇ 프레임워크(ID HCAI Framework)는 사회적 파급력이 큰 AI의 활용에는 주의가 필요하다는 점을 강조하며, 규제기관이 어떤 AI의 활용과 성과에 집중할지를 결정하는데 사용할 수 있는 분류 도구를 제시

- 즉, AI 시스템과 세부 구성요소 등이 사회적 맥락이나 환경에 미치는 영향을 평가하여 규제의 대상이 될 중대한 AI 활용 사례를 구별하기 위한 목적으로 제안

ㅇ 프레임워크의 단계는 △평가 대상 선정을 위한 예비분석, △피해와 이익에 대한 비교분석, △평가 결과를 토대로 영향력이 큰 AI인지 결정, △영향력이 크다고 식별된 AI시스템에 대한 주기적인 재평가 순으로 진행

1) (피해･이익 분석) AI 시스템 개발 및 사용에 관한 예측가능한 실제 피해와 이익의 규모를 산출하고 이를 평가

- 피해와 이익은 각 10개의 범주로 구분되며, 프레임워크 사용자는 각각의 범주를 검토하여 피해의 심각성과 발생가능성, 이익의 영향과 발생가능성을 평가

- 피해의 심각성은 규모, 범위, 불균형과 지속기간이며, 피해의 발생가능성은 확률, 빈도, 탐지가능성 부족과 선택권 부족임

- 이익의 영향 요인은 규모, 범위, 기간, 비례성이며, 혜택가능성은 확률과 빈도임

2) (중대한 AI 인지 결정) 피해･이익의 분석 결과를 토대로 해당 AI 개발 및 활용 사례가 지속적인 규제가 필요할 만큼 충분히 영향력 있는지를 결정

※ 프레임워크 사용자의 전문지식 등에 따라 피해･이익의 분석 결과를 적용하는 방법은 달라질 수 있음(예: 특정 범주의 피해가 임계값보다 큰지, 모든 피해 범주의 총 합이 임계값보다 큰지, 압도적으로 크게 평가된 피해의 범주가 있는지 등)

3) (주기적 재평가) 이전에 평가한 AI 시스템의 유해･유익한 영향이 변경되었는지, 사회적･기술적 상황으로 인한 변화가 있었는지 등을 주기적으로 모니터링