국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
책임 있는 AI 없이는 GenAI 확장 불가능 원문보기 1
- 국가 미국
- 생성기관 보스턴컨설팅그룹(BCG)
- 주제분류 핵심R&D분야
- 원문발표일 2024-08-14
- 등록일 2024-08-23
- 권호 270
○ 위험을 완화하면서 GenAI의 광대한 잠재력을 실현하기 위해, 기업은 책임있는 AI 원칙(RAI, responsible AI)을 실행해야만 하며, GenAI 애플리케이션의 책임 있는 확장을 위해서는 철저한 테스트와 검증이 필수적
- BCG는 GenAI 에이전트를 대규모로 구축하고 배포할 때, 애플리케이션 수명주기 전반에서 RAI를 적용시키기 위한 프레임워크를 설계하였음
○ RAI는 AI시스템이 기업가치와의 일치를 유지하면서 원하는 혜택을 제공하도록 설계된 총체적인 프레임워크이며, 기업은 이러한 시스템을 설계하고 테스트/배치하며 모니터링하는 방식으로 위험을 최소화함
- 기업은 RAI 프레임워크를 적용해서 책임성, 공정성, 해석가능성, 안전성, 견고성과 보안과 같은 원칙의 기반 위에서 AI시스템을 구축하고 관리해야 함
○ BCG의 RAI 프레임워크는 설계부터 운영, 모니터링에 이르는 전체 GenAI 생명주기에 걸쳐 있음
- 디자인 : 애플리케이션이 지원할 활용사례를 매핑하고 그것이 운영될 때 위험환경에 대한 포괄적인 관점을 확보해야 함. 이러한 매핑은 활용사례를 지원하기 위한 요구사항과 잠재적 이슈를 평가할 것임
- 코드화 : 개발과정 전반에서 GenAI 에이전트를 만드는 것은 전통적인 소프트웨어 개발을 넘어선 독특한 도전과제를 제시하며, BCG 방법론은 이를 포괄적으로 다루는 데 예를 들어 신속한 엔지니어링, 기존시스템과 프레임워크와의 통합, 성능 최적화 등임
- 테스트와 평가 : 전통적인 소프트웨어 평가에 추가해서 GenAI를 목표로 한 테스트와 평가 프레임워크를 실행해야 함. 범주는 애플리케이션 숙련도, 안전성, 형평성, 보안과 규정준수 등을 포함해야 함
- 배포 및 공개(Release) : 보안을 확보하기 위해, 배포와 공개단계에서 다단계 개발, 스테이징, 품질보증과 생산환경을 활용해야 함
- 운영과 모니터링 : 일관되고 분석가능한 모니터링은 현실에서 에이전트의 행동을 빠르게 분석할 수 있게 하며, 가드레일, 워크플로우 및 기타 실행전략을 미세하게 조절하기 위해 피드백을 활용하고 응답이 원하는 기준을 충족시키도록 보장해야 함
○ 위험을 피하면서 GenAI의 가치와 강점을 현실화하기 위해, 기업은 다양한 RAI관련 조치를 취해야 함
- 기초를 마련하고 새로운 모범사례를 실행하고 모든 활동에서 모범사례를 확산하며 대응계획을 세워야 함
- BCG는 GenAI 에이전트를 대규모로 구축하고 배포할 때, 애플리케이션 수명주기 전반에서 RAI를 적용시키기 위한 프레임워크를 설계하였음
○ RAI는 AI시스템이 기업가치와의 일치를 유지하면서 원하는 혜택을 제공하도록 설계된 총체적인 프레임워크이며, 기업은 이러한 시스템을 설계하고 테스트/배치하며 모니터링하는 방식으로 위험을 최소화함
- 기업은 RAI 프레임워크를 적용해서 책임성, 공정성, 해석가능성, 안전성, 견고성과 보안과 같은 원칙의 기반 위에서 AI시스템을 구축하고 관리해야 함
○ BCG의 RAI 프레임워크는 설계부터 운영, 모니터링에 이르는 전체 GenAI 생명주기에 걸쳐 있음
- 디자인 : 애플리케이션이 지원할 활용사례를 매핑하고 그것이 운영될 때 위험환경에 대한 포괄적인 관점을 확보해야 함. 이러한 매핑은 활용사례를 지원하기 위한 요구사항과 잠재적 이슈를 평가할 것임
- 코드화 : 개발과정 전반에서 GenAI 에이전트를 만드는 것은 전통적인 소프트웨어 개발을 넘어선 독특한 도전과제를 제시하며, BCG 방법론은 이를 포괄적으로 다루는 데 예를 들어 신속한 엔지니어링, 기존시스템과 프레임워크와의 통합, 성능 최적화 등임
- 테스트와 평가 : 전통적인 소프트웨어 평가에 추가해서 GenAI를 목표로 한 테스트와 평가 프레임워크를 실행해야 함. 범주는 애플리케이션 숙련도, 안전성, 형평성, 보안과 규정준수 등을 포함해야 함
- 배포 및 공개(Release) : 보안을 확보하기 위해, 배포와 공개단계에서 다단계 개발, 스테이징, 품질보증과 생산환경을 활용해야 함
- 운영과 모니터링 : 일관되고 분석가능한 모니터링은 현실에서 에이전트의 행동을 빠르게 분석할 수 있게 하며, 가드레일, 워크플로우 및 기타 실행전략을 미세하게 조절하기 위해 피드백을 활용하고 응답이 원하는 기준을 충족시키도록 보장해야 함
○ 위험을 피하면서 GenAI의 가치와 강점을 현실화하기 위해, 기업은 다양한 RAI관련 조치를 취해야 함
- 기초를 마련하고 새로운 모범사례를 실행하고 모든 활동에서 모범사례를 확산하며 대응계획을 세워야 함
