□ AI 기술진전과 파급효과가 전례 없는 속도로 진행되면서 위기감 확산

ㅇ 2016년 딥마인드의 알파고가 인간과 대국에서 승리한 이후 2023년 초 챗GPT･GPT-4 열풍에 이르기까지 AI 기술개발이 가속화 하면서 대중화･일상화가 빠르게 전개 중

ㅇ AI는 음식 배달부터 내비게이션, 영화 예약까지 일상 속 깊숙이 스며들고 있으며 글로벌 기후변화 대응 연구, 새로운 백신개발 과정 등 전문연구 분야에서도 도입･성과 기대

ㅇ 전통적으로 인간만의 영역이라고 여겨지던 일부 일자리에도 AI 활용이 증가하면서 노동으로부터 해방될 수 있다는 기대와 함께 실업 사태 등 두려움･위기감 동반 증가

- 골드만삭스 전망에 따르면, AI 발전으로 인해 일자리에서 중대한 혼란이 올 수 있으며 세계적으로 약 3억 개의 일자리가 영향을 받을 수 있다고 전망

- 또한, AI는 미국･EU 지역에서는 일자리 약 1/4를 자동화할 것으로 예상

- 미국에서 AI 도입으로 자동화될 분야는 사무 및 관리지원이 46%로 가장 높았고 법률 44%, 건축･엔지니어링 37%, 생명･물리･사회과학 36%, 금융 35% 순

ㅇ 성별･민족･종교 등에 대한 편향성, 개인정보 유출, 대규모 감시 위험 등 AI로 인해 인류가 더욱 위험에 처할 수 있는 윤리적 문제도 증가

- 가짜뉴스 확산, 범죄 활용 가능성, AI가 인간의 일자리를 대체하는 데 따른 대규모 실업, 문명에 대한 통제권 상실 등

ㅇ 전문가들은 AI가 인간 언어를 이해하고 구사하는 데 필요한 대규모 언어 모델(LLM)을 구축하는 과정에서 데이터를 어떻게 획득하고 처리하는지 불분명하다며 우려

- 이에 세계적인 주요 인사와 국제기구 등에서는 AI 기술개발에 대한 현재 상황을 짚어보고 안전협약의 필요성과 윤리적 권고 이행을 위한 목소리 가중

ㅇ ‘AI 디스토피아’ 논쟁이 본격화되면서 윤리적･기술적 안전장치가 마련될 때까지 차세대 AI 모델 개발에 대한 중단 요구 확산

ㅇ 이와 동시에 개발 중단은 AI에 대한 공포심을 조장하는 것이며 개발속도를 지금처럼 유지하면서 안정성･윤리를 확립해 나가야한다는 의견도 팽팽

□ 일론 머스크･스티브 워즈니악 등 주요 인사, AI 학습 중단 촉구에 동참

ㅇ 미국 비영리단체 FLI(Future of Life Institute)는 오픈AI의 GPT-4와 같은 초거대 AI에 대한 학습을 최소 6개월간 멈추자고 제안하는 서한 공개(3.29 현지 시간)

- 일론 머스크(테슬라 CEO), 스티브 워즈니악(애플 공동창업자), 앤드루 양(前 미국 대선후보), 알파벳 산하 AI 기업 딥마인드 연구진 등 약 9,000명 이상 기술 종사자들이 이 서한에 동참

- 이들은 독립적인 전문가들에 의해 공동의 안전 협약이 개발, 시행되고 감사를 받을 때까지 거대 AI 개발을 멈춰야 한다고 촉구

- 강력한 AI 시스템은 그 효과가 긍정적이고 그 위험을 관리할 수 있다는 확신이 있을 때만 개발해야 한다는 의견

- 또한, 인간과 경쟁하는 AI 시스템이 경제적･정치적 혼란을 통해 사회와 문명에 미칠 수 있는 잠재적 위험에 대해 구체적으로 설명하고 개발자들에게 규제 당국자들과 협력할 것을 제안

- 한편 오픈AI의 샘 올트먼 CEO는 이 서한에 서명하지 않았으며, 5∼6월 세계 17개 도시를 순차적으로 방문해 AI 관계자, 정책입안자들과 회동을 한다고 발표해 주목

- AI 기술이 우리가 알고 있는 사회를 재구성할 것이라며 실제 위험이 따르지만 삶을 획기적으로 개선하기 위해 인류가 지금까지 개발한 가장 위대한 기술이 될 수 있다고 설명

□ 美 기술윤리 비영리단체, FTC에 오픈AI 제소

ㅇ AI 및 디지털정책센터(CAIDP:Center for AI and Digital Policy)가 안전장치가 마련될 때까지 GPT의 추가 상업적 배포 중단을 요구하며 연방거래위원회(FTC)에 제소(3.30)

- FTC에 오픈AI 및 챗GPT 조사를 촉구하고 적절한 보호 장치가 마련될 때까지 GPT-4를 포함한 대규모 언어 모델의 판매 중단과 추가적인 상용 버전의 출시 중단 요청

- 아직 AI 기술의 위험성 문제를 줄일 방법을 제대로 찾지 않은 상태에서 오픈AI가 너무 성급하게 기술을 확산하고 있다고 판단해 이번 소장을 제출했다고 설명

- 오픈AI의 GPT-4 공식 소개 문서에서 이미 12가지 위험성을 제시했고, 여기에 △허위 정보 및 영향력 행사, △재래식 및 비재래식 무기 확산, △사이버 보안 등이 포함됐다고 강조

- 구체적으로 오픈AI가 FTC 5조(공정거래법), AI에 대한 FTC 지침, AI 제품 및 AI 거버넌스 규칙을 위반했다고 주장

- 이에 오픈AI가 출시한 제품이 FTC 지침을 준수할 때까지 추가 배포를 중단해야 한다는 입장

- 동시에 유럽 소비자 기구(BEUC:Bureau Europeen des Unions de Con- sommateurs)에 EU 및 국가 차원의 유럽 규제 기관에서 챗GPT에 대한 조사를 시작할 것을 촉구

□ 유네스코, 각국 정부에 ‘AI 윤리 권고’ 조속한 이행 권고

ㅇ 오드리 아줄레 유네스코 사무총장은 “세상은 AI에 대한 더 강력한 윤리 규칙이 필요하며 이것은 우리 시대의 과제”라며 유네스코는 모든 정부가 지체없는 글로벌 윤리 프레임워크 이행 촉구 언급

- 챗GPT를 포함해 가장 강력한 AI 시스템의 학습을 중단하라는 수천 명 이상의 기술 종사자들 요청에 따른 것이라고 설명

ㅇ AI 윤리 권고는 2018년부터 3년 간 세계적인 전문가들과 토론을 거쳐 2021년 11월 25일 193개 유네스코 회원국 만장일치로 공식 채택

- 인류, 개인, 사회, 환경, 생태계에 도움이 되는 방향으로 AI 시스템을 사용하고 피해를 예방하기 위한 기반 제공이 AI 윤리 권고의 목표이며 나아가 AI 시스템의 평화로운 사용 촉진 추구

- AI의 이점을 극대화하는 대신 AI 사용 시 발생 가능한 위험을 줄이는 방안, 인류가 지향해야 할 가치와 원칙을 규정하고 관련 분야별로 필요한 정책 사항 망라

- 이처럼 AI의 건전한 개발과 이용을 보장하기 위한 가치와 원칙을 기반으로 회원국 모두에게 권고를 적용할 책임 부여

□ 챗GPT를 차단한 이탈리아, ‘AI 백서’ 통해 규제 법안 도입 예정인 영국

ㅇ (이탈리아) 데이터보호청은 개인정보 보호 차원에서 챗GPT 접속을 차단하고 오픈AI가 유럽연합(EU)의 개인정보보호규정(GDPR) 준수 여부를 조사하겠다고 발표(4.1)

※ 중국, 북한, 이란 같은 권위주의 국가에서는 이미 챗GPT 접속이 차단된 상태지만, 서방 국가에서 개인정보 보호를 이유로 챗GPT를 금지한 것은 이탈리아가 처음

- 데이터보호청은 챗GPT가 알고리즘 학습 목적으로 개인 데이터를 대량으로 수집하고 저장하는 것을 정당화할 법적 근거가 없다고 언급

- 또한, 사용자의 연령을 확인할 방법이 없어 미성년자들의 발달과 인식수준을 고려하지 않고 부적절한 답변을 제공할 수 있다고 지적

- 이에 대해 오픈AI는 성명을 내고 이탈리아 사용자들의 접속을 차단했으며 개인 프라이버시 보호에 최선을 다하고 있으며 “우리도 AI 규제가 필요하다고 믿는다”고 언급

ㅇ (영국) 과학혁신기술부는 혁신을 주도하고 대중의 신뢰를 유지하기 위해 AI 사용을 안내하는 AI 백서를 의회 제출(3.29)

- 백서에는 AI에 대한 ①안전, ②보안, ③투명성, ④공평성, ⑤거버넌스 등 기업이 준수해야 할 5대 원칙을 제안했으며 영국 규제 당국은 이를 토대로 기업이 지켜야할 지침 마련에 착수 예정

- 영국은 다른 유럽 국가에 비해 AI 관련 회사가 2배가량 많으며, 매년 수백 개 이상의 회사가 설립되는 등 2022년 AI가 영국 경제에 5만 명 이상의 고용 창출과 37억 파운드(약 5조 9,000억 원) 규모의 기여를 했다고 게재

- 또한, AI가 계속해서 빠르게 발전함에 따라 사람들의 사생활, 인권, 안전 등에 미칠 수 있는 미래의 위험에 대한 의문이 제기된다고 지적

- 혁신을 억제할 수 있는 강압적인 법안을 피하고 AI 규제에 적응 가능한 접근 방식을 취할 것이며, 새로운 단일 규제기관을 만들어 전권을 부여하는 대신 기존 관련 기관이 상황별로 맞춤형 접근 방식을 채택할 방침이라고 설명

- AI 백서 제안은 영국에서 AI가 안전하게 번성할 수 있는 올바른 환경을 만드는 데 기여한다는 취지

ㅇ 이 외에도 프랑스와 아일랜드도 챗GPT 차단의 근거를 파악하기 위해 이탈리아 당국에 관련 사안을 알아보고 있으며 독일 개인정보 감독기구(BfDI)는 개인정보보호 보안을 이유로 금지 가능성 언급