정보통신 기술 발전의 부작용으로 최근 각종 인터넷 유해 정보가 범람

 인터넷·스마트폰·소셜네트워크서비스(SNS) 등 정보통신 기술의 보급 확산으로 이제 사람들은 이전보다 많은 정보를 보다 손쉽게 취득하는 것이 가능

그러나 정보통신 기술의 이러한 편리함/유용함 이면에는 △악성댓글 △음란물 △가짜뉴스 등 인터넷 유해 정보의 범람으로 인한 각종 사회문제가 발생

- 인터넷 유해 정보는 이 밖에도 △인터넷 사기 △인터넷 도박 △자살 권유 △개인정보 유포 △불법무기 거래 등 다양함

인터넷 유해 정보 중 최근 인터넷 악성댓글이 사회 문제로 대두

유명 연예인들의 자살을 계기로 악성댓글이 다시 사회적 관심사로 등장

- 2019년 말 설리·구하라 등 유명 연예인들이 잇달아 인터넷 악성댓글/혐오표현으로 인한 정신적 스트레스 때문에 자살한 것으로 다수의 언론은 추정

- 최근에는 연예인·운동선수·유명인사 뿐만 아니라 일반인들도 악성댓글로 인한 심각한 정신적 고통을 호소

악성댓글/혐오표현과 같은 사이버 폭력 피해는 갈수록 증가하는 추세

- 초중고교 학생·교사·학부모 대상 방송통신위원회 설문조사* 결과, 응답자 3명 중 1명이 사이버 폭력 피해 경험이 있다고 응답

   ​

* 2018년 사이버폭력 실태조사 (방통위, 한국정보화진흥원)

- 경찰청 통계에 따르면, 최근 6년간 사이버 명예훼손·모욕의 발생·검거 건수는 2017년 잠시 주춤했다가 2018년부터 다시 증가하는 추세

이에 본고에서는 인터넷 유해 정보 중 악성댓글을 중심으로 정보통신 기술(특히 AI)을 활용한 차단·근절 동향에 대해 살펴보고, 관련 시사점을 제시하고자 함

4. 악성댓글 또는 혐오표현에 대한 설문조사 결과

(조사 설계) ICT 업계 종사자들을 대상으로 악성댓글에 대한 인식과 근절 방안에 관한 설문조사를 실시

 설문조사 모집단은 IITP 평가위원과 ITFIND 가입자로 ICT 산업에 종사하는 전문가 집단

- 조사기간 : 2019년 12월 4~6일 (3일간)

- 조사대상 : IITP 평가위원, ITFIND 가입자 등 약 5만여 명

- 응답자수 : 203명

본 조사는 ICT 산업과 관련성이 높은 특정 집단을 대상으로 조사하였기에, 표본 특성은 모집단의 특성을 그대로 반영하고 있는 것이 특징

- 표본은 주로 서울/수도권에 거주하는 대학 이상 학력의 40대 이상 남성이 대부분을 차지

- 따라서 표본은 ICT 업계 종사자이지만, 성별/연령별/지역별로 다소 편향되어 있을 수 있어, 조사결과 해석에 주의를 요함

- 정확한 통계는 없지만 일반적으로 악성댓글의 가해자/피해자 중 상당한 비중이 20~30대 연령층이 차지할 것으로 추측되기 때문에, 본 조사 결과는 악성댓글 실태에 관한 하나의 참고자료로 활용하는 것이 바람직함

(악성댓글 피해 경험) 4명 중 1명이 악성댓글로 인한 피해를 경험

응답자 4명 중 1명이 악성댓글 피해 경험이 있다고 응답하였으며, 피해 장소는 인터넷 포털(41%), 소셜미디어(27%)가 높은 비중을 차지

2011년 한국인터넷진흥원이 실시한 ‘인터넷윤리문화실태조사’ 결과에서는 설문 대상자의 54.5%가 피해 경험이 있다고 응답한 바 있는데, 본 조사에서는 모집단 연령대가 높아 악성댓글 피해 경험자가 다른 설문 결과보다 적은 것으로 분석

악성댓글로 인한 피해 중 모욕형이 3/4으로 대다수를 차지

- 모욕형이란 욕설·비속어가 포함되거나 험담·인신공격·인견모독하는 댓글

- 유언비어형이란 확인되지 않은 사실이나 루머를 사실인 것처럼 묘사한 댓글

- 선동형이란 다른 대중에게 댓글과 반대되는 주장에 동조하기를 요청하거나 집단 따돌림 등을 선동한 댓글

피해자들 중 상당수는 악성댓글에 아무런 대응을 하지 않는 것을 선택

- 응답자 중 61%는 악성댓글에 아무런 대응을 하지 않았으며, 글 삭제/차단 요구, 반대/해명, 법적대응 등 적극적 대응을 한 응답자는 절반 이하에 불과

  (악성댓글에 대한 인식) 악성댓글 피해를 경험하지 않는 응답자들도 대다수가 악성댓글의 부정적 견해를 피력

악성댓글 非피해자들도 악성댓글에 대해서는 강력한 법적 처벌이 필요하거나 기술/제도적 방안 마련이 필요하다고 대답

- 악성댓글에 대해 옹호하는 입장의 응답자들은 비록 문제가 있더라도 표현의 자유를 위해 악성댓글을 금지하는 것은 적절치 않다고 응답

악성댓글에 대한 부정적 응답자들은 여론 왜곡, 범죄 피해 발생 가능성, 인터넷 오염 등의 부작용에 대해 우려

악성댓글에 대한 긍정적 응답자들은 의사표현의 자유 보장, 악성댓글의 비중이 낮다는 점, 역기능보다 순기능이 더 크다는 점 등을 옹호 이유로 제시

(악성댓글 저감을 위한 대안) 응답자들은 기술적 대안보다는 제도적 대안을 보다 선호하고 있었으며, 특히 서비스 제한이나 법적 처벌 등 강력한 대책을 요구

가장 많은 응답자들이 △댓글 서비스 제한(ID 차단) △법적 처벌 △댓글 실명제 도입 등 주로 제도적 방안을 선호하는 것으로 조사결과가 집계

인공지능 자동 필터링 기술 도입이 3위를 차지하기는 했으나, 제도적 방안에 비해 상대적으로 응답 비중이 낮은 편

따라서 응답자들은 기술적으로 문제를 해결하는 방안보다는 악성댓글을 게시하는 소수 악플러들에 대한 단호한 조치가 필요하다고 생각하는 것으로 여겨짐

5. 시사점  

우리나라 현실에 적합한 악성댓글 대처 방안이 마련 되어야 함

각국별로 저마다 문화가 상이해 악성댓글에 대한 대처는 온도 차이가 존재

- 같은 영미권 국가라 하더라도 유럽은 전반적으로 악성댓글에 대해 엄격하게 처벌하는 편이나, 표현의 자유를 보다 중시하는 미국의 경우 정부가 규제하기 보다 사업자들이 자체 규정으로 악성댓글을 관리

- 동북아에서도 중국의 경우는 정부가 언론을 통제하고 있고, 일본은 사업자가 댓글을 직접 관리

국내의 경우 악성댓글을 게시하는 악플러들에게 단호하게 대처해야 한다는 목소리가 크지만, 또 다른 한편에서는 무조건적 처벌과 규제가 능사는 아니라는 의견도 제기

악성댓글 근절 방안으로 이제 기술적 방안 모색을 시작해야 할 때임

표현의 자유를 제한하고 모든 이를 잠재적 범죄자로 간주하는 댓글 폐지나 인터넷 실명제가 문제 해결의 유일한 정답지는 아님

댓글의 순기능은 살리면서 역기능은 기술로 보완하는 방법이 앞으로 악성댓글 근절 방안으로 중요하게 대두될 전망

본 설문조사에서도 응답자들은 ‘댓글 서비스 폐지(19%)’보다 ‘악성댓글 인공지능 필터링(31%)’을 선호

완성도 높은 자연어처리 인공지능 기술은 전 세계 인공지능 기업들이 목표로 하는 전략 기술로, 보다 적극적인 R&D 투자가 필요

자연어처리 인공지능 기술은 글의 맥락·의도와 인간 감정을 이해하는 인공지능 핵심 기술 중 하나임

악성댓글 탐지 인공지능 기술은 비록 악의적인 표현 탐지에 초점을 맞추고 있지만, 기술이 고도화되면 단순 질문이나 명령이 아닌 인간처럼 자연스러운 대화가 가능한 범용

  인공지능 분야*로 확대 적용 가능

   ​

* 챗봇, AI비서, 스마트ARS 등

- 네이버는 2019년 8월 전화예약 인공지능 ARS ‘AiCall’ 서비스를 공개

정부 차원에서도 한국어의 자연어처리 기술 고도화를 위한 전략적 R&D 투자 확대와 양질의 학습 데이터 개발·축적·공유가 필요

IITP와 과학기술정보통신부는 가짜뉴스 탐색 능력을 겨루는 ’2017 인공지능 R&D 챌린지’ 대회를 개최한 바 있는데, 악성댓글의 경우도 챌린지 방식 R&D를 지원하는 방안

고려 필요

인공지능 기술의 한계를 보완할 수 있는 방안도 함께 마련해야 함

현재 악성댓글 탐지 인공지능 기술이 글의 맥락과 의도까지 파악할 수 있는 수준은 아니므로, 여전히 교묘한 비방·모욕 표현은 탐지가 쉽지 않은 상황

따라서 예를 들어 90% 정도는 인공지능으로 자동화하고, 인공지능이 판별하기 어려운 10% 정도는 사람이 직접 모니터링하는 식의 하이브리드 방식을 당분간 도입하는 것

이 바람직

※ 작성자 : 정보통신기획평가원 융합정책팀 김용균 수석(valuation@iitp.kr)