제목
[이슈분석 137호] AI를 활용한 악성댓글 차단 동향과 시사점
원문제목
국가
한국
주제분류
핵심R&D분야
국가
한국
주제분류
핵심R&D분야
생성기관명
IITP
등록일
2020-04-13
생성기관명
IITP
등록일
2020-04-13
첨부파일
164
1. 인터넷 유해 정보의 범람과 이로 인한 문제점


그림입니다.

원본 그림의 이름: @_아이콘2.jpg

원본 그림의 크기: 가로 60pixel, 세로 60pixel  정보통신 기술 발전의 부작용으로 최근 각종 인터넷 유해 정보가 범람


그림입니다.

원본 그림의 이름: @_아이콘3.jpg

원본 그림의 크기: 가로 43pixel, 세로 42pixel 인터넷·스마트폰·소셜네트워크서비스(SNS) 등 정보통신 기술의 보급 확산으로 이제 사람들은 이전보다 많은 정보를 보다 손쉽게 취득하는 것이 가능


그림입니다.

원본 그림의 이름: @_아이콘3.jpg

원본 그림의 크기: 가로 43pixel, 세로 42pixel 그러나 정보통신 기술의 이러한 편리함/유용함 이면에는 악성댓글 음란물 가짜뉴스 등 인터넷 유해 정보의 범람으로 인한 각종 사회문제가 발생


- 인터넷 유해 정보는 이 밖에도 인터넷 사기 인터넷 도박 자살 권유 개인정보 유포 불법무기 거래 등 다양함


1.PNG

그림입니다.

원본 그림의 이름: @_아이콘2.jpg

원본 그림의 크기: 가로 60pixel, 세로 60pixel 인터넷 유해 정보 중 최근 인터넷 악성댓글이 사회 문제로 대두


그림입니다.

원본 그림의 이름: @_아이콘3.jpg

원본 그림의 크기: 가로 43pixel, 세로 42pixel 유명 연예인들의 자살을 계기로 악성댓글이 다시 사회적 관심사로 등장


- 2019년 말 설리·구하라 등 유명 연예인들이 잇달아 인터넷 악성댓글/혐오표현으로 인한 정신적 스트레스 때문에 자살한 것으로 다수의 언론은 추정


- 최근에는 연예인·운동선수·유명인사 뿐만 아니라 일반인들도 악성댓글로 인한 심각한 정신적 고통을 호소


그림입니다.

원본 그림의 이름: @_아이콘3.jpg

원본 그림의 크기: 가로 43pixel, 세로 42pixel 악성댓글/혐오표현과 같은 사이버 폭력 피해는 갈수록 증가하는 추세

- 초중고교 학생·교사·학부모 대상 방송통신위원회 설문조사* 결과, 응답자 3명 중 1명이 사이버 폭력 피해 경험이 있다고 응답

  

* 2018년 사이버폭력 실태조사 (방통위, 한국정보화진흥원)


- 경찰청 통계에 따르면, 최근 6년간 사이버 명예훼손·모욕의 발생·검거 건수는 2017년 잠시 주춤했다가 2018년부터 다시 증가하는 추세


2.PNG

 

그림입니다.

원본 그림의 이름: @_아이콘2.jpg

원본 그림의 크기: 가로 60pixel, 세로 60pixel 이에 본고에서는 인터넷 유해 정보 중 악성댓글을 중심으로 정보통신 기술(특히 AI)을 활용한 차단·근절 동향에 대해 살펴보고, 관련 시사점을 제시하고자 함



2. 우리나라에서 특히 악성댓글이 심각하게 대두되는 이유

그림입니다.

원본 그림의 이름: @_아이콘2.jpg

원본 그림의 크기: 가로 60pixel, 세로 60pixel 인터넷 악성댓글의 발생 원인은 익명성, 비대면성, 집단성 등의 특성에 기인


그림입니다.

원본 그림의 이름: @_아이콘3.jpg

원본 그림의 크기: 가로 43pixel, 세로 42pixel 인터넷 댓글(comment 또는 reply)은 인터넷 게시물 밑에 남기는 짧은 글로, 네티즌들의 토론 및 지식공유 수단과 새로운 인터넷 문화 형성 도구로 자리매김


- 국내에서 최초의 인터넷 댓글은 2001년 네오위즈가 서비스하던 세이클럽에서 꼬리말이란 명칭으로 시작(나무위키)


그림입니다.

원본 그림의 이름: @_아이콘3.jpg

원본 그림의 크기: 가로 43pixel, 세로 42pixel 악성댓글(troll)은 인터넷 댓글 중 특정인 또는 특정 집단*을 대상으로 하는 악의적인 혐오 표현

  

* 성별, 직업군, 신분계층, 이민자, 성소수자, 지역, 인종, 민족, 국가 등 다양


그림입니다.

원본 그림의 이름: @_아이콘2.jpg

원본 그림의 크기: 가로 60pixel, 세로 60pixel 악성댓글은 만국공통의 문제이나, 우리나라에서 특히 심각한 문제로 인식


그림입니다.

원본 그림의 이름: @_아이콘3.jpg

원본 그림의 크기: 가로 43pixel, 세로 42pixel 인터넷 악성댓글은 비단 우리나라뿐만 아니라 전 세계에서 보편적으로 발생하고 있는 사회 문제임


그림입니다.

원본 그림의 이름: @_아이콘3.jpg

원본 그림의 크기: 가로 43pixel, 세로 42pixel 그러나 특히 우리나라에서 인터넷 악성댓글이 문제가 되고 있는 이유 중 하나는, 인터넷 여론 형성에서 포털 사이트의 영향력이 다른 나라에 비해 상대적으로 크기 때문임


- 우리나라의 경우, 악성댓글로 인한 피해 중 상당수가 인터넷 포털에서 발생


- 온라인 뉴스가 주로 인터넷 포털 사이트를 통해 유통·소비되는 우리나라와 달리, 대부분의 국가에서는 주로 개별 언론사 웹 사이트를 통해 유통


그림입니다.

원본 그림의 이름: @_아이콘3.jpg

원본 그림의 크기: 가로 43pixel, 세로 42pixel 인터넷 포털이 온라인 뉴스 소비 채널인 국가는 우리나라와 일본이 유일


- 옥스퍼드 대학교 부설 로이터 저널리즘 연구소가 2012년부터 매년 발간하는 ‘Digital News Report*’ 보고서에 따르면,

  

* 우리나라에서는 한국언론진흥재단이 2016년부터 공식 협력기관으로 참여 중


- 조사대상 세계 38개국 가운데 온라인 뉴스 소비처로 인터넷 포털이 압도적인 비중을 차지하고 있는 국가는 우리나라와 일본이 유일함


3.PNG


그림입니다.

원본 그림의 이름: @_아이콘3.jpg

원본 그림의 크기: 가로 43pixel, 세로 42pixel 다른 나라들보다 월등하게 높은 인터넷·스마트폰 보급률도 인터넷 댓글 활성화 및 악성댓글 증가의 요인 중 하나로 지목


- 또한, 댓글 쓰기를 허용하지 않거나 제한하는 다른 나라와 달리, 우리나라에서는 인터넷 댓글 달기가 보편적임

 

3. 국내외 인터넷 기업들의 악성댓글 대처 동향


그림입니다.

원본 그림의 이름: @_아이콘2.jpg

원본 그림의 크기: 가로 60pixel, 세로 60pixel 개별 언론사와 IT 기업들은 악성댓글 근절 대처 방법으로 크게 제도적 방안과 기술적 방안을 혼용


그림입니다.

원본 그림의 이름: @_아이콘3.jpg

원본 그림의 크기: 가로 43pixel, 세로 42pixel (제도적 방안) 기술적 방법으로, 회사 정책적으로 댓글 쓰기를 금지한다거나 로그인한 실명 확인 사용자만 작성이 가능하도록 제한하는 방식


- 특히 영미권 국가의 언론사들은 기술적 방안보다 제도적 방안을 주로 선택


- 우리나라에서도 다음(201910)과 네이버(20203)가 연예 뉴스 댓글을 폐지한 바 있으며, 2020319일에는 네이버가 댓글 이력을 전면 공개하는 제도적 조치를 단행

4.PNG

- 시행 기간이 짧아 속단할 수 없으나 네이버 댓글 이력 공개의 효과가 있는 것으로 분석되는데, 날짜에 따라 편차가 있지만 한때 0.77%까지 증가했던 규정 미준수 댓글 비중*327일에는 2020년 들어 최저치까지 감소

  

* 규정미준수 댓글 비중 : 0.77%(226)0.35%(318)0.18%(331)


5.PNG

그림입니다.

원본 그림의 이름: @_아이콘3.jpg

원본 그림의 크기: 가로 43pixel, 세로 42pixel (기술적 방안) 하루에도 수만 건씩 등록되는 댓글을 사람이 일일이 확인·분류하기 어렵기 때문에, IT 기술을 활용해 악성댓글을 자동 분류하는 방안


- 해외에서는 구글·유튜브·페이스북·인스타그램·스냅 등 IT 기업들이 주로 채택하는 방식


- 기술적 방안으로는 주로 자동치환’, ‘인공지능 검색 필터링이 사용


- 자동치환은 욕설 등 특정 혐오 단어/문장을 같은 특정 기호로 자동변환하는 기술로, 국내에서는 네이버가 2012년부터, 카카오는 2017년부터 도입 중


- 그러나 자동치환 기술은 욕설이 포함되어 있지 않더라도 문맥상 상대방을 비방모욕하는 댓글은 걸러낼 수 없기 때문에 기술적 한계가 존재


- 인공지능 검색 필터링 기술은 인공지능이 기존 악성댓글의 패턴을 학습해, 악성댓글이라고 판단되는 댓글을 자동으로 숨기거나 삭제하는 인공지능 자연어처리 기술의 하나임


그림입니다.

원본 그림의 이름: @_아이콘3.jpg

원본 그림의 크기: 가로 43pixel, 세로 42pixel 각 나라의 문화에 따라 제도적 방안과 기술적 방안을 적절하게 혼용하여 악성댓글 감소를 이끌어 낼 수 있는 지혜가 필요


- 기술적 방안이 효율적이기는 하지만 아직 기술적 성숙도가 높지 않아 모든 악성댓글을 걸러내기가 쉽지 않고, 그렇다고 무조건 댓글 작성을 금지 또는 제한하는 제도적 방안도 정답은 아님


- 따라서 표현의 자유를 보장하면서도 악성댓글을 자연스럽게 감소시킬 수 있는 효과적인 대안이 필요

    6.PNG

 


4. 악성댓글 또는 혐오표현에 대한 설문조사 결과


그림입니다.

원본 그림의 이름: @_아이콘2.jpg

원본 그림의 크기: 가로 60pixel, 세로 60pixel (조사 설계) ICT 업계 종사자들을 대상으로 악성댓글에 대한 인식과 근절 방안에 관한 설문조사를 실시


그림입니다.

원본 그림의 이름: @_아이콘3.jpg

원본 그림의 크기: 가로 43pixel, 세로 42pixel 설문조사 모집단은 IITP 평가위원과 ITFIND 가입자로 ICT 산업에 종사하는 전문가 집단


- 조사기간 : 2019124~6(3일간)


- 조사대상 : IITP 평가위원, ITFIND 가입자 등 약 5만여 명


- 응답자수 : 203


그림입니다.

원본 그림의 이름: @_아이콘3.jpg

원본 그림의 크기: 가로 43pixel, 세로 42pixel 본 조사는 ICT 산업과 관련성이 높은 특정 집단을 대상으로 조사하였기에, 표본 특성은 모집단의 특성을 그대로 반영하고 있는 것이 특징


- 표본은 주로 서울/수도권에 거주하는 대학 이상 학력의 40대 이상 남성이 대부분을 차지


- 따라서 표본은 ICT 업계 종사자이지만, 성별/연령별/지역별로 다소 편향되어 있을 수 있어, 조사결과 해석에 주의를 요함


- 정확한 통계는 없지만 일반적으로 악성댓글의 가해자/피해자 중 상당한 비중이 20~30대 연령층이 차지할 것으로 추측되기 때문에, 본 조사 결과는 악성댓글 실태에 관한 하나의 참고자료로 활용하는 것이 바람직함

7.PNG


그림입니다.

원본 그림의 이름: @_아이콘2.jpg

원본 그림의 크기: 가로 60pixel, 세로 60pixel (악성댓글 피해 경험) 4명 중 1명이 악성댓글로 인한 피해를 경험


그림입니다.

원본 그림의 이름: @_아이콘3.jpg

원본 그림의 크기: 가로 43pixel, 세로 42pixel 응답자 4명 중 1명이 악성댓글 피해 경험이 있다고 응답하였으며, 피해 장소는 인터넷 포털(41%), 소셜미디어(27%)가 높은 비중을 차지


그림입니다.

원본 그림의 이름: @_아이콘3.jpg

원본 그림의 크기: 가로 43pixel, 세로 42pixel 2011년 한국인터넷진흥원이 실시한 인터넷윤리문화실태조사결과에서는 설문 대상자의 54.5%가 피해 경험이 있다고 응답한 바 있는데, 본 조사에서는 모집단 연령대가 높아 악성댓글 피해 경험자가 다른 설문 결과보다 적은 것으로 분석

8.PNG

그림입니다.

원본 그림의 이름: @_아이콘3.jpg

원본 그림의 크기: 가로 43pixel, 세로 42pixel 악성댓글로 인한 피해 중 모욕형이 3/4으로 대다수를 차지


- 모욕형이란 욕설·비속어가 포함되거나 험담·인신공격·인견모독하는 댓글


- 유언비어형이란 확인되지 않은 사실이나 루머를 사실인 것처럼 묘사한 댓글


- 선동형이란 다른 대중에게 댓글과 반대되는 주장에 동조하기를 요청하거나 집단 따돌림 등을 선동한 댓글


그림입니다.

원본 그림의 이름: @_아이콘3.jpg

원본 그림의 크기: 가로 43pixel, 세로 42pixel 피해자들 중 상당수는 악성댓글에 아무런 대응을 하지 않는 것을 선택


- 응답자 중 61%는 악성댓글에 아무런 대응을 하지 않았으며, 글 삭제/차단 요구, 반대/해명, 법적대응 등 적극적 대응을 한 응답자는 절반 이하에 불과


9.PNG

그림입니다.

원본 그림의 이름: @_아이콘2.jpg

원본 그림의 크기: 가로 60pixel, 세로 60pixel  (악성댓글에 대한 인식) 악성댓글 피해를 경험하지 않는 응답자들도 대다수가 악성댓글의 부정적 견해를 피력


그림입니다.

원본 그림의 이름: @_아이콘3.jpg

원본 그림의 크기: 가로 43pixel, 세로 42pixel 악성댓글 피해자들도 악성댓글에 대해서는 강력한 법적 처벌이 필요하거나 기술/제도적 방안 마련이 필요하다고 대답


- 악성댓글에 대해 옹호하는 입장의 응답자들은 비록 문제가 있더라도 표현의 자유를 위해 악성댓글을 금지하는 것은 적절치 않다고 응답


그림입니다.

원본 그림의 이름: @_아이콘3.jpg

원본 그림의 크기: 가로 43pixel, 세로 42pixel 악성댓글에 대한 부정적 응답자들은 여론 왜곡, 범죄 피해 발생 가능성, 인터넷 오염 등의 부작용에 대해 우려


그림입니다.

원본 그림의 이름: @_아이콘3.jpg

원본 그림의 크기: 가로 43pixel, 세로 42pixel 악성댓글에 대한 긍정적 응답자들은 의사표현의 자유 보장, 악성댓글의 비중이 낮다는 점, 역기능보다 순기능이 더 크다는 점 등을 옹호 이유로 제시


10.PNG

그림입니다.

원본 그림의 이름: @_아이콘2.jpg

원본 그림의 크기: 가로 60pixel, 세로 60pixel (악성댓글 저감을 위한 대안) 응답자들은 기술적 대안보다는 제도적 대안을 보다 선호하고 있었으며, 특히 서비스 제한이나 법적 처벌 등 강력한 대책을 요구


그림입니다.

원본 그림의 이름: @_아이콘3.jpg

원본 그림의 크기: 가로 43pixel, 세로 42pixel 가장 많은 응답자들이 댓글 서비스 제한(ID 차단) 법적 처벌 댓글 실명제 도입 등 주로 제도적 방안을 선호하는 것으로 조사결과가 집계


그림입니다.

원본 그림의 이름: @_아이콘3.jpg

원본 그림의 크기: 가로 43pixel, 세로 42pixel 인공지능 자동 필터링 기술 도입이 3위를 차지하기는 했으나, 제도적 방안에 비해 상대적으로 응답 비중이 낮은 편


그림입니다.

원본 그림의 이름: @_아이콘3.jpg

원본 그림의 크기: 가로 43pixel, 세로 42pixel 따라서 응답자들은 기술적으로 문제를 해결하는 방안보다는 악성댓글을 게시하는 소수 악플러들에 대한 단호한 조치가 필요하다고 생각하는 것으로 여겨짐


11.PNG

5. 시사점  


그림입니다.

원본 그림의 이름: @_아이콘2.jpg

원본 그림의 크기: 가로 60pixel, 세로 60pixel 우리나라 현실에 적합한 악성댓글 대처 방안이 마련 되어야 함


그림입니다.

원본 그림의 이름: @_아이콘3.jpg

원본 그림의 크기: 가로 43pixel, 세로 42pixel 각국별로 저마다 문화가 상이해 악성댓글에 대한 대처는 온도 차이가 존재


- 같은 영미권 국가라 하더라도 유럽은 전반적으로 악성댓글에 대해 엄격하게 처벌하는 편이나, 표현의 자유를 보다 중시하는 미국의 경우 정부가 규제하기 보다 사업자들이 자체 규정으로 악성댓글을 관리


- 동북아에서도 중국의 경우는 정부가 언론을 통제하고 있고, 일본은 사업자가 댓글을 직접 관리


그림입니다.

원본 그림의 이름: @_아이콘3.jpg

원본 그림의 크기: 가로 43pixel, 세로 42pixel 국내의 경우 악성댓글을 게시하는 악플러들에게 단호하게 대처해야 한다는 목소리가 크지만, 또 다른 한편에서는 무조건적 처벌과 규제가 능사는 아니라는 의견도 제기


그림입니다.

원본 그림의 이름: @_아이콘2.jpg

원본 그림의 크기: 가로 60pixel, 세로 60pixel 악성댓글 근절 방안으로 이제 기술적 방안 모색을 시작해야 할 때임


그림입니다.

원본 그림의 이름: @_아이콘3.jpg

원본 그림의 크기: 가로 43pixel, 세로 42pixel 표현의 자유를 제한하고 모든 이를 잠재적 범죄자로 간주하는 댓글 폐지나 인터넷 실명제가 문제 해결의 유일한 정답지는 아님


그림입니다.

원본 그림의 이름: @_아이콘3.jpg

원본 그림의 크기: 가로 43pixel, 세로 42pixel 댓글의 순기능은 살리면서 역기능은 기술로 보완하는 방법이 앞으로 악성댓글 근절 방안으로 중요하게 대두될 전망


그림입니다.

원본 그림의 이름: @_아이콘3.jpg

원본 그림의 크기: 가로 43pixel, 세로 42pixel 본 설문조사에서도 응답자들은 댓글 서비스 폐지(19%)’보다 악성댓글 인공지능 필터링(31%)’을 선호


그림입니다.

원본 그림의 이름: @_아이콘2.jpg

원본 그림의 크기: 가로 60pixel, 세로 60pixel 완성도 높은 자연어처리 인공지능 기술은 전 세계 인공지능 기업들이 목표로 하는 전략 기술로, 보다 적극적인 R&D 투자가 필요


그림입니다.

원본 그림의 이름: @_아이콘3.jpg

원본 그림의 크기: 가로 43pixel, 세로 42pixel 자연어처리 인공지능 기술은 글의 맥락·의도와 인간 감정을 이해하는 인공지능 핵심 기술 중 하나임


그림입니다.

원본 그림의 이름: @_아이콘3.jpg

원본 그림의 크기: 가로 43pixel, 세로 42pixel 악성댓글 탐지 인공지능 기술은 비록 악의적인 표현 탐지에 초점을 맞추고 있지만, 기술이 고도화되면 단순 질문이나 명령이 아닌 인간처럼 자연스러운 대화가 가능한 범용

  인공지능 분야*로 확대 적용 가능

  

* 챗봇, AI비서, 스마트ARS


- 네이버는 20198월 전화예약 인공지능 ARS ‘AiCall’ 서비스를 공개


그림입니다.

원본 그림의 이름: @_아이콘3.jpg

원본 그림의 크기: 가로 43pixel, 세로 42pixel 정부 차원에서도 한국어의 자연어처리 기술 고도화를 위한 전략적 R&D 투자 확대와 양질의 학습 데이터 개발·축적·공유가 필요


그림입니다.

원본 그림의 이름: @_아이콘3.jpg

원본 그림의 크기: 가로 43pixel, 세로 42pixel IITP와 과학기술정보통신부는 가짜뉴스 탐색 능력을 겨루는 ’2017 인공지능 R&D 챌린지대회를 개최한 바 있는데, 악성댓글의 경우도 챌린지 방식 R&D를 지원하는 방안

고려 필요


그림입니다.

원본 그림의 이름: @_아이콘2.jpg

원본 그림의 크기: 가로 60pixel, 세로 60pixel 인공지능 기술의 한계를 보완할 수 있는 방안도 함께 마련해야 함


그림입니다.

원본 그림의 이름: @_아이콘3.jpg

원본 그림의 크기: 가로 43pixel, 세로 42pixel 현재 악성댓글 탐지 인공지능 기술이 글의 맥락과 의도까지 파악할 수 있는 수준은 아니므로, 여전히 교묘한 비방·모욕 표현은 탐지가 쉽지 않은 상황


그림입니다.

원본 그림의 이름: @_아이콘3.jpg

원본 그림의 크기: 가로 43pixel, 세로 42pixel 따라서 예를 들어 90% 정도는 인공지능으로 자동화하고, 인공지능이 판별하기 어려운 10% 정도는 사람이 직접 모니터링하는 식의 하이브리드 방식을 당분간 도입하는 것

이 바람직