네이버·카카오, 검색어 자율규제 美 소개

네이버와 카카오가 시행 중인 검색어 공정성을 위한 자율규제노력이 표현의 자유가 특히 더 중시되는 미국 학회에서 발표돼 주목된다.

자율정책기구가 검색어 정책 규정을 정하고, 네이버와 카카오가 해당 규정에 따른 심의를 받고 그 결정에 수용해온 과정을 중심으로 한국의 자율규제 상황이 소개된다.

네이버의 경우는 검색어 검증위원회를 통해 검색어의 처리 과정을 받는 시스템도 마련하고 있는데, 이 부분도 공개된다.

미국 UCLA 정보학부에서 주관하는 ‘조정에 관한 모든 것: 온라인 콘텐츠 검토와 관련된 사람들, 정책과 실제- 인간과 기계’ 컨퍼런스가 6일부터 이틀간 UCLA Charles E. Young 연구도서관에서 열린다.

이번 컨퍼런스는 온라인 콘텐츠 심의 조정에 관한 광범위한 주제를 다룬다.

인터넷상에는 언론사가 작성한 뉴스, 정부에서 공식적으로 발표한 문서와 같은 자료뿐만이 아니라, 인터넷 사업자가 작성한 자료, 이용자가 작성한 게시물, 출처가 불분명한 가짜 뉴스 등 다양한 정보가 유통되고 있다.

그동안 해외에서는 언론의 자유라는 측면에서 인터넷 공간에 유통되는 이런 콘텐츠에 대한 자정노력의 필요성과 인식이 거의 없는 편이었다.

하지만 해외에서도 최근 콘텐츠 필터링의 필요성을 인정하고 이에 대한 학문적인 접근이 나타나고 있다. 이런 변화는 역설적으로 기술의 발전, 특히 인공지능과 소셜네트워크서비스의 영향이 크다.

지난해 3월에는 미국의 마이크로소프트사가 만든 AI 채팅봇 테이가 차별 발언을 쏟아내 16시간 만에 운영을 중단한 사건이나, 지난해 미국 대선을 기점으로 이른바 ‘가짜 뉴스’와 가짜뉴스의 전파 통로로서의 SNS가 주목받게 된 것이 그것이다.

이런 문제는 지속되고 있다. 올초에 발생한 폭력적인 총기난사 사건, 자살 중계사건 등이 페이스북을 비롯한 소셜미디어를 통해 전 세계로 실시간 중계되면서 콘텐츠 필터링에 대해 적극적인 논의가 펼쳐지고 있다.

이런 공감대를 바탕으로 최근 독일과 오스트리아에서는 페이스북과 같은 소셜미디어 플랫폼이 혐오 관련 콘텐츠(해당 지역에서 법률상 정의된 범위 내)와 가짜뉴스 등 허위 정보의 유통을 금지해야 한다는 법률(일명 네트워크시행법안)이 올해 9월 채택돼 10월부터 시행됐다.

이 법에 따르면 인터넷 기업은 플랫폼에 올라온 가짜 뉴스, 혐오 발언을 모니터링 해 명백한 불법 정보로 판단되면 24시간 안에 삭제해야 한다. 이 법을 위반한 SNS 플랫폼 기업에 최대 500만 유로, 우리 돈으로 약 65억원의 과징금을 부과 받을 수 있다. 미국 의회 역시 10월말 법제사법위원회 청문회에서 구글페이스북트위터를 상대로 지난 대선에 가짜 뉴스 등이 집중 유포된 정황을 추궁했다.

물론 이런 법의 필요성은 인정되지만 법에 의한 강제적인 제약은 과도하게 표현의 자유를 침해한다는 비판도 나오고 있다. 이처럼 양쪽의 대립된 의견이 존재하지만 전 세계적으로 인터넷과 SNS 사업자에게 스스로 약관 등에 따라 부적절한 콘텐츠를 필터링하는 것을 요구하는 추세는 뚜렷하다.

■ 표현의 자유 보장해 온 미국 입장 바뀔까

한국뿐만 아니라 전세계의 사업자는 서비스 품질을 유지하고, 불법적인 정보 유통을 막기 위해 이용자 작성 콘텐츠를 필터링한다. 하지만 현실에서의 콘텐츠에 대한 심의 및 조정은 그 특성상 자동화하기가 쉽지 않다.

또한 서비스를 제공하는 회사의 규제 정책, 각 국가의 법률에 따라 이런 콘텐츠 필터링은 다양한 양상으로 나타난다. 즉 콘텐츠의 조정은 단순히 게시물 몇 개를 지우는 간단한 문제가 아니라, 다양한 이해관계자가 얽혀 있는 문제로 나타나고 있다.

이와 관련해 이번에 개최되는 컨퍼런스의 주제인 ‘조정에 관한 모든 것’(All Things in Moderation)에서 조정이란 인간에 의해 이뤄지는 각종 개입 행위를 뜻한다. 기계와 인공지능에 의해 이뤄지는 필터링 작업의 한계를 인정하고 이런 부분까지 인간에 의해 조정되는 현실과 그 의미에 대한 발표와 토론이 이뤄진다.

컨퍼런스는 인터넷 전반에 대해 학문적인 측면뿐만 아니라 실무 담당자들의 콘텐츠 필터링 정책과 기술에 대한 다양한 주제를 망라하고 있다.

2억 명 이상의 회원이 있는 인터넷커뮤니티 마이스페이스의 콘텐츠 검토 교육담당자인 라살린 보우덴과 UCLA 교육정보대학원 교수로 정보기술을 전공한 사라 T. 로버츠, 표현의 자유 증진 및 보호에 관한 UN 특별 조사위원인 데이비드 케이 등 IT관련 학자와 기업인 언론인 등 여러 분야에서의 전문가들이 발표를 할 예정이다.

데이비드 케이는 독일의 네트워크시행법안에 대해 “열거된 위반사례가 매우 상황 의존적이어서 플랫폼 기업들이 위험요소를 평가할만한 위치에 있지 않다”며 “콘텐츠를 사기업들이 규제하고 결정내리라는 의무는 표현의 자유 측면에서 우려할 수밖에 없다”고 말한 바 있다.

■ 인터넷 종주국, 미국서 자율 규제 소개

우리나라에서는 한국인터넷자율정책기구(이하 KISO)가 2009년부터 콘텐츠에 대한 필터링을 자율적으로 수행해왔으며 심의 및 조정의 기준을 공개해 왔다.

특히 네이버카카오 등의 한국 포털은 검색어를 사전 사후 검증하는 시스템을 갖고 있다. 검색어 서비스는 특성상 알고리즘에 의해 자동적으로 생성되지만, 이를 방치할 경우 반사회적 검색어, 청소년유해검색어 등이 즉각 이용자들에게 노출되기 때문에 정밀한 필터링이 필요한 분야다.

이번 컨퍼런스에 KISO가 초청된 것도 이런 이유에서다. KISO는 한국의 검색어를 둘러싼 사업자-이용자-정부의 이해의 충돌과 그것을 해결하기 위해 벌여온 여러 논의 과정을 ‘한국에서의 검색어 공정성을 위한 자율규제노력’이라는 제목으로 발표한다.

민간기업으로서 네이버 및 카카오가 KISO를 통해 공동의 기준인 검색어 정책 규정을 정하고 주요 사항에 대해 해당 규정에 따른 심의를 받고 그 결정에 수용해온 과정을 중심으로 한국적 자율규제 상황을 설명할 계획이다.

미국에서는 민간기업 중심의 인터넷 게시물에 대한 자율규제가 없을 뿐 아니라 검색어에 대한 규제 역시 없기 때문에 한국의 모델에 관심이 쏠릴 것으로 예상된다. KISO는 이날 발표에서 이용자의 알 권리 및 공익과 관련된 검색어를 삭제하지 못 하도록 하는 기준과 함께, 잊혀질 권리를 반영해 검색어를 삭제하는 기준 등 구체적인 케이스도 소개한다.

나아가 네이버가 KISO의 독립위원회인 검색어 검증위원회를 통해 검색어의 처리 과정을 사후 검증받는 시스템도 소개된다. 검색어 검증위원회는 2012년 만들어진 위원회로서 제1기 검증위원회는 총 4차례(2012년9~ 2015.2.), 제2기 검증회(2016.4.~ 현재)까지 한 차례의 보고서를 발표했다.

독립된 위원으로 구성된 외부 위원회에서 검색어 삭제 기록을 전부 넘겨받아 그 적절성을 검토하고, 잘못된 처리가 있을 경우에는 공개 보고서를 통해 개선을 요구한다.

물론 이런 검증의 노력에도 불구하고, 이용자들이 알고리즘 자체에 불신을 갖고 있다는 점, 외부세력에 의한 조작 역시 네이버의 책임을 보고 있는 점 등의 이유로 아직 이용자의 불신이 존재한다는 KISO의 진단도 그 내용에 포함된다.

■ 구글도 생각 못한 ‘검색어 검증’