트위터, '바퀴벌레' '거머리' '인간쓰레기' 등 ‘혐오 게시물’ 자동 삭제 등 규제 강화한다

소셜미디어 기업들의 사회적 책임이 한층 강화될 것인가. 

트위터는 지난 2일(현지시간) 인종, 국가, 민족, 성 등에 빗대어 사용되는 혐오 발언에 대한 정의를 확대해 보다 강하게 규제하겠다고 밝혔다. 

트위터는 특히 "우리는 자유롭게 플랫폼에서 자신을 표현하도록 독려하지만 분열을 조장하는 차별, 욕설, 혐오 발언은 서비스 대상이 아니다"라며 "우리는 인종, 국가, 민족을 토대로 사람을 공격하고 비인간 취급하는 표현행위에 대한 규제 정책을 강화하겠다"고 강조했다.

이에 대한 예시로 인종, 종교, 출신국, 성을 표현할 때 바퀴벌레(cockroaches), 거머리(leeches), 인간쓰레기(scum)와 같은 단어를 쓸 경우 혐오 콘텐츠로 분류해 자동 삭제 조치를 하겠다고 밝혔다. 삭제 조치가 필요한 단어와 표현을 지속적으로 사용하는 계정은 일시적으로 게시글을 올리지 못하게 되며, 경고에도 불구하고 시정되지 않을 경우 계정은 영구 정지된다.

트위터의 사용자들의 혐오 발언에 대한 규제 시행은 이번이 처음이 아니다. 작년 3월, 뉴질랜드 이슬람 사원에서 발생한 무차별 총격 테러 사건 이후 트위터는 종교에 대한 혐오 발언에 대한 규제 수위를 높였다. 당시, 총격 테러를 자행한 백인우월주의자가 자신의 트위터 등의 계정에 이슬람 증오 콘텐츠를 게재하는 것을 넘어서 테러 장면을 17분간 생중계했기 때문이다. 또한, 올 3월에는 장애, 질병, 나이 등에 대한 혐오 발언을 금지했다. 이러한 가운데, 이번에는 혐오의 의미를 간접적으로 드러내는 콘텐츠까지 규제 대상으로 확대해 보다 엄격하게 관리하겠다는 의지를 드러낸 것이다.

이러한 규제는 비단 트위터뿐 아니라 SNS 업계 전반으로 확대되고 있다. 최근 페이스북은 인공지능(AI)을 활용해 자사 플랫폼에 게재된 혐오 발언의 95%가량을 걸러낼 수 있는 기술을 공개했다. 페이스북은 지난 20일(현지시간) 올해 3분기에 삭제된 혐오 발언 2210만건 가운데 94.7%가량이 AI 기술을 활용해 제거할 수 있었다고 밝혔다. 사실, 페이스북은 혐오 발언 및 가짜뉴스 판별을 위한 AI 기술을 수년 전부터 개발 및 적용해왔지만 간접적인 표현이나 은어·속어 등을 파악하는 데 한계가 있었다. 그런데 페이스북은 오프라인에서의 사례와 수치들로부터 학습하는 것을 넘어 온라인 공간을 전체적으로 학습하는 '강화된 통합성 최적화(RIO)' 기술을 도입하여 95%까지 혐오 발언을 추출했다. 

또 스냅챕도 조지 플로이드 사망 사건에 항의하는 시위대를 강경 진압하고 위협적인 발언을 했던 트럼프 대통령의 영향으로 SNS상에 인종 갈등이 불거지자, "인종 폭력과 갈등을 조장하는 목소리를 증폭시키지 않겠다"라며 규제 방침을 제시했다.

표현의 자유와 유대감 보장이 수익으로 연결되는 SNS 업계는 그동안 게시물 규제에 대해 소극적인 태도를 보여 왔다. 하지만, 지난 5월 백인 경찰관의 강경 진압으로 흑인 남성 조지 플로이드가 사망함에 따라 인종차별에 대한 분노가 온·오프라인에서 확대됨에 따라, SNS 업계의 혐오 발언에 대한 느슨한 규제가 도마 위에 오르기 시작했다.

특히, 인종차별 반대 시위를 공개적으로 비난하는 트럼프 대통령의 게시물에 페이스북이 "최대한 다양한 표현이 공유 가능하도록 해야 한다"라는 태도를 보이자 주식 폭락과 더불어 보이콧 운동이 전 세계적으로 확산하기 시작했다. 

무엇보다, 미국 인권단체로부터 촉발된 '이익을 위한 증오를 멈춰라(#StopHateForProfit)'라는 캠페인에 200개가 넘는 기업들이 참여하기 시작했다. 코카콜라를 비롯해 파타고니아, 유니레버, 버라이즌 등의 글로벌 기업들도 페이스북이 사회적 책임을 이행하지 않는다는 목소리를 내며 페이스북을 통한 자사 광고 및 홍보를 일시적으로 중단시켰다. 이러한 움직임이 확산하자, 마크 저크버그(Mark Zuckerberg) 페이스북 CEO는 "증오나 폭력을 선동하는 정치인들의 콘텐츠는 삭제하고 공공의 이익에 부합된다고 판단되는 내용에 라벨을 붙여 관리 하겠다"라고 한발 물러섰다.

ESG가 모든 영역에서 확대되고 있는 상황에서 SNS 생태계에서의 책임 있는 발언이 강조되고, 관련 기업들도 규제를 보다 강화할 전망이다.