카카오가 지난 12일 이사회 산하에 ‘ESG 위원회’를 신설하기로 의결한 하루 뒤 '증오(혐오) 발언 근절 원칙‘을 수립했다. 최근 챗봇 인공지능(AI) '이루다' 서비스가 혐오 발언과 성희롱 등으로 서비스가 중단된 상황에서 카카오의 결심이 주목을 받고 있다. 카카오는 “디지털 공간 내 문제를 해결하기 위한 구체적인 실천 노력은 디지털 기업 고유의 ESG 활동”이라고 설명했다.
카카오가 공식 브런치를 통해 발표한 원칙은 차별과 이에 기반한 증오발언에 강경 대응하겠다는 내용을 포함한 네 가지 항목으로 구성됐다.
1. 카카오는 출신(국가, 지역 등), 인종, 외양 장애 및 질병 유무, 사회 경제적 상황 및 지위, 종교, 연령, 성별, 성 정체성, 성적 지향 또는 기타 정체성 요인을 이유로 특정 대상을 차별하거나 이에 대한 편견을 조장하며 일방적으로 모욕하거나 배척하는 행위에 반대합니다.
2. 카카오는 이러한 차별에 기반해 특정인과 특정집단을 공격하는 발언을 증오발언으로 정의합니다. 증오발언은 이용자의 정서적 안전을 위협할 뿐 아니라, 사회적 배척과 물리적 폭력을 유발합니다. 증오발언은 다양한 이용자가 발언에 나설 자유를 위축시킬 뿐만 아니라 우리 사회의 신뢰와 건강성을 저해합니다. 카카오는 이용자의 인권과 존엄성을 훼손하고 안전을 위협하는 증오발언에 강경하게 대처하겠습니다.
3. 이용자는 카카오 서비스 내 공개된 공간에서 특정인과 특정 집단에 대한 폭력을 선동하거나 인간의 존엄성을 훼손하는 발언에 유의해야 합니다. 이용자는 타인의 존엄성과 안전을 위협하지 않는 한 여전히 공공정책이나 자신의 신념 등에 대해 자유롭게 의견을 개진할 수 있습니다.
4. 카카오는 증오발언을 근절하기 위해 앞으로도 정책, 기술, 서비스·기획 및 디자인을 고도화해 나가겠습니다. 더불어 사내 교육과 모니터링을 강화하는 등 내부로부터의 차별과 증오발언을 경계하겠습니다.
이날 카카오는 이 원칙에 기반해 운영정책 내 서비스 이용 시 금지하는 활동의 조항을 수정했다. 이번 원칙은 댓글 공개 게시물 영역에만 적용되며 카카오톡 대화 등 사적 내용에 적용되지는 않는다.
카카오는 "모든 이용자가 안전하게 표현의 자유를 누릴 수 있는 환경을 만들기 위해 노력하겠다"며 "모두에게 안전한 디지털 공간을 만들기 위한 노력에 이용자 여러분도 적극 동참해주길 부탁드린다"고 말했다.
보통 '혐오 발언'이라고 번역하는 'hate speech'를 증오 발언으로 표현한 이유 등에 관해 어떤 숙의 과정을 거쳤는지 공식 블로그에 공개했다. 방점이 찍힌 것은 ‘극단적인 언어적 폭력’이다. 혐오 발언보다 폭력성이 명확하게 드러나는 증오 발언을 규제해, 이용자의 표현의 자유를 최대한 보장한 쪽으로 가닥을 잡았다. 카카오는 “혐오는 싫어하여 기피하는 감정까지 포괄한다”며 “행위의 해악성이 뚜렷해야 하고, 제재의 필요성과 타당성을 확보해야 하기 때문에 혐오 대신 증오로 용어 정립을 한 것”이라고 밝혔다.
카카오는 지난해 1년 동안 이 원칙을 수립하기 위해 자사 미디어자문위, 국가인권위, 한국언론법학회, 시민 전문가와 함께 프로젝트를 진행했다. 녹서(Green paper) 공개를 통해 증오발언 대응 방안을 수립한 일련의 과정을 투명하게 공개하기도 했다. 이번 발표한 원칙을 시발점으로 삼아 향후 본격적인 논의를 진행시켜 나간다는 의미를 담아 ‘녹서’로 이름 지었다.
증오발언 대응 정책 발표 하루 전엔 이사회 산하 ESG위원회 설립 의결을 하기도 했다. 위원장은 카카오 설립자인 김범수 이사회 의장이 맡는다. 아울러 지난해부터 카카오 사외이사를 맡고 있는 최세정 고려대 미디어학부 교수와 박새롬 성신여대 융합보안공학과 조교수가 위원회 소속으로 활동한다. 이전에는 ESG 전담조직만 존재했다.