성 정체성, 성적지향 등도 포함…카톡·메일 등 사적 공간은 대상제외
카카오가 국내 기업 중 처음으로 '증오(혐오) 발언 근절 원칙'을 수립해 서비스에 적용한다. 카카오는 13일 공식 브런치를 통해 "출신, 인종, 장애, 성별, 성 정체성 등을 이유로 인간을 차별·배척하는 일은 근절돼야 한다"며 '증오 발언 근절을 위한 카카오의 원칙'을 발표했다.
최근 인공지능(AI) 챗봇 '이루다 사건'으로 디지털·인공지능(AI) 윤리 논쟁이 제기된 상황에서 처음 채택된 증오 발언 근절 원칙으로 주목된다. 증오 발언 근절 원칙은 약 1년에 걸쳐 카카오 미디어자문위원회, 시민사회 전문가, 국가인권위원회, 한국언론법학회 등이 참여해 마련했다.
카카오는 "온라인 증오 발언이 사회적 문제로 부상함에 따라 그 대응책을 마련할 필요성에 공감대가 넓어지고 있다"며 "카카오 역시 사회 구성원으로서 디지털 공간을 건강하게 만들기 위한 원칙을 수립했다"고 설명했다.
그 첫 번째 원칙으로 "한 인간의 정체성을 이유로 특정 대상을 차별하거나, 이에 대한 편견을 조장하거나, 일방적으로 모욕·배척하는 행위를 반대한다"고 선언했다. 인간의 정체성으로는 '출신(국가·지역 등), 인종, 외양, 장애 및 질병 유무, 사회 경제적 상황 및 지위, 종교, 연령, 성별, 성 정체성, 성적 지향, 기타 정체성 요인 등'이 명시됐다.
카카오는 '이런 차별에 기반을 두고 특정집단을 공격하는 발언을 증오 발언으로 정의한다'면서 앞으로 증오 발언에 강경 대처할 것임을 예고했다. 증오 발언은 이용자의 안전을 위협할 뿐 아니라 사회적 배척 및 물리적 폭력을 유발하며, 발언의 자유와 사회 신뢰·건강성까지 저해한다고 판단해서다.
카카오는 이용자들에게 "서비스 내에서 특정인과 특정집단에 대한 폭력을 선동하거나 인간 존엄성을 훼손하는 발언에 유의해야 한다"고 당부했다. 그렇다고 카카오톡 대화를 카카오가 들여다보겠다는 것은 아니다.
카카오는 "위 원칙은 '공개 게시물' 영역에 한한다"며 "카톡의 사적 대화공간, 메일, 톡 서랍 등 개인화 서비스와 커뮤니티의 비공개 게시글 등에는 프라이버시 존중을 최우선 가치로 적용할 것"이라고 강조했다. 그러면서 "증오 발언을 근절하기 위해 앞으로도 정책, 기술, 서비스 기획 및 디자인을 고도화하겠다"며 "사내 교육과 모니터링도 강화하겠다"고 덧붙였다.
