악플 대응 고도화 나선 네이버… ‘AI 클린봇 3.0’으로 2차 가해 정조준

[미디어펜=배소현 기자] 네이버가 악성 댓글 문제 대응을 위해 AI 기반 필터링 기술을 한층 강화했다. 단순 키워드 탐지를 넘어 기사 맥락까지 반영하는 방식으로 정밀도를 끌어올린 것이 핵심이다.

네이버는 생명 경시 및 2차 가해 표현 탐지를 강화한 ‘AI 클린봇 3.0’ 업그레이드를 완료했다고 29일 밝혔다. 이번 개편을 통해 자살, 사망, 신체 훼손 등과 관련된 부적절 표현과 사건·사고 피해자 및 유족을 향한 조롱·비하 댓글에 대한 차단이 집중적으로 이뤄진다.

특히 이번 버전은 댓글 내용뿐 아니라 기사 제목과 본문까지 함께 분석하는 구조로 개선됐다. 이를 통해 동일한 표현이라도 기사 맥락에 따라 악의적 의도를 보다 정교하게 식별할 수 있도록 했다.

‘AI 클린봇’은 2019년 업계 최초로 도입된 이후 지속적인 고도화를 거쳐 왔다. 초기에는 욕설과 비속어 중심의 키워드 기반 필터링이었지만, 이후 문장 맥락 분석을 적용하면서 욕설이 없는 모욕적 표현까지 탐지 범위를 넓혔다.

여기에 성적 불쾌감 유발, 혐오·차별 표현, 기호나 문자를 활용한 우회 표현 등 다양한 형태의 악성 댓글을 차단하기 위해 업데이트가 이어졌다. 2023년에는 한국인터넷자율정책기구(KISO)의 혐오표현 자율정책 가이드라인도 반영했다.

네이버는 기술적 대응과 함께 정책적 조치도 병행하고 있다. 정치·선거 섹션 기사에는 댓글을 제공하지 않거나, 악성 댓글 비율이 일정 기준을 넘을 경우 자동으로 댓글 기능을 비활성화하는 방식이다.

이와 관련해 업계에서는 이용자 보호와 표현의 자유 사이 균형을 맞추는 기술적 접근이 한층 중요해지고 있다는 분석도 나온다.

김수향 네이버 리더는 “네이버는 욕설, 비속어는 물론 새롭게 생긴 혐오, 비하, 차별 표현을 탐지하기 위해 클린봇의 성능을 지속 강화하고 있다”며 “생명 경시 조장, 피해자, 유족 조롱, 혐오 집중 차단을 비롯해 다양한 의견을 청취하며 클린봇 성능을 고도화할 예정이다”라고 밝혔다.