네이버 "AI로 대형참사 등 인명사고 악플 탐지·대응 강화"

경제·산업 입력 2025-01-24 10:12:38 수정 2025-01-24 10:12:38 이수빈 기자 0개

'클린봇 옵저버' 고도화…기사 악플 탐지

[서울경제TV=이수빈 기자] 네이버는 공지사항을 통해 '클린봇 옵저버' 기술을 고도화해 대형 참사를 포함한 인명사고 보도의 악플 감지와 알림 기능을 강화할 예정이라고 24일 밝혔다.

클린봇 옵저버는 2023년 7월 베타 버전으로 시작한 서비스다. 인공지능(AI) 기반 악플 탐지 기술 '클린봇' 기반으로 만들어진 서비스로 악플 작성 시도 비율을 계산해 감지 대상 기사를 자동으로 선별하고 해당 기사를 언론사에 알려준다. 언론사들은 이전보다 빠르게 댓글 제공 중단 필요성을 확인하고 즉각 중단을 결정할 수 있다.

네이버는 "최근 여객기 참사 보도 관련해 약 30개의 언론사가 댓글 제공 중단 기능을 이용했다"면서도 "추가적인 대응 필요성에 따라 인명사고 탐지 AI 기술을 클린봇 옵저버에 적용해 1분기 중으로 고도화할 예정"이라고 말했다.

네이버는 언론 유관 협회·단체와 논의해 상반기 중으로 '자살 예방 보도 준칙'과 같은 참사 보도 권고 기준과 악플 예방 문구를 마련할 계획이다. 해당 보도 시 문구를 삽입하도록 협의할 예정이다.

관련 문구가 포함된 기사의 경우 자살 보도와 마찬가지로 언론사에 댓글 자동 중단 여부를 설정할 수 있는 기능을 제공할 수 있을 전망이다. 예를 들어 언론사에서 자살 예방 문구처럼 특정 악플 예방 문구를 기사에 삽입하면 대형 참사, 인명사고 기사로 탐지해 해당 기사 댓글이 자동으로 닫히는 방식이다.

네이버는 "자살 예방 캠페인에 적극 동참했던 것처럼 대형 참사를 포함한 인명사고 기사에서도 악플 근절을 위해 기술적, 정책적 노력을 지속해 나가겠다"고 밝혔다.
/q00006@sedaily.com

#Tag