네이버가 최근 발생한 무안공항 제주항공기 참사와 같은 대형 인명사고 보도기사에 인공지능(AI) 기술을 적용, 악플 방지에 나선다.
네이버는 24일 '클린봇 옵저버' 기능을 고도화해 대형참사 인명사고 악플에 대응한다고 밝혔다.
최근 30개 상당의 언론사는 제주항공 참사보도에서 네이버의 댓글 제공 중단 기능을 이용했다. 그럼에도 추가적인 대응 필요성이 커지자 네이버는 올해 1분기 안에 인명사고 탐지 AI기술을 클린봇 옵저버에 적용해 고도화할 방침이다.
네이버는 그동안 뉴스 댓글 순기능을 강화하고자 다양한 운영적, 기술적 보완책을 구축해왔다. 2019년에는 업계 최초로 인공지능 기반의 악플 탐지 '클린봇'을 선보였으며, 문장 맥락을 파악해 욕설, 저속한 표현 뿐 아니라 선정적, 폭력적, 차별적, 비하적 표현도 스스로 탐지해서 필터링하는 등 지속적으로 업그레이드하고 있다.
네이버는 이후 AI 악플 탐지 기술 '클린봇'을 기반으로 지난 2023년 7월 '클린봇 옵저버' 베타 서비스를 시작했다. 클린봇 옵저버는 악플 작성 시도 비율을 계산해 감지대상 기사를 자동으로 선별하고, 해당 기사를 언론사에 알려주는 서비스다. 언론사들은 이전보다 빠르게 댓글제공 중단 필요성을 확인하고 즉각 중단을 결정할 수 있다. 특히 자살 보도를 탐지해 댓글, 추천 스티커 기능을 제외하기도 했다.
네이버는 이와 함께 언론 협단체와 함께 상반기 중 '자살 예방 보도 준칙'과 같은 참사 보도 권고 기준 및 악플 예방 문구를 마련해, 해당 보도 시 문구를 삽입하도록 협의할 예정이다.
관련 문구가 포함된 기사의 경우 '자살 보도'와 마찬가지로, 언론사에 댓글 자동 중단 여부를 설정할 수 있는 기능을 제공한다는 계획이다. 예를 들어 언론사가 자살 예방 문구처럼 특정 악플 예방 문구를 기사내 삽입하면 대형참사, 인명사고 기사로 탐지해 해당 기사 댓글이 자동으로 닫히는 방식을 함께 논의한다.
네이버는 이밖에도 첨예한 사회적 갈등이나 의견 대립이 발생한 것으로 감지된 기사에 대한 대응도 검토 중이다. 댓글 내 공감, 비공감이 모두 일정 기준 이상 빠르게 올라가는 경우 언론사에 알려 댓글 정렬 방식을 최신순, 답글순, 과거순 등으로 전환하도록 유도하는 방식이다.
네이버 측은 "자살 예방 캠페인에 적극 동참했던 것처럼 대형 참사를 포함한 인명 사고 기사에서도 악플을 근절할 수 있도록 기술적, 정책적 노력을 지속해 나가겠다"고 강조했다. 김미경기자 the13ook@dt.co.kr
