“욕설·비방에 불법 리딩방까지 잡는다”…토스증권, AI 검수 도입

본문

투자자 커뮤니티 이용자 보호 위해 금지어 필터링 고도화·가이드라인 정비 토스증권이 투자자 커뮤니티에 인공지능(AI)을 활용한 게시글 검수 체계를 도입했다. 욕설이나 비방은 물론 불법 주식 리딩방 홍보까지 AI가 자동으로 찾아내는 방식이다. 토스증권은 4일 투자자들이 보다 안전하고 건전한 환경에서 소통할 수 있도록 자사 커뮤니티에 인공지능(AI) 기반 게시글 검수 체계를 도입했다고 밝혔다. 이번 개선은 커뮤니티 내 욕설·비방, 불법 리딩방 홍보 등 부적절한 게시글을 보다 정확하게 걸러내기 위해 마련했다. 새롭게 도입한 AI 검수 모델은 게시글 작성 또는 수정 후 제목과 본문, 이미지를 자동으로 분석한다. 욕설이나 비방, 혐오·차별 표현을 비롯해 불법 리딩방 홍보 등 건전한 투자 소통을 저해하는 콘텐츠를 탐지한다. AI 검수 모델을 통해 이용자들이 자주 사용하는 금지어의 우회 표현까지 폭넓게 탐지하고, 다양한 변형 표현도 걸러낼 수 있도록 개선했다.

이러한 개선으로 게시글 작성 시 금지어 필터링, 작성 후 AI 자동 검수로 이어지는 이중 검수 체계를 마련했다. 욕설 및 유해 콘텐츠, 혐오·차별 표현, 홍보·광고, 시장질서 교란 행위 등 제한 대상과 제재 기준을 담은 ‘커뮤니티 서비스 콘텐츠 가이드라인’을 신설했다. 토스증권 관계자는 “이번 개선은 투자자들이 불쾌감을 주는 게시글이나 부적절한 투자 권유에 노출되는 것을 줄이고, 보다 신뢰할 수 있는 환경에서 소통할 수 있도록 하는 데 초점을 맞췄다”며 “앞으로도 투자자들이 유용한 정보를 나누고 다양한 의견을 교환할 수 있도록 커뮤니티 환경을 지속 개선해 나가겠다”고 말했다. 한편, 토스증권 리서치센터는 최근 한국 메모리 반도체 산업의 변화를 분석한 보고서 ‘여기는, 한국입니다’를 발간했다 토스증권이 투자자 커뮤니티에 인공지능(AI)을 활용한 게시글 검수 체계를 도입하여 욕설, 비방, 불법 주식 리딩방 홍보 등을 자동으로 탐지할 수 있게 했다.

이번 AI 검수 모델은 게시글의 내용과 맥락, 이미지를 종합적으로 분석하여 더욱 정교한 필터링을 가능하게 하며, 커뮤니티 운영 기준도 새롭게 정비되었다.