네이버, 위험 요소 걸러내는 ‘AI 안전 보고서’ 첫 발간

본문

네이버가 인공지능(AI) 안전성 체계를 서비스에 적용하는 과정과 구체적인 실행 사례를 담은 리포트를 처음으로 발간했다. 16일 네이버는 AI 모델의 성능과 위험 수준 및 이용자와 서비스 보호까지 포괄하는 안전성 관리 체계 ‘ASF 2.0’과 실행 체계 ‘CHEC 2.0’이 네이버의 서비스에 어떻게 적용되고 작동하는지를 안내하는 ‘AI 세이프티 프로그레스 리 네이버는 우선적으로 AI 서비스에서 발생할 수 있는 위험을 법률적·사회적·산업적 사례에 의거해 110개 세부 항목으로 분류한 AI 위험 분류·식별 체계 ‘N-ARTI’과 생성형 AI 서비스가 제공하는 답변의 안전성을 유해성과 사용성 관점에서 평가하는 ‘N-ASET’를 마련했다. 네이버는 쇼핑·날씨 서비스에 AI를 활용했다는 사실을 표시·고지하는 등 안전성을 위한 조치가 실제로 어떻게 구현되고 있는지 이용자들이 직관적으로 이해할 수 있도록 적극적으로 소통한다는 방침이다.

네이버가 지난 6월 정식으로 선보인 ‘AI 탭’ 역시 CHEC 2.0을 기반으로 설계부터 출시까지 모든 과정에 걸쳐 AI 안전성 점검을 수행했다. 네이버는 인간 중심이라는 기업·서비스 가치를 지켜내기 위해서 국내외 학계·전문기관과의 협력을 확대하며 AI 서비스에서 발생할 수 있는 위험을 예방하고 완화할 수 있도록 ASF 2.0을 지속적으로 고도화할 계획이다. 110개 항목의 N-ARTI 와 답변 평가 체계 N-ASET를 마련하고, AI 탭의 설계부터 출시까지 점검 절차를 적용했습니다. 네이버는 AI 안전성 체계를 포함한 'AI 세이프티 프로그레스 리포트'를 처음으로 발간하여 서비스에 적용되는 과정을 소개했다. 이 리포트에서는 AI 위험 분류 체계 'N-ARTI'와 응답 안전성을 평가하는 'N-ASET'을 통해 AI 서비스의 위험을 관리하는 방법을 설명하고, 실제 서비스에서의 안전성 점검 사례를 공유하고 있다.

네이버는 AI 서비스의 위험을 예방하고 완화하기 위해 학계 및 전문기관과 협력을 확대하며, 지속적으로 ASF 2.0을 개선할 계획이다. 네이버는 이번에 공개된 ‘AI 세이프티 프로그레스 리포트’와 안전성 관리 체계를 통해 서비스 개발 과정부터 철저한 점검을 수행하고 있어요. 🏢📋 기업들은 인공지능 기술의 성능뿐만 아니라 잠재적 위험 요소를 사전에 걸러내고 서비스 품질을 높이기 위한 구체적인 실행 체계를 마련하는 데 집중하고 있답니다. 시장에서 인공지능 기술의 안정성과 신뢰성을 높이기 위한 민간 차원의 자발적인 안전 보고서 발간이 이어지고 있어요.