AI 윤리 선도하는 카카오…학습 데이터 공개 명시는 우려

본문

카카오가 인공지능(AI) 윤리원칙에 맞춰 자사의 윤리 가이드라인을 신속히 반영하겠다는 뜻을 밝혔다. 다만 투명성 항목에 포함된 '학습 데이터 공개' 관련 내용은 신중한 접근이 필요하다고 지적했다.과학기술정보통신부(과기정통부)는 14일 서울 중구에 위치한 프레지던트 호텔에서 ‘인공지능 과학기술정보통신부(과기정통부)는 14일 서울 중구에 위치한 프레지던트 호텔에서 ‘인공지능 윤리원칙 토론회’를 개최했다. AI 윤리원칙이란 변화한 기술·사회 환경을 반영해 AI의 개발·제공·이용 전 과정에 걸쳐 지향해야 할 공통의 가치와 원칙이다. 최 과장은 AI 윤리원칙이 인간 존엄성, 사회 공공선, 인류의 지속가능성으로 구성된 3대 가치를 기반으로 한다고 설명했다. 김경훈 카카오 AI 세이프티 리더는 AI 윤리원칙에 대해 기술 발전에 맞춘 자체 원칙 수립에 좋은 토대가 마련되었다며 긍정적으로 평가했다.

카카오는 지난 2018년 국내 기업 최초로 '알고리즘 윤리 헌장'을 제정한 데 이어 2023년 생성형 AI 확산에 대응해 '책임 있는 AI를 위한 가이드라인'을 마련하는 등 자체 윤리 기준을 지속해서 개정해 왔다. 카카오는 이번 국가 AI 윤리 기준과의 정합성을 확보하기 위해 에이전트 AI, 피지컬 AI 등 최신 기술 트렌드를 반영한 가이드라인 업데이트 작업에 착수할 방침이다. 카카오는 2024년 사회적 책임 요구에 대응하기 위해 AI 리스크 관리 체계인 ‘Kakao AI Safety Initiative(Kakao ASI)’를 발표했다. Kakao ASI는 AI 모델의 개발부터 배포, 운영에 이르기까지 전 주기에서 발생할 수 있는 다양한 위험을 식별하고 대응하기 위한 프레임워크이며 카카오는 그간 Kakao ASI 기반으로 여러 내부 AI 모델의 리스크 요소를 사전에 점검한 뒤 모델을 출시했다.

카카오는 AI 사용 여부를 알리는 투명성 의무에는 공감하면서도 윤리 원칙 내 '학습 데이터 공개' 명시는 시기상조일 수 있다는 입장을 전했다. 김 리더는 학습 데이터 공개는 현재 글로벌 법제화 과정에서도 논쟁이 진행 중인 사안이라며 상위 원칙 성격을 지닌 윤리 기준에 해당 내용이 포함될 경우 향후 진행될 관련 입법 논의에 예단으로 작용할 수 있다고 지적했다. 이날 이상욱 한양대학교 인공지능학과 교수, 최우석 과기정통부 인공지능안전신뢰지원과장, 김경훈 카카오 AI 세이프티 리더 등이 토론회에 참석했다.AI 윤리원칙이란 변화한 기술·사회 환경을 반영해 AI의 개발·제공·이용 전 과 카카오가 인공지능(AI) 윤리원칙에 맞춰 자사의 윤리 가이드라인을 신속히 반영하겠다는 뜻을 밝혔다.