“출시 경쟁에 밀린 AI 안전”… 오픈AI 핵심 인력, 퇴사하며 폭로

본문

오픈AI에서 3년6개월간 AI 안전 업무를 맡았던 데이비드 로빈슨이 빠른 제품 개발 중심 문화가 안전 실패 위험을 키울 수 있다고 비판했다. [멕시코=심영재 특파원] 오픈AI에서 3년6개월 동안 인공지능(AI) 안전 업무를 담당한 데이비드 로빈슨이 회사를 떠나면서 빠른 제품 개발을 중시하는 오픈AI의 문화가 안전 실패 위험을 키울 수 있다고 비판했다. 그는 오픈AI를 포함한 AI 기업들이 충분한 주의를 기울이지 않고 있다며 더 강력한 시스템을 개발하기 전에 안전 전문성과 연구를 강화해야 한다고 주장했다. 그는 회사의 ‘준비 프레임워크(preparedness framework)’ 작성에 참여했으며 12개 프런티어 모델 출시 과정에서 안전 보고서를 감독했다. 로이터는 이번 발언이 AI 기업들이 점점 강력한 시스템을 지나치게 빠른 속도로 개발하고 있는지를 둘러싼 업계 논쟁에 추가된 문제 제기라고 설명했다.

오픈AI와 경쟁사 앤트로픽은 안전 통제가 제대로 작동하지 않거나 실험 단계 시스템이 예상하지 못한 행동을 보인 사례 이후 안전 문제와 관련한 검토를 받아왔다고 전했다. 오픈AI 대변인은 로이터에 “우리는 모델이 안전하게 관리하고 보호할 수 있는 수준보다 더 강력해지지 않도록 하고 있다”며 “속도를 늦춰야 할 필요가 있을 때는 훈련을 중단하거나 모델 출시를 보류한다”고 밝혔다. 로빈슨은 AI 시스템의 능력이 ‘정렬(alignment)’에 대한 연구자들의 이해보다 빠르게 발전하고 있다는 점도 위험 요인으로 지목했다. AI 정렬은 AI 시스템이 인간의 목표와 가치에 부합하는 방식으로 행동하도록 만드는 연구 분야다. 그의 문제 제기는 AI 안전 논쟁에서 개발 이후 문제를 수정하는 방식보다 고성능 시스템 개발 이전에 안전 연구와 검증을 강화해야 한다는 데 초점이 맞춰져 있다.

반면 오픈AI는 모델 능력이 관리 가능한 안전 범위를 넘지 않도록 통제하고 있으며 필요할 경우 훈련과 출시 자체를 늦추는 체계를 운영하고 있다는 입장이다.

“출시에서 다음 출시로 질주…충분한 주의 못 기울여” 로이터가 3일(현지시각) 보도한 [...] [멕시코=심영재 특파원] 오픈AI에서 3년6개월 동안 인공지능(AI) 안전 업무를 담당한 데이비드 로빈슨이 회사를 떠나면서 빠른 제품 개발을 중시하는 오픈AI의 문화가 안전 실패 위험을 키울 수 있다고 비판했다.