저커버그 “AI 안전은 기업별 책임”…공동 감속론에 선 그어

본문

마크 저커버그 메타 CEO가 인공지능 개발을 업계 전체가 함께 늦출 필요는 없다고 밝혔다. 메타는 안전과 보안 강화를 위해 AI 에이전트 Muse 출시를 수개월 늦춘 사례를 제시했다. 마크 저커버그(Mark Zuckerberg) 메타(Meta·$META) CEO가 인공지능(AI) 개발을 업계 전체가 함께 늦출 필요는 없다고 밝혔다. 각 AI 기업이 안전 확보에 필요한 속도를 스스로 정하고, 필요하면 자체적으로 개발을 늦춰야 한다는 입장이다. 저커버그는 16일 소셜미디어에 “각 연구소는 모델을 안전하게 훈련하는 데 필요한 속도로 움직일 책임과 동기를 갖고 있으며, 이를 위해 자체 조치를 취할 능력도 있다”고 썼다. 그는 메타가 AI 에이전트 ‘Muse’ 출시를 안전과 보안 강화를 위해 수개월 늦췄다고 설명했다. AI 시스템이 피해를 일으킬 경우 기업이 법적 책임을 질 수 있다는 점도 안전 투자의 동기로 제시했다.

아모데이는 최첨단 AI 모델의 능력 발전 속도를 안전 연구가 따라갈 수 있는 수준으로 낮추고, 외부 평가자가 장기간 내부에 접근할 수 있도록 하자고 주장했다. 저커버그는 기업별 안전조치와 경쟁을, 아모데이는 업계 공동 속도 조절과 외부 검증을 강조했다. 아모데이는 공동 감속과 상시 외부 검증을 강조한 반면, 저커버그는 각 기업이 독립적으로 출시를 늦추고 외부 평가를 받을 수 있다고 봤다. 저커버그는 AI가 스스로 다음 세대 모델을 개선하는 재귀적 자기개선에 대부분의 컴퓨팅 자원을 투입하기보다, 사람의 목표를 수행하는 데 자원을 써야 안전성을 높일 수 있다고도 밝혔다. 머스크는 별도 행사에서 오픈AI(OpenAI), 앤트로픽, xAI, 구글(Google), 메타 등 주요 AI 기업이 출시 전 서로의 모델을 시험해야 한다고 주장한 바 있다.