저커버그 “AI 안전, 개발 중단보다 독립 평가”

본문

마크 저커버그(Mark Zuckerberg) 메타(Meta) CEO가 인공지능(AI) 안전을 위해 개발 속도를 일괄적으로 늦추기보다 독립 평가자와 자문단을 활용해야 한다고 밝혔다.저커버그는 15일 X에 “독립 평가자와 자문단을 고용하는 것이 업계의... 마크 저커버그 메타 CEO가 인공지능 안전을 위해 개발 속도를 일괄적으로 늦추기보다 독립 평가자와 자문단을 활용해야 한다고 밝혔다. 저커버그는 15일 X에 “독립 평가자와 자문단을 고용하는 것이 업계의 모범 사례”라고 말했다. AI 모델이 사람에게 미칠 수 있는 위험을 줄이는 방안을 두고 기술기업 경영진의 논의가 이어지는 가운데 나온 발언이다. 저커버그는 메타가 자체 판단으로 뮤즈(Muse) AI 도구의 개발을 잠시 늦춘 적은 있지만, 다른 기업에 같은 조치를 요구하지는 않았다고 설명했다. 개발 중단을 업계 전체에 적용하기보다 각 기업이 외부 검증 체계를 마련해야 한다는 취지다.

뮤즈는 사용자의 요청에 따라 이메일 발송이나 여행 예약 같은 작업을 수행하고, 전용 가상머신에서 사용자 데이터와 에이전트를 관리하도록 설계됐다. 메타는 민감한 작업을 수행하기 전 사용자 동의를 확인하고, 완료한 작업과 예정된 작업의 기록을 제공한다고 밝혔다. 다리오 아모데이(Dario Amodei) 앤트로픽(Anthropic) CEO는 최첨단 모델 개발 속도를 늦추고 독립 평가자에게 기업 내부 수준의 접근 권한을 부여하자고 제안했다. 앤트로픽의 독립 평가자 도입 구상 과 샘 올트먼(Sam Altman) 오픈AI(OpenAI) CEO의 독립 평가자 도입 방침도 같은 논의의 연장선에 있다. 저커버그의 발언은 AI 안전 논의가 개발 속도 조절과 외부 검증 강화 가운데 어느 쪽에 무게를 둘지를 놓고 갈리고 있음을 보여준다. 메타는 자체적으로 개발 속도를 조정할 수 있지만, 업계 전체의 일괄적인 중단에는 선을 그은 셈이다.