오픈AI·앤트로픽·구글, AI 안전 협의…공식 합의는 아직

본문

세 회사가 출시 전 평가와 독립 검증, 사고 보고 체계를 논의했지만 공동 기준이나 공식 협약은 발표하지 않았다. 오픈AI와 앤트로픽, 구글 딥마인드가 인공지능(AI) 안전 기준을 놓고 수주간 협의했지만 공동 기준이나 공식 협약을 발표하지는 않았다. 크리스 레헤인(Chris Lehane) 오픈AI 글로벌 정책 책임자는 15일 블룸버그 법률 보도에서 앤트로픽 및 구글 딥마인드와 안전 협의가 수주간 진행됐다고 밝혔다. 아모데이는 프런티어 AI 모델의 성능 개선 속도를 조절하고 민주주의 국가의 AI 기업들이 공통 안전 기준을 마련해야 한다고 주장했다. 오픈AI도 독립 감사, 중대한 안전사고 보고, 위험평가 결과 공개를 프런티어 AI 안전 체계의 핵심 요소로 제시해왔다. 크리스 레헤인은 오픈AI 공식 글에서 독립적이고 객관적인 감사와 사고 보고가 필요하다고 밝혔다.

앤트로픽과 오픈AI, 구글, 마이크로소프트($MSFT)는 2023년 프런티어 모델 포럼을 출범시켰다.

포럼은 AI 안전 연구와 표준화된 평가, 모범 사례 공유를 목표로 삼았다. 이번에 보도된 협력 대상에는 마이크로소프트가 포함되지 않았고 구글 측의 별도 공식 발표도 나오지 않았다. 샘 알트먼(Sam Altman) 오픈AI CEO는 X에서 AI 개발 속도를 조절해야 한다는 아모데이의 주장에 동의하며 오픈AI 내부에서도 관련 논의가 진행 중이라는 취지의 반응을 보인 것으로 수집됐다. 반면 일부 업계 비평가들은 선도 기업들이 안전 기준을 직접 정하면 후발 기업의 진입을 어렵게 하거나 규제 포획으로 이어질 수 있다고 지적했다. 레헤인은 안전 협력에 별도 반독점 면제가 필요하지 않다고 밝혔지만, 실제 협력 범위와 기준의 구속력에 따라 규제 논의가 달라질 수 있다.