오픈AI·앤트로픽, AI 개발 속도 조절 공감

본문

앤트로픽과 오픈AI가 프런티어 AI 개발 속도를 늦추고 외부 안전평가를 도입하는 방안에 공감했다. 오픈AI와 앤트로픽이 인공지능(AI) 모델 개발 속도를 조절하고 외부 평가기관의 안전 검증을 받는 방안에 공감했다. 다리오 아모데이(Dario Amodei) 앤트로픽 CEO는 12일 공개 글에서 “AI 모델의 능력을 향상하는 속도를 늦춰야 한다”고 말했다. 최근 AI 발전 속도가 빨라졌고, AI가 차세대 AI 개발을 돕는 능력까지 커졌다는 이유를 들었다. 아모데이는 개발 속도 조절이 AI 발전 중단을 뜻하는 것은 아니라고 설명했다. △외부 평가기관에 기업 내부 위험평가팀에 준하는 접근 권한 부여 △민주주의 국가의 AI 기업 간 공통 안전 기준과 개발 속도 제한 조율 △미국과 동맹국이 중국을 포함한 다른 국가와 위험한 AI 활용 제한 방안 논의다.

샘 알트먼(Sam Altman) 오픈AI CEO는 같은 날 X에서 “프런티어 AI의 속도를 조절해야 한다는 다리오의 의견에 동의한다”고 말했다.

AP통신은 알트먼이 속도 조절은 AI 발전을 멈추자는 뜻이 아니며, 안전 검증과 모니터링에 드는 비용을 감수하더라도 무리한 경쟁은 피해야 한다고 설명했다고 보도했다. 반면 마크 저커버그(Mark Zuckerberg) 메타 CEO는 각 기업이 자체적으로 안전한 개발 속도를 결정해야 한다며 공동 감속 논의와 거리를 뒀다. 젠슨 황(Jensen Huang) 엔비디아($NVDA) CEO도 별도 규제보다 기업별 안전 판단으로 혁신과 안전을 함께 달성할 수 있다고 주장했다. 이번 논쟁은 AI 개발 속도와 안전 확보를 둘러싼 업계의 견해 차이 를 다시 드러냈다. 이번 발언만으로 두 회사의 개발 일정이나 제품 출시 계획이 변경됐다고 단정하기도 어렵다.