앤트로픽·오픈AI·구글 'AI 안전 연합' 움직임…독립성은 숙제

본문

[디지털투데이 Ai리포터] 앤트로픽과 오픈AI, 구글이 AI 모델을 평가할 공통 기준을 마련하기 위해 공동 표준기구 설립 방안을 논의하고 있는 것으로 전해졌다. 다만 구체적인 조직 형태나 출범 시점은 아직 공개되지 않았다.13일(이하 현지시간) 크립토폴리탄에 따르면 세 회사는 프런티어 AI 모델의 안전성을 공통 기준으로 평가할 업계 기구를 놓고 논의를 진행했다. 기준이 통일되면 기업이 고위험 업무에 AI를 도입할 때 모델별 안전 수준을 비교하기 쉬워질 수 있다. 반면 대형 AI 기업이 사실상 업계 규칙을 정할 경우 중소 연구소에는 13일(이하 현지시간) 크립토폴리탄에 따르면 세 회사는 프런티어 AI 모델의 안전성을 공통 기준으로 평가할 업계 기구를 놓고 논의를 진행했다. 반면 대형 AI 기업이 사실상 업계 규칙을 정할 경우 중소 연구소에는 새로운 진입장벽이 될 수 있다는 우려도 나온다.

논의의 배경에는 데미스 허사비스(Demis Hassabis) 구글 딥마인드 CEO가 지난 7월 제안한 '프런티어 AI 표준기구' 구상이 있다. 금융산업규제기구(FINRA)를 본뜬 업계 지원형 감독기구를 만들어 프런티어 모델을 출시 최대 30일 전 제출받고 사이버·생물학·기만 능력 등을 독립적으로 평가하자는 방안이다. 다리오 아모데이(Dario Amodei) 앤트로픽 CEO도 지난 12일 공개한 에세이 '프런티어 속도를 조절해야 한다'(We Must Pace the Frontier)에서 비슷한 방향을 제시했다. 외부 평가기관에 직원 수준의 지속적인 시스템 접근권을 주고, 민주주의 국가의 주요 AI 기업들이 공통 안전기준을 마련해야 한다는 주장이다. 앤트로픽·구글·마이크로소프트·오픈AI는 2023년 프런티어 모델 포럼을 중심으로 1000만달러(약 135억4100만원) 이상의 AI 안전기금을 조성했고, 독립 연구와 표준화된 모델 평가를 지원해 왔다.

EU에서도 앤트로픽·구글·마이크로소프트·오픈AI 등이 범용 AI 실천강령에 서명했다. 모델 접근권과 평가 전문인력, 국가안보 정보 관리, 중소 AI 기업의 비용 부담까지 해결하지 못하면 안전 표준이 오히려 기존 대형업체의 진입장벽으로 작용할 수 있다는 지적이다.