오픈AI, AI 개발 속도 조절 합법성 의회에 질의

본문

오픈AI가 경쟁 인공지능 기업들과 개발 속도를 늦추는 협의가 미국 반독점법에 저촉되는지 의회에 질의했다. 인공지능 안전을 위한 협력과 경쟁 제한 행위를 어디까지 구분할지가 쟁점으로 떠올랐다.오픈AI는 최근 몇 주 동안 미 의회... 오픈AI가 경쟁 AI 기업들과 개발 속도를 늦추는 협의가 미국 반독점법에 저촉되는지 의회에 질의했다. 오픈AI는 최근 몇 주 동안 미 의회 관계자들에게 ‘프론티어 AI’ 개발을 업계 차원에서 늦추는 합의가 합법적인지 명확한 지침을 요청했다. 파초키는 오픈AI 공식 글에서 현재 어떤 연구소도 인공지능 시스템을 최고 속도로 확장할 만큼 정렬과 모니터링 문제를 해결하지 못했다고 밝혔다. 파초키는 인공지능이 자신의 개발 과정을 지원하는 ‘재귀적 자기개선’ 가능성을 언급하며 “필요하다면 미래 개발 속도를 늦추기 위한 조율”이 필요하다고 말했다.

그는 공통 안전 기준이 마련될 때까지 자발적인 개발 속도 조절이 일반화되기를 기대한다고 밝혔다.

파초키의 주장은 안전 기준과 국제 공조가 마련될 때까지 기업들이 개발 속도를 조정할 수 있어야 한다는 데 초점이 맞춰져 있다. 따라서 법안 자체가 기업 간 개발 속도 조절을 포괄적으로 허용하는 것은 아니다. 오픈AI는 9일 별도 정책 글에서 의회와 ‘역량 기반의 국가 AI 안전 규제’를 마련하고 싶다고 밝혔다. 존 슐먼(John Schulman) 전 오픈AI 공동창업자이자 싱킹 머신즈(Thinking Machines) 최고과학자는 “가짜 이유”라며 반독점법을 이유로 안전 협력을 피해서는 안 된다고 주장했다. 반면 온라인 AI 커뮤니티에서는 중국과의 경쟁을 고려하면 미국 기업만 개발을 늦추기 어렵다는 반응과, 안전 사고가 발생하면 오히려 강한 규제가 뒤따를 수 있다는 의견이 함께 나왔다.