오픈AI, RSI·사고보고 담은 국제 AI 기준 제안

본문

오픈AI가 재귀적 자기개선 측정과 AI 사고보고, 인간 감독을 포함한 국제 안전 기준 마련을 제안했다. 오픈AI가 재귀적 자기개선 측정과 AI 사고보고, 인간 감독을 포함한 국제 인공지능(AI) 안전 기준 마련을 제안했다. 각국이 공통된 평가·보고 체계를 갖춰 국경을 넘는 AI 위험에 공동 대응하자는 취지다. 오픈AI는 21일 공개한 정책 제안에서 AI 개발이 여러 기업과 국가로 확산하고 있다며 국가별 평가·보고 기준을 맞춰야 한다고 밝혔다. 기준이 엇갈리면 같은 AI 시스템의 위험을 비교하고 사고에 공동 대응하기 어렵다는 설명이다. 오픈AI는 미국 산하 인공지능표준·혁신센터(CAISI)가 2024년 출범시킨 국제 AI 측정·평가·과학 네트워크를 활용하자고 제안했다. 당시 오픈AI는 미국 의회가 역량 기반의 의무적 국가 AI 안전 규제를 마련하고, 미국 기준이 국제 기준을 이끄는 토대가 돼야 한다고 밝혔다.

AI 모델의 출시 허가나 의무적 사전심사를 정한 것도 아니며, 각국 정부가 국제 기준을 자국 법체계에 어떻게 반영할지 결정하는 구조다. SNS에서는 오픈AI가 규제를 요구하면서 동시에 기준 설계에 영향력을 행사하려 한다는 비판과, 대형 기업에 유리한 규제가 신규 경쟁자의 진입을 어렵게 할 수 있다는 주장이 제기됐다. AI 국제 안전 기준 논의는 오픈AI가 국가 차원의 AI 안전 기준 마련을 촉구해온 정책 방향과도 이어진다. 국내 기업에는 향후 국제 표준이나 각국 규제에 반영될 경우 AI 모델 개발·평가·사고보고 절차가 영향을 받을 수 있다. ◇ 재귀적 자기개선과 사고보고 첫 번째 논의 대상은 재귀적 자기개선(RSI)이다.