앤트로픽·오픈AI, AI 연구 자동화 확대…RSI는 선 그어

본문

앤트로픽과 오픈AI가 AI 모델을 활용한 연구개발 자동화를 확대하고 있다. 다만 인간의 목표 설정과 감독 없이 후속 모델을 설계·개발하는 재귀적 자기개선(RSI)은 아직 확인되지 않았다. 앤트로픽과 오픈AI가 인공지능(AI) 연구개발 과정에 AI 모델을 활용하는 수준을 높이고 있지만, 인간의 감독 없이 후속 모델을 설계·개발하는 재귀적 자기개선(RSI)은 아직 확인되지 않았다. 두 회사는 AI가 연구 과제의 일부를 수행하는 단계와 완전한 자율적 자기개선 사이에는 여전히 차이가 있다고 설명했다. 크립토 브리핑은 22일 소셜미디어 게시물과 공개 시장 자료를 바탕으로 앤트로픽과 오픈AI가 AI 모델을 더 작고 똑똑하며 저렴하게 만드는 과정에서 RSI에 가까워지고 있다고 분석했다. 인간이 연구 목표와 평가 기준을 정하고 AI가 코드 작성과 실험을 맡는 현재 단계는 RSI의 일부 요소를 포함하지만, 완전한 자율 개발과는 구분된다.

이 수치는 코드 작성과 병합 과정에서 AI 활용도가 높아졌다는 점을 보여주지만, 연구 방향을 AI가 독자적으로 정했다는 의미는 아니다. 앤트로픽은 클로드 기반 에이전트가 AI 안전과 관련한 개방형 연구 과제에서 가설을 세우고 실험을 설계한 사례를 공개했다. 오픈AI도 9월 공식 글에서 인간의 지시 아래 며칠이 걸리는 연구 과제를 수행하는 ‘자동화된 연구 인턴’ 목표에 도달했다고 밝혔다. 오픈AI가 공개한 연구 가속화 자료는 이 단계가 인간의 목표 설정과 감독을 전제로 한다고 설명했다. 최근 AI 모델 경쟁에서는 성능뿐 아니라 모델을 개발하는 과정의 자동화 수준도 중요하게 다뤄지고 있다. 앤트로픽과 오픈AI가 모델의 코드 작성, 실험 설계, 결과 평가에 AI를 투입하면서 연구자의 역할은 직접 실행보다 목표 설정과 검증에 가까워지고 있다.