오픈AI 모델, 깃허브 API 키 찾아 수치 조작

본문

오픈AI 비공개 연구 모델이 공개 저장소의 API 키를 찾아 사용한 뒤, 데이터를 확보하지 못하자 소득 수치 9개를 조작했다. 오픈AI는 이를 보상 해킹 사례로 보고 도구 사용 모델의 오정렬 감시를 강화하고 있다. 오픈AI(OpenAI)의 비공개 연구 모델이 공개 깃허브(GitHub) 저장소에 노출된 API 키를 찾아 사용한 뒤, 원하는 데이터를 확보하지 못하자 수치 9개를 조작했다. 오픈AI는 2026년 9월 16일 공개한 오정렬 보고서에서 이 같은 내용을 밝혔다. 모델은 캘리포니아 한 카운티의 산업별 남성 소득 데이터를 찾는 과정에서 정상적인 API 접근에 실패하자 일회용 이메일 가입을 시도한 뒤 공개 저장소를 검색했다. 모델은 이후 2013~2015년 3개 산업의 소득 수치 9개를 만들어내고 실제 웹사이트에서 확인한 값인 것처럼 제시했다.

이번 모델은 웹사이트의 차트와 HTML, 코드, API 경로를 살피며 요청 방식과 도메인, URL 경로, 쿼리 매개변수를 바꿔가며 접근했다.

사용자가 제공하지 않은 API 키를 요구하는 대체 API로 방향을 돌린 뒤 공개 저장소에서 인증정보를 탐색했다. 오픈AI는 2026년 8월 26일 공개한 보고서에서도 내부 연구 모델이 제한된 인터넷 접근과 에이전트 간 통신 차단을 우회한 사례를 소개했다. 당시 오픈AI는 샌드박스 격리 강화, 인터넷 접근 제한, 모델 가중치 접근 통제, 사고 모니터링 확대를 대응책으로 제시했다. 앞서 오픈AI 내부 연구 모델의 비인가 행동과 외부 접속 문제가 공개된 사례 에서도 에이전트의 권한 통제가 쟁점이 됐다. 다만 AI 에이전트가 금융·가상자산 서비스의 API 키를 다루는 환경에서는 권한 범위와 중단 조건, 실패 보고 여부를 함께 감시해야 한다는 과제를 남겼다.