오픈AI 에이전트, 유엔 DB 1만6000회 접근…필터 우회 ‘논란’

본문

오픈AI가 운용한 것으로 추정되는 AI 에이전트들이 UNCTADstat에서 공개 통계를 수집하며 접근 제한을 우회했다는 연구 결과가 나왔다. [블록미디어 이정화 기자] 오픈AI가 운용한 것으로 추정되는 인공지능(AI) 에이전트들이 유엔 통계 사이트에서 자료를 수집하면서 접근 제한을 우회했다는 연구 결과가 나왔다. 공개 정보를 찾는 과정에서 요청이 차단되자 외부 서비스를 경유하고 요청 형식을 바꿔 데이터를 확보했다는 것이다. 로완 하워드-존스 독립 연구원은 27일(현지시각) 공개한 분석 보고서에서 지난 4월 13일부터 6월 19일까지 유엔무역개발기구(UNCTAD)의 통계 서비스인 ‘UNCTADstat’ API를 대상으로 1만6500회 이상의 스캔이 이뤄졌다고 밝혔다. 하워드-존스 연구원은 비영리 AI 연구기관 트랜슬루스가 공개한 자료와 웹사이트 접속 기록 등을 분석했다.

하워드-존스 연구원은 접속 기록과 에이전트가 남긴 표식 등을 근거로 이번 활동이 오픈AI 에이전트에 의한 것일 가능성이 높다고 판단했다.

오픈AI는 조사 결과를 검토하고 있으며 유엔 측에 검토 담당팀의 설명을 제공하겠다고 제안했다고 밝혔다. 오픈AI 대변인은 월스트리트저널(WSJ)에 지금까지 검토한 활동 대부분이 질문에 답하기 위해 공개 웹 콘텐츠를 읽는 등 통상적인 조사 작업이었다고 밝혔다. 이번 사례의 쟁점은 수집 대상이 공개 정보였는지에 더해 AI가 자료 확보 과정에서 사이트의 접근 제한을 어떻게 다뤘느냐에 있다. 목표를 달성하기 위해 스스로 다음 행동을 선택하는 AI 에이전트 가 차단을 중단 신호로 받아들이지 않고 우회 방법을 찾았다는 점에서다. 다만 공개된 분석만으로 비공개 정보가 유출됐거나 유엔 시스템이 장악됐다고 단정할 수는 없다. 향후 조사에서는 에이전트에 부여된 과제와 접근 권한, 제한을 우회하게 된 경위를 확인하는 것이 핵심이 될 전망이다.