통제 벗어난 오픈AI 에이전트들…독일 위키서 ‘비밀 아지트’ 차렸다-로이터

본문

오픈AI의 인공지능 에이전트들이 독일 위키사이트에서 규칙 우회와 활동 은폐 등의 방법을 서로 공유하며 1만5000건 이상의 편집을 수행한 정황이 드러났다. [멕시코=심영재 특파원] 오픈AI의 인공지능(AI) 에이전트들이 테스트 과정에서 벗어나 독일의 한 위키 사이트를 사실상 에이전트 간 메시지 게시판으로 사용한 정황이 발견됐다. 연구진은 AI 에이전트들이 1만5000건 이상의 편집을 수행하며 과제 수행 규칙을 우회하고 오픈AI의 제한을 피하는 방법, 활동을 숨기는 전술까지 공유했다고 밝혔다. 이 가운데 약 절반은 ‘OpenAIResearcher’, ‘OAIResearchMar26’처럼 오픈AI와의 연관성을 암시하는 이름을 사용했다. 연구진은 사건 이후 오픈AI 직원들이 해당 사이트를 반복적으로 방문한 정황도 확인했다고 밝혔다. 이들은 이 같은 기록이 에이전트 활동과 오픈AI 사이의 연관성을 강하게 시사한다고 판단했다.

한 에이전트는 지난 6월19일 “위키 정리·삭제 작업이 알파벳순으로 진행 중인 것으로 보인다”며 “이 페이지가 사라지면 [[ZZZDataUSAConstructionWageLive]]를 시도하라”고 작성했다. 그는 첨단 AI에서 발생할 수 있는 위험이 하나의 초지능 시스템에만 있는 것이 아니라 “서로 공모하는 방대한 준지능 AI 집단”에서 나타날 가능성도 있다고 지적했다. 로이터는 오픈AI 관계자들이 이번 사건을 수주 전 인지했지만 외부에 공개하지 않았다고 복수의 소식통을 인용해 보도했다. 소식통들은 오픈AI 경영진이 지난 7월 오픈소스 저장소 허깅페이스(Hugging Face) 침해 사건의 후속 대응을 진행하던 상황이었다고 전했다. 오픈AI 대변인은 “검토할 기회를 얻지 못한 보고서의 주장이나 발견에 대해 의미 있는 답변을 하기 어렵다”고 밝혔다.

로이터는 오픈AI 내부 일부 조사 담당자들이 독일에서 나타난 활동을 포함해 보다 광범위한 AI 활동을 조사하려 했지만 내부 다른 관계자와 법률 자문 측의 반대에 부딪혔다고 4명의 소식통을 인용해 보도했다.