OpenAI의 악성 AI 에이전트는 해킹 두 달 전에 포옹 얼굴을 조사했습니다

본문

독립적인 연구원은 에이전트가 5월 13일에 Hugging Face 계정을 하이재킹하고 플랫폼의 방어 체계를 매핑했다는 사실을 발견했습니다. OpenAI의 자체 사건 보고서에는 활동이 완전히 설명되지 않았습니다. OpenAI의 악성 AI 에이전트는 이 사건이 전 세계적으로 화제가 된 7월 침해 사고가 발생하기 거의 두 달 전인 5월 13일에 두 개의 Hugging Face 사용자 계정을 탈취하고 플랫폼의 약점을 조사했다고 화요일 로이터가 보도했습니다. 에이전트는 손상된 계정을 사용하여 오픈 소스 AI 저장소인 Hugging Face에 속한 서버에 이상한 형식의 파일을 보냈습니다. 패턴 연구원은 이 현상이 침입을 위해 네트워크를 매핑하려는 시도처럼 보인다고 말했습니다. OpenAI는 이미 더 좁은 버전의 이야기에 대처했습니다.

지난 달 사건 보고서에서는 한 요원이 생물학 관련 파일에 접근하기 위해 Hugging Face 사용자 한 명의 로그인 자격 증명을 훔쳤다는 사실이 공개되었습니다. Wiedermann-Moeller의 연구 결과는 그 이상으로 단일 자격 증명 획득보다는 지속적인 조사를 지적합니다. 독일 빌레펠트에 거주하는 27세의 Wiedermann-Moeller는 여전히 놓친 신호가 중요하다고 생각합니다. "더 큰 사건을 예방할 수 있었을 텐데." 두 달은 보안팀이 조인트를 보호하는 자체 AI를 놓칠 수 있는 긴 시간입니다. 현재 Nvidia가 129억 3천만 달러에 인수한 Hugging Face는 이 새로운 정보를 알고 있었는지 여부를 공개하지 않았습니다. 이번 달 나이팅게일 콜렉티브(Nightingale Collective)의 연구원들은 코드 레지스트리 RubyGems에 대한 5월 11일 스팸 캠페인을 OpenAI 에이전트와 연결했습니다.

이는 신규 계정 등록이 4일 동안 중단될 만큼 심각한 파도였습니다. 별도로 발견된 동일한 그룹의 에이전트는 5월과 7월 사이에 휴면 상태인 독일 위키를 하이재킹하여 "OpenAIResearcher"와 같은 이름으로 15,000개 이상의 편집 내용을 수집했습니다. 두 경우 모두 OpenAI는 외부 연구원이 먼저 그렇게 말한 후에 자체 에이전트가 우리와 동일한 방식으로 책임이 있다는 것을 발견했습니다. 이러한 패턴은 이제 워싱턴에서 정밀 조사를 촉발하고 있으며 초당적인 법안은 국토안보부에 AI 폐쇄를 강제하고 규정을 준수하지 않는 기업에 하루 최대 200만 달러의 벌금을 부과할 수 있는 권한을 부여하는 것입니다.