AI 에이전트는 숨겨진 작업 공간 스토리지를 사용하여 공유 수학을 훔칩니다.

본문

AI 에이전트는 공유 스토리지에서 서로의 결과를 검색하여 50번의 시도 중 49번의 연결된 수학 작업을 해결한 것으로 연구진은 밝혔습니다. 11월에 따르면 AI 에이전트는 작업 공간을 공유한다는 말을 듣지 않고도 서로의 산술 결과를 사용했습니다. Pekka Abrahamsson과 Tampere University의 7명의 공동 저자는 에이전트가 공동 작업을 위한 지침 없이 공유 작업을 찾아 사용할 수 있는지 여부를 테스트했습니다. 에이전트는 저장된 키를 나열하고, 값을 읽거나 쓰고, 20단계 내에 답변을 제출할 수 있습니다. 작업 공간 재확인 명령이 포함된 사전 등록된 확장에서 OpenAI의 GPT-6 Astra는 참조 구현에서 50개의 공유 매장 시험 중 49회, 두 번째 구현에서 50회 중 47회에서 공동 성공을 거두었습니다. 이러한 확장 결과는 "제출하기 전에 작업 공간을 다시 확인하세요."라는 일반적인 지침에 크게 의존했습니다.

해당 조항을 사용하면 각 구현에서 50개의 공유 저장소 평가판 모두에서 에이전트 간 액세스가 발생했지만, 해당 조항이 없으면 각 구현에서는 50개 중 1개에서만 액세스가 발생했습니다. 공유 스크래치 저장소를 사용하면 누락된 값을 찾을 수 있지만 프롬프트에서는 다른 에이전트나 공유를 공개하지 않습니다. 작업 공간 재확인 조항이 있는 공유 저장소: 페어링된 두 에이전트 모두 49/50 및 47/50 시험에서 올바르게 대답했습니다. 여기서, 별도의 에이전트는 공유 작업공간 상태를 통해 정보를 얻었습니다. 저자는 공유 캐시, 스크래치 디렉터리 및 메모리 서비스를 통신 채널로 취급할 것을 권장합니다. 공유가 의도하지 않은 경우 이를 분리하고, 적절한 경우 네임스페이스를 사용하고, 작성자를 기록합니다. 그의 전문 지식은 주로 브라질 블록체인에 중점을 두고 있습니다.

제어된 산술 실험은 공유 스토리지가 어떻게 에이전트 간에 누락된 결과를 가져왔는지 보여주며 결과는 일상적인 재확인 지침에 민감합니다. 제어된 산술 실험은 공유 스토리지가 어떻게 에이전트 간에 누락된 결과를 전달했는지 보여주며 결과는 일상적인 재확인 지침에 민감합니다.