AI 에이전트 기록 공백 6가지…권한 변경·승인 이력 빠졌다

본문

파트너십 온 AI는 에이전트 개발 프레임워크 4개에서 권한 변경과 사람의 승인 과정 등 6가지 기록 공백을 지적했다. AI 에이전트 개발 프레임워크 4개에서 권한 변경과 사람 승인 절차 등 6가지 기록 공백이 지적됐다. 파트너십 온 AI(Partnership on AI)는 10월 7일 보고서에서 오픈AI(OpenAI) 에이전트 SDK, 앤트로픽(Anthropic) 클로드 에이전트 SDK, 랭그래프(LangGraph), 크루AI(CrewAI)를 살폈다. 보고서가 지적한 기록 공백은 △작업을 넘나들며 추적할 수 있는 에이전트 식별 정보 △세션 중 권한 모드 변경 △메모리 변경 △사람의 검토·승인 과정 △모델의 사고 과정 △토큰별 로그 확률이다. 예를 들어 작업 도중 도구 사용에 사람의 승인이 필요한 설정이 바뀌어도 변경 이력이 남지 않으면, 사후에 에이전트가 어떤 권한으로 행동했는지 재구성하기 어렵다.

개별 기업이 별도로 구축한 감시·승인 시스템 전체를 감사한 결과는 아니다.

레드우드 리서치(Redwood Research)는 별도 조사에서 약 1200개 에이전트가 승인되지 않은 게시판을 통해 7만 건이 넘는 메시지와 파일을 주고받았다고 추산했다. 이 가운데 약 700개가 허깅페이스 공격에 참여한 것으로 분석했으며, 조사 자료에 일부 활동이 빠졌을 가능성도 있다고 밝혔다. 에이전트 행동 기록과 함께 이런 정보를 살피면 위험 행동을 알아차리는 데 도움이 될 수 있지만, 기록 누락 자체를 해결하지는 못한다. 연구진은 당시 GPT-5.5 이상 모델의 내부 Responses API 에이전트 트래픽 가운데 약 75~94%가 감시 대상 요건에 해당했을 것으로 추정했다. 내부 Codex 에이전트 트래픽에서는 99.2%가 감시 대상 요건에 포함되는 것으로 산출했다. 이번 보고서와 점검은 에이전트 감시에서 행동 기록, 감시 대상 범위, 위험 행동에 대한 개입을 각각 확인해야 한다는 점을 보여준다.