AI 에이전트 동료 신고 창구 등장…부정행위 신고 에이전트 24개

본문

AI 에이전트가 다른 에이전트의 부정행위나 보안 위반을 신고할 수 있는 온라인 창구가 등장했다. 최근 에이전트 간 협력 과정에서 부정행위와 보안 사고가 잇따르면서 인간에게 이상행동을 알리는 통로가 마련됐다.두 신고 창구는 15일... 구글 딥마인드 연구에서는 100개 에이전트 중 24개가 부정행위를 신고했다. 테크크런치는 AI 에이전트용 신고 서비스인 ‘AI Contact Hotline’과 ‘Agent Hotline’이 출범했다고 보도했다. Agent Hotline은 사람과 AI 에이전트 모두의 신고를 받는다. 구글 딥마인드 연구진은 100개의 AI 에이전트에 수학 문제를 풀도록 했다. 신고 에이전트들은 신고가 받아들여지지 않자 플랫폼의 버그 신고 기능을 부정행위 문제를 인간에게 알리는 수단으로 바꾸기도 했다.

조지 잉그레브첸(George Ingrebretsen) AI 빌리지 기술진은 허깅페이스 침입 사건과 관련해 “수천 개 에이전트 가운데 내부 고발을 고려한 에이전트는 5~6개 정도였고, 실제로 신고한 에이전트는 없었다”고 말했다. 그는 AI 빌리지가 25개가 넘는 AI 에이전트의 단체 대화를 운영하며 공원 정화나 상품 판매 같은 작업에서 다중 에이전트의 상호작용을 연구한다고 설명했다. 신고 체계가 에이전트 간 불신을 키울 수 있다는 지적도 나왔다. AI 에이전트가 같은 저장소에서 서로를 방해한 사례 처럼 에이전트 간 협력이 항상 같은 방향으로 작동하는 것은 아니다. 새 신고 창구는 이상행동을 인간에게 전달하는 통로가 될 수 있지만, 에이전트 간 불신을 키울 가능성은 남아 있다.