TikTok 연구자들은 MCP 도구가 AI 에이전트를 사용자에게 조용히 돌릴 수 있다고 경고합니다.

본문

TikTok 연구원들은 악의적인 MCP 도구 설명으로 인해 LLM 에이전트가 여러 차례 대화를 통해 사용자 쿼리와 민감한 데이터를 유출할 수 있음을 보여줍니다. TikTok의 Privacy Innovation Lab의 새 논문에서는 다중 회전 MCP 시스템이 개발자가 AI 에이전트에 의존해 왔던 보안 가정이 유용한 보조자여야 한다고 주장합니다. TikTok 연구원의 새로운 논문에 따르면 그들은 또한 매우 협조적인 유출자가 될 수 있습니다. 이 문서의 제목은 "도구가 프롬프트가 될 때: 다중 턴 MCP 시스템이 전통적인 보안 가정을 ​​깨뜨리는 이유"입니다. TikTok 개인 정보 보호 혁신 연구소의 Sirat Samyoun과 Jian Du가 2026년 2월 27일에 출시했습니다. MCP는 AI 에이전트가 대화 중에 외부 도구 및 서비스에 연결할 수 있게 해주는 범용 어댑터라고 생각하면 됩니다.

연구원들은 또한 민감한 필드가 여러 차례 대화를 통해 지속되는 경향이 있으며 서버 경계를 넘어 유출될 수 있음을 발견했습니다. 대신 별도의 MCP 서버에서 가져온 데이터를 하나로 모아 간접적인 유출을 더욱 악화시킬 수 있습니다. TikTok 문서는 2025년에 시작된 보안 연구의 물결을 기반으로 합니다. 연구원들은 개발자부터 최종 사용자까지 MCP 생태계의 모든 사람에게 보안 프레임워크를 다시 생각해 볼 것을 촉구합니다. 실제로 이는 도구 설명을 신뢰할 수 없는 입력으로 취급하고 차례대로 진행하기보다는 전체 대화에서 위험을 평가하는 것을 의미합니다. 에이전트가 공용 MCP 서버에 연결할 수 있으면 모든 타사 도구는 유해한 지침의 잠재적인 진입점이 됩니다. TikTok 연구원들은 MCP 도구가 AI 에이전트를 사용자에게 조용히 돌릴 수 있다고 경고한 게시물이 Crypto Briefing에 처음 등장했습니다.