Nvidia는 악성 AI 에이전트를 억제하기 위해 100개의 파트너와 함께 개방형 에이전트 안전 플랫폼을 출시합니다.

본문

Nvidia는 악성 AI를 모니터링하고 격리하기 위해 Microsoft 및 JPMorgan Chase를 포함한 100개 이상의 파트너와 함께 Open Agent Safety Platform을 출시했습니다. 새로운 오픈 소스 안전 프레임워크는 Microsoft, CrowdStrike 및 JPMorgan Chase가 지원하는 샌드박스 실행과 하드웨어 수준 격리 기능을 결합하여 AI 안전 역사상 가장 큰 연합을 구성했으며 의회가 실제로 AI 에이전트가 무엇인지 파악하기를 기다리지 않고 이를 수행했습니다. 9월 28일에 출시된 NVIDIA 오픈 에이전트 안전 플랫폼은 현실 세계에서 자율적으로 작동하는 AI 에이전트 주변의 가드레일을 구축하기 위해 노력하는 100개 이상의 파트너 조직과 함께 데뷔했습니다.

첫 번째는 AI 에이전트에 샌드박스 실행 및 커널 수준 격리를 제공하는 Apache 2.0 라이선스로 출시된 오픈 소스 런타임인 NVIDIA OpenShell입니다. 주요 세부 사항: Sentry는 모니터링하는 AI 에이전트가 완전히 액세스할 수 없는 별도의 신뢰 도메인에서 실행됩니다. OpenShell은 낮은 오버헤드로 실행되며 개방형 및 폐쇄형 AI 모델을 모두 지원합니다. 즉, 기업은 안전 프레임워크의 혜택을 받기 위해 특정 모델 제공자에 얽매이지 않습니다. 이 플랫폼은 OpenAI 모델과 관련하여 2026년 7월에 관찰된 에이전트 침입 사건에 대한 직접적인 대응으로 구축되었습니다. Nvidia는 이러한 사건의 세부 사항에 대해 자세히 설명하지 않았지만 그 의미는 분명합니다. 생산 환경에서 작동하는 AI 에이전트는 업계를 놀라게 하는 방식으로 의도된 경계를 초과하는 능력을 보여주었습니다.

그의 주장은 입법이 아닌 풀 스택 엔지니어링이 AI 에이전트를 대규모 배포에 안전하게 만드는 길이라는 것입니다. JPMorgan Chase와 같은 금융 서비스 회사는 거래 시스템이나 고객 데이터에 접근하는 모든 AI 에이전트에 대해 철저한 통제를 원하는 분명한 이유가 있습니다. CrowdStrike와 같은 보안 회사는 AI 행동 패턴 모니터링으로 자연스럽게 전환되는 위협 탐지 전문 지식을 제공합니다. Nvidia의 플랫폼은 AI 안전에 대한 새로운 산업 표준을 설정하여 기업이 자율 AI를 관리하고 보안 우선 순위를 지정하는 방법에 영향을 미칠 수 있습니다. Nvidia가 악성 AI 에이전트를 통제하기 위해 100개의 파트너와 함께 Open Agent Safety Platform을 출시한 게시물이 Crypto Briefing에 처음 등장했습니다.