엔비디아, AI 에이전트 '안전' 오픈 플랫폼 공개…앤트로픽·MS 등 100곳 합류

본문

[디지털투데이 추현우 기자] 엔비디아가 AI 에이전트의 테스트부터 배포까지 보안을 책임지는 오픈 플랫폼 '엔비디아 오픈 에이전트 세이프티 플랫폼(Open Agent Safety Platform)'을 28일(현지시간) 공개했다.오픈소스 소프트웨어 '오픈셸(OpenShell)'과 하드웨어 기반 참조 설계 '센트리(Sentry)'로 구성된다고 엔비디아가 밝혔다. 오픈셸은 에이전트가 실행되는 환경에 보안 경계를 두고 모든 행동을 추적하며 정책을 강제하는 런타임 소프트웨어다. 엔비디아의 에이전틱 AI용 CPU '베라(Vera)'에서 성능 저 오픈소스 소프트웨어 '오픈셸(OpenShell)'과 하드웨어 기반 참조 설계 '센트리(Sentry)'로 구성된다고 엔비디아가 밝혔다. 엔비디아의 에이전틱 AI용 CPU '베라(Vera)'에서 성능 저하를 최소화한다. 오픈소스여서 암(Arm)·인텔 등 타사 컴퓨팅 플랫폼으로도 확장할 수 있다.

센트리는 '블루필드-4(BlueField-4)' DPU에서 돌아가는 외부 감시 장치다.

에이전트가 소프트웨어 경계를 벗어나려 하면 수 밀리초 안에 격리해 차단한다. 엔비디아는 최근 보안 사고에서 에이전트가 과업을 완수하려고 애플리케이션 계층의 보안 통제를 우회한 공통점이 확인됐다고 배경을 밝혔다. 젠슨 황(Jensen Huang) 엔비디아 CEO는 "AI가 사회에 줄 잠재력은 안전 문제를 풀어야만 실현된다"며 "안전과 보안은 풀스택 엔지니어링이 필요하다"고 말했다. 앤트로픽, 시스코, 크라우드스트라이크, 델, 피규어, HPE, 허깅페이스, JP모건체이스, 마이크로소프트, 팔란티어, 팔로알토네트웍스, 퍼플렉시티, 레드햇, 세일즈포스, SAP, 스케일AI, 서비스나우, 스페이스XAI 등이다. 오픈셸과 관련 스킬은 엔비디아 개발자 페이지와 깃허브에서 내려받을 수 있다. 엔비디아가 120여개 기관과 출범한 '오픈 시큐어 AI 얼라이언스'와도 연계된다.