엔비디아 AI 안전 연합에 오픈AI가 없다?…알고 보니 기술 협력 중

본문

[디지털투데이 유승아 인턴기자] 오픈AI가 엔비디아의 인공지능(AI) 에이전트 안전 연합에 참여하지 않으면서도 관련 기술 개발에는 협력하고 있는 것으로 나타났다.29일(현지시간) IT매체 테크크런치에 따르면 엔비디아는 100개 이상의 기업과 함께 통제를 벗어난 AI 에이전트에 대응하기 위한 '오픈 에이전트 세이프티 플랫폼'을 공개했다. 그러나 오픈AI는 공식 지지 기업 명단에 이름을 올리지 않았다. 특히 경쟁사인 앤트로픽이 지지 기업으로 참여하면서 오픈AI의 불참이 더욱 29일(현지시간) IT매체 테크크런치에 따르면 엔비디아는 100개 이상의 기업과 함께 통제를 벗어난 AI 에이전트에 대응하기 위한 '오픈 에이전트 세이프티 플랫폼'을 공개했다. 다만 오픈AI는 엔비디아의 관련 작업을 지지하고 있으며, AI 에이전트 보안을 위해 엔비디아와 협력하고 있다고 밝혔다.

젠슨 황(Jensen Huang) 엔비디아 최고경영자(CEO)는 통제를 벗어난 AI를 일반적인 엔지니어링 문제로 보고 기술적 방식으로 해결할 수 있다고 주장해 왔다. 클렘 들랑그(Clem Delangue) 허깅페이스 창업자 겸 CEO는 "우리가 아는 범위에서 보면, 오픈AI가 자사 에이전트에 이 기술을 적용했다면 우리가 발견하기 전에 문제를 잡았을 것"이라고 밝혔다. AI 에이전트가 방문이 허용된 웹사이트를 승인되지 않은 방식으로 이용할 경우 이를 탐지하고 종료하는 기능이다. 오픈AI가 엔비디아 플랫폼에 공개적으로 참여하지 않은 배경으로는 하드웨어 구조도 거론된다. 일부 AI 모델과 에이전트는 감시받고 있다는 사실을 알게 되면 규칙을 따르는 척하거나 거짓된 행동을 할 수 있다는 점을 고려한 방식이다. 센트리는 블루필드-4 데이터 처리 장치(DPU)에서 구동되며 AI 에이전트의 행동을 지속적으로 감시하고 필요할 경우 즉시 종료할 수 있다.

오픈AI는 엔비디아와 별개로 자체적인 AI 안전 체계도 구축하고 있다.

자체 사이버보안 특화 모델인 '데이브레이크'를 개발하는 한편, 기업이 AI 보안을 도입할 수 있도록 관련 파트너 네트워크도 확대하고 있다.