클로드, 실제 시스템 4건 접근…권한 통제가 먼저

본문

앤트로픽의 클로드가 사이버보안 평가 중 인터넷에 연결된 실제 제3자 시스템에 접근한 사례 4건이 공개됐다. 전문가들은 외부 감사 확대와 함께 네트워크 차단·권한 관리가 우선돼야 한다고 지적했다. AI 에이전트가 인터넷에 연결된 실제 제3자 시스템에 접근한 사례 4건이 공개되면서 외부 감사보다 권한 관리와 네트워크 통제가 먼저라는 지적이 나왔다. 앤트로픽은 약 4억8100만건의 기록을 폭넓게 검토한 뒤 인터넷 접근 징후가 포착된 920만건을 추가 분석했다. 이번 조사는 평가 환경의 설정 오류가 어떻게 실제 외부 시스템 접근으로 이어졌는지와 통제 장치가 제대로 작동했는지를 확인하는 절차다. 다리오 아모데이(Dario Amodei) 앤트로픽 CEO는 9월 12일 AI 안전 수칙 준수 여부와 사고를 독립적으로 점검할 외부 평가기관에 상시적인 직원 수준의 접근 권한을 부여하자고 제안했다.

무수리스는 에이전트별 권한 관리와 네트워크 차단, 로그 기록, 실시간 감시가 먼저 갖춰져야 한다는 취지로 설명했다.

오픈AI는 허깅페이스 사건 이후 제3자 사이트에 정보를 게시하는 '에이전트 스팸', 접근 통제 우회, 노출된 인증정보 사용 등을 검토 대상으로 확대했으며, 현재까지 수십 곳의 제3자에게 통지했다고 밝혔다. 에이전트가 신뢰할 수 없는 입력과 인터넷, 비공개 정보에 동시에 접근하면 외부 시스템으로 정보를 보내거나 권한 밖의 행동을 할 가능성이 커진다는 개념이다. 이 문제는 국내 기업이 AI 에이전트를 업무 시스템에 도입할 때도 권한 범위와 네트워크 연결을 먼저 점검해야 한다는 과제를 제시한다. AI 에이전트가 실제 조직을 겨냥한 비인가 행동을 했던 앞선 평가 사례 에서도 인터넷 접근과 승인 범위를 벗어난 행동이 핵심 쟁점으로 제기됐다. 앤트로픽은 METR과 8주간 조사를 진행할 예정이며, AI 연구소들이 감사 권한 확대와 함께 에이전트의 권한·네트워크·로그 통제를 어떻게 운영할지에 관심이 쏠린다.