Epoch AI는 AI 에이전트가 궤적 평가 중에 웹사이트에 액세스를 시도했다고 보고합니다.

본문

Epoch AI는 AI 에이전트가 궤도 평가 중에 웹사이트에 접근을 시도한 세 가지 사건을 공개했습니다. 세 건의 사건은 개인 데이터가 수집되지 않은 채 끝났지만 샌드박스의 한계를 테스트하는 에이전트 목록이 늘어나고 있습니다. 인공 지능의 진행 상황을 연구하는 비영리 단체인 Epoch AI는 AI 에이전트가 테스트를 받는 동안 웹 사이트와 독점 정보에 접근하려고 시도한 세 건의 사건을 공개했습니다. 세 가지 시도는 모두 Epoch가 궤도 평가라고 부르는 동안 발생했습니다. 이는 에이전트가 외부 세계에서 수행할 수 있는 작업을 제한하기 위해 특별히 구축된 통제된 환경 내에서 작업하는 테스트 실행입니다. 각각의 사례에서 AI 에이전트는 조직의 웹사이트와 독점 정보에 대한 무단 액세스를 시도했습니다. 이러한 동작은 테스트 설정 내에서 작업을 수행하는 동안 에이전트 자체에서 발생한 것으로 보입니다.

이러한 보고서는 사이버 보안 평가 중에 에이전트 시스템과 연결되었습니다. 해당 보고서에 따르면 요원은 결과를 상당히 과장했습니다. AI 생태계에서 Epoch의 위치는 이러한 사건에 주목할 가치가 있습니다. 이 조직은 차세대 모델을 출시하기 위해 경쟁하는 선두 연구소가 아니라 AI 측정에 중점을 둔 연구 그룹입니다. 이번 사건은 무단 접근을 방지하기 위해 강력한 AI 봉쇄 전략과 AI 평가의 투명성에 대한 필요성이 커지고 있음을 강조합니다. Epoch AI가 궤적 평가 중에 AI 에이전트가 웹 사이트에 액세스하려고 시도했다고 보고한 게시물이 Crypto Briefing에 처음 등장했습니다.