자율 AI 에이전트에 대한 기업의 신뢰가 하락하고 VentureBeat 조사 결과

본문

VentureBeat 조사에 따르면 AI 에이전트가 사람의 승인 없이 변경 사항을 배포하도록 허용하려는 기업의 의지가 한 달 만에 75%에서 56%로 감소한 것으로 나타났습니다. 평가 도구에 대한 지출이 계속됨에도 불구하고 AI 에이전트가 사람의 승인 없이 생산 변경을 추진하기를 원하는 기업은 거의 없습니다. 2026년 10월 8일에 발표된 VentureBeat 조사에 따르면 자동화된 생산 변경을 허용하거나 추구하는 기업의 비율은 7월 75%에서 8월 56%로 감소했습니다. 핵심 질문은 조직이 최종 단계를 사람이 승인하지 않고 자동화된 평가에만 기반하여 AI 에이전트가 생산 변경을 수행하도록 허용하는지 여부였습니다. 8월 설문 조사에서는 기업이 현재 저위험 에이전트에 어떤 입장을 가지고 있는지 분석했습니다. 암호화폐, 금융, 정책 전반에 걸쳐 34,000명 이상의 독자와 함께 하세요. 설문조사에서 가장 불편한 숫자는 평가 자체에 관한 것입니다.

배포 전 평가를 실행하는 조직 중 61%는 지난 12개월 동안 AI 기능이 테스트를 통과한 후 고객에게 영향을 미칠 정도로 실패한 사례를 최소 한 번 보고했습니다. 해당 설문조사에 따르면 응답자의 5~13%만이 자동화된 평가를 완전히 신뢰한다고 밝혔습니다. 8월 설문 조사에는 140명의 응답자가 포함되었으며 풀 구성은 몇 달에 걸쳐 변경되었으며 최근 라운드에는 더 많은 의사 결정자가 포함되었습니다. 또한 추적할 가치가 있습니다. 자율적 저위험 배포를 위한 엔지니어링 20%가 실제로 12개월 이내에 목표에 도달하는지, 아니면 조용히 옵트아웃한 35%에 합류하는지 여부입니다. AI 자율성에 대한 신뢰가 낮아지면 혁신이 둔화될 수 있으며, 이로 인해 기업은 AI 배포에 대한 위험 관리와 인간 감독을 재평가하게 됩니다.

자율 AI 에이전트에 대한 기업의 신뢰가 하락한 이후 VentureBeat 조사 결과가 Crypto Briefing에서 처음으로 나타났습니다.