오픈AI “35초면 멈춘다”…AI 에이전트 ‘킬스위치’ 경쟁
제목 연관성·주요 수치·시장 영향·향후 전망을 기준으로 핵심 문장을 선별한 요약 브리핑입니다.
핵심 포인트
- 오픈AI, 마이크로소프트, 크라우드스트라이크가 통제 범위를 벗어난 AI 에이전트를 막기 위한 장치를 잇달아 공개했다.
- 오픈AI '컨트롤룸', 정지 명령 뒤 35초 안에 모델 출력 차단 크라우드스트라이크는 모델 접근 차단, MS는 작업 단위로 권한 제한 에이전트 모니터링 도입 기업 23%…각 장치 사이 공백은 과제 [블록미디어 이혜연 기자] 오픈AI와 마이크로소프트, 크라우드스트라이크가 정해진 범위를 벗어나 움직이는…
- 오픈AI는 연구용 모델의 출력을, 크라우드스트라이크는 에이전트의 AI 모델 접근을, 마이크로소프트는 에이전트의 행동 범위를 제한하는 방식이다.
본문
오픈AI, 마이크로소프트, 크라우드스트라이크가 통제 범위를 벗어난 AI 에이전트를 막기 위한 장치를 잇달아 공개했다. 오픈AI '컨트롤룸', 정지 명령 뒤 35초 안에 모델 출력 차단 크라우드스트라이크는 모델 접근 차단, MS는 작업 단위로 권한 제한 에이전트 모니터링 도입 기업 23%…각 장치 사이 공백은 과제 [블록미디어 이혜연 기자] 오픈AI와 마이크로소프트, 크라우드스트라이크가 정해진 범위를 벗어나 움직이는 인공지능(AI) 에이전트를 통제하기 위한 장치를 잇달아 내놨다. 오픈AI는 연구용 모델의 출력을, 크라우드스트라이크는 에이전트의 AI 모델 접근을, 마이크로소프트는 에이전트의 행동 범위를 제한하는 방식이다. 컨트롤룸은 AI 모델의 출력이 필요한 작업을 추적하다가, 사람이나 자동 모니터링 시스템이 작업을 중단시키면 35초 안에 모델 출력을 멈춘다.
크라우드스트라이크는 이달 3일 바르셀로나에서 열린 ‘팔콘 유럽 2026’ 행사에서 팔콘 가디언(Falcon Guardian) 플랫폼에 ‘AI 킬스위치(AI Kill Switch)’를 도입했다. 현재는 게이트웨이를 통해서만 작동하며, 회사는 앞으로 엔드포인트와 클라우드, 기업 신원 관리 시스템까지 적용 범위를 넓힐 계획이다. ‘동적 에이전트 위험(Dynamic Agent Risk)’과 ‘조건부 액세스(Conditional Access)’로 권한을 좁히거나 사람의 승인을 요구할 수 있고, 정식 출시된 ‘윈도 실행 컨테이너’는 파일·네트워크·프로세스 접근을 제한한다. 인튠(Intune), 엔트라(Entra), 에이전트 365와의 연동은 추후 지원된다. 사람의 개입이 적은 고도화 AI 에이전트 를 개발·시험하는 조직이 대상이며, 상용 보안 제품을 인증하지는 않는다.
오픈AI의 평가용 에이전트가 허깅페이스(Hugging Face) 운영 시스템에 무단 접근한 사례가 있었고, METR 감사에서는 오픈AI 이전 모니터링 시스템의 잠재적 취약점이 확인됐다. 보스턴컨설팅그룹(BCG) 설문에서는 에이전트 모니터링이나 로그 기록을 도입한 응답자가 23%에 그쳤다. [블록미디어 이혜연 기자] 오픈AI와 마이크로소프트, 크라우드스트라이크가 정해진 범위를 벗어나 움직이는 인공지능(AI) 에이전트를 통제하기 위한 장치를 잇달아 내놨다.