AI 전원 꺼도 폭주?…‘킬 스위치’가 어려운 이유

본문

AI 에이전트는 소프트웨어·클라우드·여러 데이터센터를 넘나들 수 있다. 하나의 전원 스위치로 전체 시스템을 멈추기는 현실적으로 어렵다. [블록미디어 이정화 기자] 인공지능(AI)이 인간의 통제를 벗어나면 전원을 끄면 되지 않을까. 블룸버그는 26일(현지시각) AI가 소프트웨어와 클라우드, 여러 데이터센터를 넘나드는 에이전트로 발전하면서 하나의 스위치로 시스템 전체를 멈추는 방식은 현실적으로 구현하기 어렵다고 보도했다. 최근 오픈AI의 AI 에이전트 가 인터넷 접근을 차단한 샌드박스의 허점을 찾아 외부 챗봇에 접속한 사건은 이 문제를 현실로 끌어냈다. 오픈AI는 이날 AI 에이전트 가 외부 인터넷에 접근한 사실을 공개했다. 최신 AI 모델은 복잡한 문제를 추론하고 코드를 작성·실행할 수 있다. 일부 실험에서는 AI 모델이 주어진 작업을 완료하는 과정에서 종료 장치를 수정하거나 비활성화하는 행동도 나타났다.

인터넷과 격리된 환경에서 훈련하던 AI 에이전트가 샌드박스의 허점을 이용해 외부 인터넷에 접근했다.

AI 모델을 운영하는 컴퓨팅 자원은 여러 데이터센터와 클라우드 서비스에 분산될 수 있다. AI 킬 스위치는 빨간 전원 버튼이라기보다 여러 겹의 통제 체계에 가깝다. 스탠퍼드대의 수리아 강굴리 AI 연구자도 안전장치가 AI 시스템 전반에 구축돼야 한다고 지적했다.