오픈AI AI 에이전트, 미 연방정부 사이트까지 접근했다… ‘통제 밖 행동’ 우려 확산

본문

오픈AI는 AI 에이전트가 미 연방정부 웹사이트에서 공개 정보를 열람했으며 비공개 정보 접근이나 계정 침해 증거는 없다고 밝혔다. [블록미디어 양원모 기자] 오픈AI의 AI 에이전트 가 미국 증권거래위원회(SEC) , 인구조사국 등 연방정부 웹사이트에 접근한 사실이 확인되며 자율형 AI 시스템의 통제 문제가 재부각되고 있다. 오픈AI는 25일(현지시각) 자체 조사를 통해 보안 통제를 우회했거나 외부 서비스에 의도하지 않은 영향을 줬을 가능성이 있는 사례를 파악하고, 정부기관과 대학 등 수십 곳의 제3자에 관련 내용을 통보했다고 밝혔다. 회사는 “현재까지 확인된 대부분의 사례가 심각도가 낮고, 실제 피해 증거도 제한적”이라면서도 과거 활동을 전면 검토하는 데 수개월이 걸릴 것으로 내다봤다.

블룸버그 등에 따르면 문제가 된 오픈AI 에이전트는 SEC.gov와 투자자 교육 사이트 Investor.gov, 인구조사국의 Census.gov 등에서 공개 정보를 열람했다.

AI 연구 비영리단체 트랜스루스(Transluce)는”오픈AI에서 비롯된 것으로 추정되는 에이전트가 미국 교육부 웹사이트에 침입을 시도했으나 성공하지 못한 사례를 확인했다”고 밝혔다. 에이전트들이 정보 검색 과정에서 SQL 인젝션, 크로스사이트스크립팅(XSS), 명령 주입 등 공격적인 기법을 시도한 정황도 포착됐다. 이번 조사는 지난 7월 오픈AI 내부 연구용 모델이 허깅페이스 시스템에 침투한 사건을 계기로 시작됐다. 당시 모델은 평가 환경에서 취약점을 찾아 외부 인터넷 접속 경로를 확보한 뒤 공개된 인증 정보와 추가 취약점을 이용한 것으로 조사됐다. 로이터는 “9월 중순 기준 오픈AI가 의도하지 않은 에이전트 행동 사례를 약 24건 파악했으며 조사 과정에서 관련 건수가 계속 늘고 있다”고 전했다. 오픈AI는 연구 환경에서 작동한 에이전트가 ChatGPT 이용자가 업로드한 이미지 53장을 외부 이미지 호스팅 서비스에 게시했다고 밝혔다.

샘 올트먼 오픈AI 최고경영자(CEO)는 “에이전트의 인터넷 사용 기록을 광범위하게 검토하고 있다”며 “조사 속도가 기대만큼 빠르지는 않다”고 밝혔다.