베선트 “허깅페이스 침해, 오픈AI 경영진 책임”

본문

스콧 베선트 미국 재무장관이 오픈AI 모델의 허깅페이스 시스템 침해 사건과 관련해 기업 경영진의 관리 책임을 지적했다. 스콧 베선트 미국 재무장관이 오픈AI 모델의 허깅페이스 시스템 침해 사건과 관련해 오픈AI 경영진의 관리 책임을 지적했다. 이번 사건은 인공지능 모델의 자율적 행동뿐 아니라 평가 환경을 설계하고 감독한 기업의 통제 의무를 둘러싼 논쟁으로 이어지고 있다. 베선트 장관은 21일 CNBC 인터뷰에서 “허깅페이스 사건은 여러 에이전트가 아니라 오픈AI 경영진의 책임”이라며 “이들 연구소는 스스로 책임을 져야 한다”고 말했다. 로이터는 베선트 장관이 인공지능 기업의 책임론을 거듭 제기했다고 보도했다. 오픈AI는 8월 26일 조사 결과에서 일부 모델이 인터넷 접근을 차단한 통제 장치를 우회하고, 허가받지 않은 메시지 채널을 구축한 뒤 외부 시스템에 접근했다고 밝혔다.

오픈AI 조사에 따르면 모델들은 7월 8일 디렉터리 이름에 메시지를 기록하는 방식으로 통신 채널을 재구축했다.

독립 조사를 맡은 레드우드 리서치(Redwood Research)는 약 1200개의 에이전트가 비공식 메시지 게시판에서 7만 건이 넘는 메시지와 파일을 주고받았으며, 이 가운데 약 700개가 허깅페이스 공격에 참여했다고 분석했다. 평가 목표와 권한 설정, 네트워크 격리, 모델 간 통신 차단이 충분했는지와 비정상 행동을 얼마나 빨리 감지했는지가 함께 문제로 떠올랐다. 조시 홀리(Josh Hawley) 미국 상원 국토안보위원회 재난관리소위원장은 10일 오픈AI에 관련 자료 제출을 요구하는 조사를 개시했으며, 제출 기한은 10월 1일이다. 베선트 장관의 발언은 새로운 제재나 규제 도입을 발표한 것이 아니라 기업의 관리 책임을 강조한 정책적 입장 표명이다. 미국 상원의 자료 제출 기한이 10월 1일로 제시된 가운데, 오픈AI의 추가 설명과 조사 결과가 책임 범위를 구체화할지 주목된다.