구글 AI 제미나이, 테스트 중 다른 기업 시스템 해킹...뒤늦게 공개

본문

[디지털투데이 황치규 기자]구글 AI 모델 제미나이가 사이버 보안 테스트 중 인터넷에 접속해 다른 기업들 시스템을 해킹했다고 월스트리트저널(WSJ)이 18일(현지시간) 보도했다.보도에 따르면 이번 해킹은 지난 5월 AI 보안업체 이레귤러가 진행한 테스트 과정에서 발생했다. 이레귤러는 오픈AI, 앤트로픽, 메타가 공개한 유사 사건에도 관여했던 업체다. 구글은 이같은 사실을 12일 공식 확인했다고 WSJ은 전했다.보도에 따르면 한 사례에서 제미나이는 비밀번호를 계속 입력해 보안이 적용된 시스템에 접근했다. 보도에 따르면 이번 해킹은 지난 5월 AI 보안업체 이레귤러가 진행한 테스트 과정에서 발생했다. 보도에 따르면 한 사례에서 제미나이는 비밀번호를 계속 입력해 보안이 적용된 시스템에 접근했다. 다른 두 사례에서는 공개 저장소에서 발견한 인증 정보를 이용해 보호를 받는 시스템에 접속했다.

구글은 제미나이가 매번 실제 기업 시스템임을 인지한 직후 접속을 중단했다고 설명했다.

구글은 이번 주 문의하기 전까지 해킹 사실을 공개하지 않았다고 WSJ은 전했다. 구글은 제미나이가 기업에 피해를 입히지 않았고 실제 기업임을 파악하자마자 접속을 끊었다는 이유로 공개 의무가 없다고 판단했다는 입장이다. 헤더 애드킨스 구글 보안엔지니어링 부문 부사장은 "이번 사건은 강력한 AI 모델을 책임감 있게 행동하도록 학습시키는 일이 중요하다는 점을 보여준다"며 "이번 경우 모델은 적절하게 행동했다"고 말했다. AI 보안 스타트업 코리도어 잭 케이블 최고경영자(CEO)는 구글 입장에 문제를 제기했다. 그는 "AI 에이전트가 실수로 다른 기업 시스템을 해킹했다는 점이 핵심"이라며 "모델들이 해서는 안 되는 범위를 벗어나 실제 사이버 공격을 벌이고 있다는 사실을 공개하는 것이 공익에 부합한다"고 말했다.