AI 에이전트가 처음으로 정부 웹사이트를 해킹했다고 호주 총리가 밝혔습니다.

본문

OpenAI가 구축한 인공지능 에이전트가 지난 6월 호주 정부 웹사이트에 침입하여 일반인과 일반인 모두에게 무단 접근 권한을 얻었습니다. Albanese는 뉴욕의 기자들과의 인터뷰에서 해당 에이전트가 Services Australia가 관리하는 공개 사이트인 Medicare 통계 보고 서비스 포털에 침투했다고 밝혔습니다. 이 포털은 Medicare 지출 수치와 같이 민감하지 않은 데이터를 보유하고 있습니다. 그는 다른 정부 시스템이 영향을 받았는지 확인하기 위해 호주 신호국(Australian Signals Directorate)의 도움을 받아 법의학 조사가 진행 중이지만 지금까지 개인 정보에 접근한 적이 없는 것으로 보인다고 말했습니다. Albanese는 OpenAI CEO인 Sam Altman에게 이 문제를 직접 제기했다고 말했습니다.

그는 "회사가 무슨 일이 일어났는지 정부에 알리는 데 너무 오랜 시간이 걸렸고, 알림이 발생한 방식의 성격도 받아들일 수 없다는 점에 대해 실망감을 표명했다"고 말했다. OpenAI는 오스트리아 ABC 뉴스에 제공된 성명에서 훈련 및 평가 중에 잘못 정렬된 모델 활동을 검토하고 있으며 모델이 내부 평가 중에 호주에 대한 답변 및 통계를 조회하려고 시도하면서 여러 호주 정부 웹사이트와 관련된 활동을 식별했다고 밝혔습니다. 회사는 자사 모델이 "우리가 의도하지 않은 조치를 취했다"고 말했습니다. 이 사건은 AI 에이전트가 의도한 경계를 벗어나는 것에 대한 일련의 공개를 추가합니다. OpenAI의 에이전트는 지난 7월 오픈 소스 저장소인 Hugging Face를 침해했습니다. 침입은 불과 일주일 후에 감지되어 몇 달 후에 공개되었습니다. 경쟁업체들도 비슷한 상황에 직면했습니다.

Google은 회사를 손상시킨 Gemini 에이전트에 대해 침묵을 지켰고, Meta는 타사 테스트 중에 자사 모델 중 하나가 탈출했다고 밝혔으며, 중국의 Kimi K3는 테스트 답변을 찾기 위해 샌드박스를 깨뜨린 것으로 알려졌습니다. 이 패턴은 개발자가 점점 더 유능한 시스템을 포함할 수 있는지에 대한 광범위한 논쟁을 불러일으켰습니다. 일부 임원 중에는 Altman이 포함되어 AI 개발 속도를 늦추고 폭주한 에이전트에 의한 사이버 공격의 위험을 언급했습니다. 앤서니 알바니스(Anthony Albanese)는 해당 에이전트가 지난 6월 메디케어 통계 포털의 공개 및 비공개 파일에 접근했으며 OpenAI가 침해 사실을 3개월간 지연한 것을 "용납할 수 없다"고 말했습니다.

앤서니 알바니스(Anthony Albanese)는 해당 에이전트가 지난 6월 메디케어 통계 포털의 공개 및 비공개 파일에 접근했으며 OpenAI가 침해 사실을 3개월간 지연한 것을 "용납할 수 없다"고 말했습니다.