“6개월 내 완전 자율 AI 사이버 공격 등장 가능성”...구글 보고서
제목 연관성·주요 수치·시장 영향·향후 전망을 기준으로 핵심 문장을 선별한 요약 브리핑입니다.
핵심 포인트
- [디지털투데이 황치규 기자]구글이 공격자들이 사람 개입 없이 LLM 프레임워크로 취약점 탐색과 공격을 완전히 자동화한 사례를 처음 확인했다고 실리콘앵글이 16일(현지시간) 보도했다.보도에 따르면 구글 위협 인텔리전스 그룹(GTIG)은 분기 보고서에서 익스플로잇_에이전트(‘exploit_agent)라는…
- 웹 애플리케이션 코드를 패치 전후로 계속 비교하고, 취약점을 찾으면 공격 코드를 써서 자 보도에 따르면 구글 위협 인텔리전스 그룹(GTIG)은 분기 보고서에서 익스플로잇_에이전트(‘exploit_agent)라는 프레임워크를 공개했다.
- 이 프레임워크는 공격자가 보안 설정 없이 인터넷에 열어둔 테스트용 서버에서 발견됐고 여러 대형언어모델(LLM)들과 연결된다.
본문
[디지털투데이 황치규 기자]구글이 공격자들이 사람 개입 없이 LLM 프레임워크로 취약점 탐색과 공격을 완전히 자동화한 사례를 처음 확인했다고 실리콘앵글이 16일(현지시간) 보도했다.보도에 따르면 구글 위협 인텔리전스 그룹(GTIG)은 분기 보고서에서 익스플로잇_에이전트(‘exploit_agent)라는 프레임워크를 공개했다.이 프레임워크는 공격자가 보안 설정 없이 인터넷에 열어둔 테스트용 서버에서 발견됐고 여러 대형언어모델(LLM)들과 연결된다. 웹 애플리케이션 코드를 패치 전후로 계속 비교하고, 취약점을 찾으면 공격 코드를 써서 자 보도에 따르면 구글 위협 인텔리전스 그룹(GTIG)은 분기 보고서에서 익스플로잇_에이전트(‘exploit_agent)라는 프레임워크를 공개했다. 이 프레임워크는 공격자가 보안 설정 없이 인터넷에 열어둔 테스트용 서버에서 발견됐고 여러 대형언어모델(LLM)들과 연결된다.
웹 애플리케이션 코드를 패치 전후로 계속 비교하고, 취약점을 찾으면 공격 코드를 써서 자동으로 실행한다.
GTIG는 두 달 전만 해도 완전 자율 공격을 실제로 확인하지 못했다고 밝혔다. GTIG는 공격자들이 새 취약점(제로데이)을 찾기보다 이미 공개된 취약점을 LLM으로 공략하는 편이 더 효율적이라고 판단했을 수 있다는 입장이다. 구글은 국가 지원 조직, 민간 업체, 정치 네트워크들이 여론 조작에도 AI를 일상적으로 쓰고 있다고 밝혔다. LLM재킹(LLMjacking)도 널리 퍼져 공격자들 새 수익원이 됐고, 피해 기관들은 큰 비용을 치르고 있다는게 회사측 설명이다. GTIG는 앞으로 3개월 안에 사람 개입이 거의 없이 여러 AI 에이전트가 수행하는 단순 공격이 나올 것으로 내다봤다. 6개월 안에는 정교한 완전 자율 공격도 등장할 가능성이 크다고 전망했다.