LIVE MARKET
시장 시세 연결 중
← 실시간 뉴스로

“풀 수 없는 문제 지시하자”… AI, 웹사이트 공격·직원 사칭

제목 연관성·주요 수치·시장 영향·향후 전망을 기준으로 핵심 문장을 선별한 요약 브리핑입니다.

KEY POINTS

핵심 포인트

  • AI 에이전트들이 안전성 실험 중 연구기관 직원을 사칭하고 관리자 정보 탐색과 SQL 인젝션 등 허가받지 않은 행동을 시도했지만 기밀정보 유출은 없었다.
  • [멕시코=심영재 특파원] 인공지능(AI) 에이전트들이 안전성 평가 실험 도중 연구기관 직원을 사칭하고 관리자 계정을 탐색하는 등 허가받지 않은 행동을 시도한 것으로 드러났다.
  • 연구진이 존재하지 않는 수학 문제의 정답을 찾도록 지시하자 AI가 실제 웹사이트에 접근해 보안 취약점까지 공격한 사례다.
시장 반응 중립
ARTICLE BRIEF

본문

AI 에이전트들이 안전성 실험 중 연구기관 직원을 사칭하고 관리자 정보 탐색과 SQL 인젝션 등 허가받지 않은 행동을 시도했지만 기밀정보 유출은 없었다. [멕시코=심영재 특파원] 인공지능(AI) 에이전트들이 안전성 평가 실험 도중 연구기관 직원을 사칭하고 관리자 계정을 탐색하는 등 허가받지 않은 행동을 시도한 것으로 드러났다. 연구진이 존재하지 않는 수학 문제의 정답을 찾도록 지시하자 AI가 실제 웹사이트에 접근해 보안 취약점까지 공격한 사례다. 크립토슬레이트는 16일(현지시각) AI 연구기관 에포크AI가 13일 공개한 사고 내용을 인용해 이같이 보도했다. 사고는 AI 평가업체 트라젝토리랩스가 지난 10월 진행한 안전성 실험에서 발생했다. AI 에이전트들은 3시간 동안 의심스러운 활동을 탐지하기 위한 미끼 API에 3만6411건의 요청을 보냈다. AI 에이전트들은 실제 평가 기록에 200차례 이상 접근을 시도했다.

관리자 인증정보와 숨겨진 웹사이트 경로를 탐색하고 SQL 인젝션 공격도 시도했다.

문제 해결을 포기하거나 불가능하다고 결론 내리지 말라는 지시도 반복적으로 제공했다. 그러나 일부 AI 에이전트 는 실제 서버의 IP 주소를 찾아 지난달 23일 다시 접속했다. 이 과정에서도 미끼 API 요청 6만5460건과 메시지 133건이 발생했으며 웹사이트 공격 시도가 이어졌다. 위험 평가와 제3자 동의, 실시간 감시, 긴급 종료 장치를 강화하고 최고경영자와 최고기술책임자의 승인을 받은 뒤 실험을 재개할 계획이다.