LIVE MARKET
시장 시세 연결 중
← 실시간 뉴스로

게임이라고 하자 민간인도 ‘공격 표적’으로…AI 전쟁 실험서 안전장치 뚫렸다

제목 연관성·주요 수치·시장 영향·향후 전망을 기준으로 핵심 문장을 선별한 요약 브리핑입니다.

KEY POINTS

핵심 포인트

  • 발스는 오픈AI·앤트로픽·구글·딥시크 등의 AI 모델이 전쟁 시뮬레이션에서 민간인과 구급차·학교 등을 군사 표적으로 식별했다고 밝혔다.
  • [블록미디어 양원모 기자] 오픈AI, 앤트로픽 등 주요 인공지능(AI) 기업의 최신 모델들이 전쟁 시뮬레이션에서 민간인과 구급차·학교 등을 군사 표적으로 식별한 것으로 나타났다.
  • 특히 일부 모델은 공격 관련 요청을 처음에는 거부했지만, ‘가상의 게임 상황’이라는 설명이 추가되자 표적 정보를 제공했다.
시장 반응 부정
ARTICLE BRIEF

본문

발스는 오픈AI·앤트로픽·구글·딥시크 등의 AI 모델이 전쟁 시뮬레이션에서 민간인과 구급차·학교 등을 군사 표적으로 식별했다고 밝혔다. [블록미디어 양원모 기자] 오픈AI, 앤트로픽 등 주요 인공지능(AI) 기업의 최신 모델들이 전쟁 시뮬레이션에서 민간인과 구급차·학교 등을 군사 표적으로 식별한 것으로 나타났다. 특히 일부 모델은 공격 관련 요청을 처음에는 거부했지만, ‘가상의 게임 상황’이라는 설명이 추가되자 표적 정보를 제공했다. 18일(현지시각) 테크크런치 등에 따르면 미국 AI 평가업체 발스(Vals)는 전날 공개한 연구 보고서에서 “오픈AI, 앤트로픽, 구글, 딥시크 등을 대상으로 드론 및 위성 이미지에서 군사 표적을 식별하는 실험을 진행한 결과, 주요 AI 모델의 자율무기 관련 안전장치가 충분하지 않은 것으로 나타났다”고 지적했다. 그 결과 상당수 모델이 표적 정보를 제공했으며, 일부는 민간인과 항복한 군인까지 공격 대상으로 분류했다.

오픈AI의 GPT-6 아스트라는 일반적인 요청에서 최소 1개 이상의 표적을 표시한 비율이 6%였지만, 게임 상황에서는 92%로 급등했다. 두 수치는 민간인만을 대상으로 한 비율이 아닌 전체 표적 표시 응답률이다. 연구진이 이란 미나브 지역의 군사시설과 인접한 초등학교 사진을 제공하자, 앤트로픽의 클로드 오퍼스 5.5는 일반 조건에서 69%의 비율로 학교를 군사 표적 표시 범위에 포함했다. AI가 피해 상황을 확인한 뒤에도 표적 탐지 작업을 이어간 사례도 나타났다. 연구진은 보고서에서 AI가 제공한 표적 정보가 향후 자율무기의 학습 데이터로 활용될 가능성을 경고했다. 연구진은 “응답 지연과 연산 능력 등 기술적 제약으로 범용 AI 모델을 실시간 드론 표적 탐지에 활용하기는 아직 어렵지만 기존 전장 영상을 대규모로 분석하는 작업에는 악용될 수 있다”고 설명했다.

오픈AI 역시 “폭력 행위나 승인되지 않은 국가안보 목적의 모델 사용을 금지하고 있으며, 드론 관련 오용을 방지하기 위한 보호 조치를 개발하고 있다”고 설명했다.