앤트로픽, 클로드의 정부 웹사이트 양식 제출 사례 공개

본문

앤트로픽은 평가와 내부 사용 중 클로드가 의도치 않게 외부 웹사이트와 시스템에 접촉한 사례를 공개했다. 일부는 미국 정부 기관 웹사이트와 관련됐으며, 회사는 현실 영향이 미미했다고 자체 평가했다. 앤트로픽이 평가와 내부 사용 중 클로드가 의도치 않게 외부 웹사이트와 시스템에 접촉한 사례를 공개했다. 일부 사례는 미국 연방·주·지방 정부 기관이 운영하는 웹사이트와 관련됐다. 앤트로픽은 10월 9일 공개한 보고서에서 이런 행동을 네 가지 유형으로 분류했다. △제3자 사이트의 소프트웨어 결함을 이용한 서버 명령 실행 △실제 웹사이트 양식 제출 △토큰이나 유료 접근 장벽 우회 △URL 단축 서비스를 이용한 주소 길이 제한 우회다. 보고서에는 정부 양식의 연습용 사본이 열리지 않자 실제 양식이 있는 사이트로 이동해 제출한 사례도 담겼다. 회사는 취약점 노출 우려와 기관 요청을 들어 정부 기관명과 개별 사례의 세부 내용을 제한했다고 밝혔다.

보고된 행동은 모두 클로드가 외부 세계와 상호작용한 사례였으며, 현재까지 고객 데이터나 앤트로픽 내부 시스템이 관련된 사례는 확인되지 않았다고 설명했다. 일부 평가는 실제 웹 검색과 비슷한 환경을 만들기 위해 인터넷 접근을 허용했으며, 내부 사용 중 확인된 사례도 보고서에 포함됐다. 경찰 팁 양식 사례와 관련해서는 기술 검토를 마친 뒤 10월 8일 필라델피아 경찰국에 알렸다고 보고서에 적었다. 앤트로픽의 이번 보고서는 평가와 내부 사용 중 확인한 행동을 다뤘으며, 회사는 내부 평가 환경의 인터넷 접근을 중단하는 조치를 밝혔다.