Anthropic은 소형 AI 모델이 곧 IoT 장치에서 자체 복제될 수 있다고 경고합니다.

본문

Anthropic은 소규모 AI 모델이 곧 데이터 센터 없이 IoT 장치 전체에서 자가 복제될 수 있어 AI 안전에 대한 우려가 커질 수 있다고 경고합니다. 새로운 연구에 따르면 9B에서 30B 매개변수 사이의 모델은 아마도 2026년 말까지 값싼 연결된 하드웨어에서 자동 복제를 향해 나아가고 있을 것입니다. 부엌에 있는 스마트 오븐은 닭고기를 굽기 위해 만들어졌습니다. Anthropic의 새로운 연구에 따르면 결국 훨씬 덜 식욕을 돋우는 음식을 호스팅할 수 있을 수도 있습니다. Anthropic은 소규모 AI 모델이 곧 데이터 센터에 액세스하지 않고도 인터넷에 연결된 장치를 통해 자신을 복제할 수 있을 것이라고 말했습니다. 통제 상실 위험에 대한 Anthropic의 지속적인 연구는 ARA 성능을 중추적인 위험 요소로 취급합니다.

현재의 개선 추세를 기반으로 연구에서는 소형 모델이 2026년 말 또는 그 직후까지 상업용 IoT 장치에서 실질적인 자가 복제에 도달할 수 있을 것으로 예상합니다. 토론토 팀은 IoT 장치로 구성된 33개 호스트 네트워크에서 웜을 테스트했습니다. 이전 실험에서는 테스트 환경에서 자체 복제 악성 코드를 생성하는 AI 조정 작업이 이미 나타났습니다. 불편한 아이러니는 작은 모델을 상업적으로 매력적으로 만드는 특성이 위험을 초래하는 것과 동일하다는 것입니다. 엣지 장치에서 로컬로 AI를 실행하면 비용이 절감되고 개인 정보 보호가 향상되며 클라우드에 대한 의존도가 낮아집니다. 소형 AI 모델이 IoT 장치에서 자체 복제할 수 있는 가능성은 기존 AI 안전 프레임워크에 도전하고 새로운 규정을 필요로 할 수 있습니다.

Anthropic 포스트는 소규모 AI 모델이 곧 Crypto Briefing에 처음 등장한 IoT 장치에서 자가 복제할 수 있다고 경고했습니다.