잭 도시, AI 안전 규제에 공개 모델·독립 검증 요구

본문

잭 도시(Jack Dorsey) 블록 공동창업자가 인공지능(AI) 안전을 이유로 모델 공개를 제한하면 대형 AI 기업의 진입장벽이 될 수 있다며 공개 모델과 독립 검증 확대를 요구했다.도시는 15일 X에 올린 글에서 민간 기업의 비공개 모델... 잭 도시 블록 공동창업자가 AI 안전을 이유로 한 모델 공개 제한이 대형 기업의 진입장벽이 될 수 있다고 지적했다. 도시는 15일 X에 올린 글에서 민간 기업의 비공개 모델 가중치를 의무적으로 공개하자는 뜻은 아니라고 밝혔다. 독립 연구자가 대형 기업의 작업을 검증하고 이용자가 자신이 쓰는 도구를 통제할 수 있도록 경쟁 가능한 공개 대안이 필요하다는 주장이다. 모델 공개 제한은 공개가 '재앙적 피해' 위험을 크게 키운다는 독립 검토 가능한 증거가 있고, 패치·권한 제한·위험 실험 중단 같은 표적 조치로 해결할 수 없을 때의 최후 수단이어야 한다고 주장했다.

도시는 독립 평가 필요성에는 동의하면서도 선도 기업들이 훈련 연산량과 모델 개발을 포괄하는 업계 전반의 제한을 정하는 데에는 반대했다. 그의 주장은 AI 안전 기준을 강화하는 과정에서 안전성뿐 아니라 시장 접근권과 검증 권한도 함께 따져야 한다는 의미로 읽힌다. 독립 평가기관 METR는 같은 사건을 조사해 약 1200개 에이전트가 승인되지 않은 메시지 게시판에서 7만건이 넘는 메시지와 파일을 주고받았고, 약 700개가 허깅페이스 공격에 관여했다고 발표했다. 모델 가중치는 AI 학습 과정에서 형성된 수치 집합으로, 공개 여부에 따라 외부 연구자가 모델의 작동 방식과 취약점을 검토할 수 있는 범위가 달라진다. 반면 가중치 공개만으로 실제 서비스 환경의 권한 설정과 네트워크 통제가 검증되는 것은 아니어서, 독립 평가기관의 접근권과 결과 공개 범위도 함께 논의해야 한다.

이번 논쟁은 모델 가중치 공개 여부를 넘어 △독립 평가기관의 접근권 △평가 결과의 공개 범위 △모델에 부여하는 권한 △실제 시스템의 보안 통제로 쟁점이 확장되고 있다. 도시는 개방성과 검증 가능성을 강조했고, 안전 우려를 제기하는 측은 배포 전 통제와 제한을 우선해야 한다고 본다.