잭 도시, AI 안전 규칙이 거대 기업 우위 굳힐 수 있다

본문

잭 도시는 인공지능(AI) 안전 규칙이 기존 거대 기업의 우위를 굳힐 수 있다며 개방형 모델과 독립 평가를 허용해야 한다고 주장했다. 사용자가 자신의 기기에서 AI 도구를 직접 실행하고 통제할 수 있어야 한다는 입장도... 잭 도시는 개방형 AI 모델과 독립 평가를 허용해야 한다고 주장했다. 안전 규칙이 기존 대기업만 참여할 수 있는 장벽이 될 수 있다는 지적이다. 사용자가 자신의 기기에서 AI 도구를 직접 실행하고 통제할 수 있어야 한다는 입장도 밝혔다. 도시는 개방형 AI 모델이 독립 연구자들의 결과 재현과 문제 발견, 방어 수단 개발을 가능하게 한다고 설명했다. 그는 현재 선도 AI 연구소들이 업계 전반의 컴퓨팅 자원과 학습 운영, 모델 개발을 제한하는 방식에 반대했다. 이런 제한이 도입되면 막대한 연산 자원과 개발 인력을 보유한 기존 선도 기업만 참여할 수 있다고 봤기 때문이다.

도시는 범용 AI 모델의 공개 제한은 마지막 수단이어야 한다고 밝혔다.

좁은 범위의 대책으로는 막기 어려운 재앙적 위험을 공개가 크게 높인다는 독립적 증거가 있을 때만 제한해야 한다는 주장이다. 이번 발언은 AI 안전 규칙을 둘러싼 논의가 위험 차단뿐 아니라 평가 권한과 시장 진입 장벽 문제로도 이어지고 있음을 보여준다. 오픈AI는 공식 블로그에서 고성능 AI에 대한 공통 시험 기준과 독립 평가, 사고 보고 의무를 포함한 국가 차원의 안전 규칙을 요구했고, 앤스로픽도 고성능 모델의 지속적인 위험 평가와 독립 검증을 정책 원칙으로 제시했다 .