Ro Khanna, 재귀적 자기 개선 기술을 금지하는 AI 안전 법안 지지
제목 연관성·주요 수치·시장 영향·향후 전망을 기준으로 핵심 문장을 선별한 요약 브리핑입니다.
핵심 포인트
- Ro Khanna는 재귀적 자기 개선 AI를 금지하고 FDA 스타일의 연방 AI 안전 기관을 창설하여 20년 징역형 법안을 지지합니다.
- 캘리포니아 민주당은 FDA를 모델로 한 연방 기관이 고급 AI 개발을 감독하고 최대 20년의 징역형을 포함한 처벌을 받기를 원합니다.
- Ro Khanna는 AI가 먼저 허가를 받지 않고 스스로 업그레이드를 시작하지 않도록 하고 싶어합니다.
본문
Ro Khanna는 재귀적 자기 개선 AI를 금지하고 FDA 스타일의 연방 AI 안전 기관을 창설하여 20년 징역형 법안을 지지합니다. 캘리포니아 민주당은 FDA를 모델로 한 연방 기관이 고급 AI 개발을 감독하고 최대 20년의 징역형을 포함한 처벌을 받기를 원합니다. Ro Khanna는 AI가 먼저 허가를 받지 않고 스스로 업그레이드를 시작하지 않도록 하고 싶어합니다. 미국과 중국 공산당 간의 전략적 경쟁에 관한 하원 특별위원회의 간부인 캘리포니아 민주당 의원은 인간의 개입 없이 자체 능력을 향상시킬 수 있는 시스템인 반복적 자기 개선 AI 모델 금지를 옹호해 왔습니다. 이는 버니 샌더스(Bernie Sanders) 상원의원과 그렉 카사르(Greg Casar) 하원의원이 9월 23일 도입한 인공 초지능 금지법(Ban Artificial Superintelligence Act)과 함께 제공되며, 칸나는 이를 공개적으로 지지했습니다.
이 법안은 위반 시 최대 20년의 징역형과 소위 "기업 사형"을 제안하고 있습니다. 반복적 자기 개선 AI는 사람이 버튼을 누르지 않고도 자체 아키텍처나 훈련 프로세스를 자동으로 수정하고 향상할 수 있는 시스템을 의미합니다. Khanna는 이러한 시스템에 대한 인간의 통제력 상실 가능성에 대해 구체적으로 경고하면서 이를 현재 AI 환경에서 가장 시급한 실존적 위험 중 하나로 규정했습니다. 첫째, 적절한 안전 보호 장치가 마련될 때까지 반복적인 자체 개선 모델 개발을 금지합니다. 둘째, FDA를 모델로 한 연방 AI 안전국(AI Safety Agency)을 설립하여 첨단 AI 개발을 위한 규제 문지기 역할을 할 것입니다. 2026년 9월 말 현재 Khanna 자신이 AI 안전에 대한 독립 법안을 도입하지 않았다는 점은 주목할 가치가 있습니다.
Khanna의 AI 안전 옹호는 AI 발전에 대한 인간의 통제권 상실을 방지하기 위한 글로벌 규제 프레임워크의 긴급한 필요성을 강조합니다. Ro Khanna가 재귀적 자기 개선 기술을 금지하는 AI 안전 법안을 지지하는 게시물이 Crypto Briefing에 처음 등장했습니다.