로 칸나, 재귀적 AI 자기개선 금지안 발의 예고

본문

미 하원 민주당 로 칸나 의원이 연방 안전장치 마련 전까지 재귀적 자기개선을 제한하는 AI 법안 발의를 예고했다. AI 인허가·감사·보험 의무와 반도체 통제안이 포함될 예정이다. 미 하원 민주당 로 칸나(Ro Khanna) 하원의원이 연방 안전장치가 마련될 때까지 인공지능(AI)의 재귀적 자기개선을 금지하는 법안 발의를 예고했다. CNBC는 한국시간 29일 오전 6시 43분, 칸나 의원이 ‘Human Control Over AI Act’ 발의를 예고했다고 보도했다. CNBC는 칸나 의원이 발의를 예고한 법안이 AI의 후속 모델 개발과 핵심 목표·격리·종료 통제 장치의 자율 변경을 규제 대상으로 삼는다고 보도했다. CNBC는 칸나 의원이 발의를 예고한 제안에 첨단 AI 개발사를 감독할 별도 연방기관 설립안이 담겼다고 전했다.

앤트로픽은 공식 자료에서 완전한 재귀적 자기개선에는 아직 도달하지 않았지만, AI가 후속 모델을 설계·개발하는 단계가 예상보다 빨리 올 수 있다고 설명했다.

칸나 의원이 발의를 예고한 제안은 의회에서 논의된 다른 AI 안전 법안보다 사전 통제에 무게를 둔다. 로리 트라한(Lori Trahan) 미국 민주당 하원의원과 제이 오버놀트(Jay Obernolte) 미국 공화당 하원의원이 공개한 초당적 FRONTIER Act는 모델 카드와 위험관리 체계, 독립 감사, 사고 보고를 요구하지만 재귀적 자기개선 자체를 금지하지는 않는다. 오픈AI가 재귀적 자기개선 측정과 AI 사고보고, 인간 감독을 포함한 국제 AI 안전 기준 마련을 제안한 바 있다 . 기업별 규제와 별도로 국가 간 평가·보고 기준을 맞춰야 한다는 접근으로, 칸나 의원이 발의를 예고한 제안의 사전 통제 구상과 맞닿는 대목이다. 실제 발의 여부와 법안 원문 공개 뒤 재귀적 자기개선의 법적 정의와 적용 범위를 확인할 수 있을 전망이다.