비탈릭, 中 AI ‘키미’의 해킹 능력 제한 지지… “사이버 공격 대비할 시간 벌어야”

본문

이더리움 공동 설립자 비탈릭 부테린(Vitalik Buterin)이 중국 인공지능(AI) 기업 문샷 AI의 사이버 공격 능력 제한 조치를 지지했다. [블록미디어 이정화 기자] 이더리움 공동 설립자 비탈릭 부테린(Vitalik Buterin)이 중국 인공지능(AI) 기업 문샷 AI의 사이버 공격 능력 제한 조치를 지지했다. AI의 해킹 능력이 빠르게 발전하는 상황에서 위험한 기능의 확산을 늦춰 보안 시스템을 강화할 시간을 확보해야 한다는 주장이다. 26일(현지시각) 부테린은 자신의 엑스(X·옛 트위터)를 통해 문샷 AI가 최신 AI 모델의 고도화된 사이버 공격 능력을 의도적으로 제한한 결정을 긍정적으로 평가했다. 그는 이러한 조치가 AI 기반 공격을 완전히 막지는 못하더라도 방어자들이 대비할 시간을 벌어준다는 점에서 의미가 있다고 설명했다. 키미(Kimi)는 중국 AI 스타트업 문샷 AI(Moonshot AI)가 개발한 생성형 AI 서비스다.

문샷 AI는 2023년 설립된 중국의 AI 기업으로 긴 문서 처리와 추론, 코딩 능력을 중심으로 키미 모델을 발전시켜 왔다. AI 모델의 성능이 높아질수록 정상적인 보안 점검뿐 아니라 자동화된 사이버 공격에도 이용될 가능성이 커진다. 문샷 AI는 키미 K3.1 프로(Kimi K3.1 Pro)의 훈련 과정에서 일부 사이버 보안 관련 데이터를 제외해 고도화된 공격 능력을 제한했다고 밝혔다. 일반적인 코딩 성능은 유지하면서 위험한 사이버 공격 기능을 약화하려는 조치다. 부테린은 AI 공격 능력의 확산을 늦추는 동안 기존 소프트웨어의 취약점을 점검하고 새로운 코드에는 수학적으로 정확성을 검증하는 형식 검증(Formal Verification)을 확대해야 한다고 강조했다. 그는 다른 AI 연구소들이 결국 비슷한 공격 능력을 개발할 가능성도 인정했다.