비탈릭, AI 능력 제한은 용도 기준이 낫다고 밝혀

본문

비탈릭 부테린은 AI의 위험한 능력을 제한할 때 이용자 신원보다 사용 목적을 기준으로 삼는 편이 낫다고 밝혔다. 비탈릭 부테린(Vitalik Buterin)은 인공지능(AI)의 위험한 능력을 제한할 때 이용자 신원보다 사용 목적을 기준으로 삼는 편이 낫다고 밝혔다. 부테린은 26일 X에서 키미 3.1의 학습 자료에서 고도화된 사이버공격 능력을 의도적으로 제외한 조치를 수용할 수 있다고 말했다. 이용자를 신원에 따라 구분하는 것보다 위험한 용도에 쓰일 능력을 제한하는 방식의 부작용이 작다는 취지다. 키미 개발사 문샷AI는 K3.1 Pro의 모델 가중치를 공개하기에 앞서 중간 학습 자료와 강화학습 환경에서 사이버보안 관련 자료와 과제를 제거했다고 기술 문서에서 밝혔다. 문샷AI의 내부 시험에서 제한을 적용하지 않은 모델은 취약점 발견·악용 과제의 90.5%를 해결했고, 최종 K3.1 Pro는 81.0%를 기록했다.

자료를 제거해도 공격 능력이 사라진 것은 아니며, 문샷AI는 최종 모델의 사이버보안 과제 수행 능력이 이전 모델보다 높다고 설명했다. 그의 발언은 AI 접근 권한을 누구에게 줄지 정하는 문제와 공격에 쓰일 능력을 어느 수준까지 제공할지를 구분해 다뤘다. 부테린은 초기의 중대한 AI 위험에 제대로 대응하지 못하면 모델 사용이 크게 제한되고 고객신원확인(KYC)과 감시가 보편화할 수 있다고 우려했다. 이는 시행 중인 규제에 대한 설명이 아니라 부테린이 제시한 우려다. 문샷AI는 K3.1 Pro를 자사 서비스와 API에서 제공하고 있으며, 전체 모델 가중치는 11월 4일까지 공개할 계획이라고 밝혔다. 본 기사는 시장 데이터 및 차트 분석을 바탕으로 작성되었으며, 특정 종목에 대한 투자 권유가 아닙니다.