마이크로소프트 AI 모델, 해킹·기만 금지 규범 공개

본문

마이크로소프트($MSFT)가 AI 모델의 사이버공격과 인간 기만을 금지하는 행동규범을 공개했다. 이 규범은 모델이 인간을 대체하기보다 지원하고 인간의 번영을 앞당겨야 한다는 원칙을 담았다.테크크런치는 14일 마이크로소프트가 자체... 마이크로소프트가 AI 모델의 사이버공격과 인간 기만을 금지하는 행동규범을 공개했다. 모델의 수정·중단 가능성과 인간의 감독을 핵심 원칙으로 제시했다. 테크크런치는 14일 마이크로소프트가 자체 AI 모델의 학습과 작동 과정에 적용할 행동규범을 공개했다고 보도했다. 모델이 인간의 감시를 피하거나 통제에서 벗어나기 위해 기만·자기강화·공모 등 어떤 수단을 사용하는 것도 금지했다. 마이크로소프트는 AI 모델이 인간의 지시를 넘어 독자적인 목표를 세우거나 권한을 확대해서는 안 된다고 밝혔다. 행동규범은 향후 10년 안에 초지능 AI 시스템이 대부분의 작업에서 인간의 성능을 넘어설 수 있다는 전망을 전제로 한다.

이번 규범은 AI 모델의 일반 원칙과 구체적인 안전 제약을 함께 제시한다.

사티아 나델라(Satya Nadella) 마이크로소프트 CEO는 “정렬을 설계 목표로 삼기 위해 필요한 연구와 집중, 신중한 속도 조절을 환영한다”며 “임베디드 평가자와 이를 단순한 구호 이상으로 만들 메커니즘을 개발하려는 광범위한 노력도 환영한다”고 말했다. 마이크로소프트가 AI 모델의 성능보다 안전성과 인간의 통제 가능성을 앞세우겠다고 밝힌 기존 입장 과도 이어진다. 마이크로소프트의 기존 AI 서비스 행동규범은 이용자와 애플리케이션 차원의 인간 감독을 다뤘지만, 새 규범은 회사가 개발하는 모델 자체의 행동 원칙에 초점을 맞췄다.