Anthropic, OpenAI, Meta 및 Microsoft의 최고 AI 임원들은 정책 입안자들에게 자체 개선 AI를 규제할 것을 촉구합니다.

본문

Anthropic, OpenAI, Meta 및 Microsoft의 AI 리더들은 자동화된 AI 연구가 급속한 "지능 폭발"을 촉발할 수 있다고 경고했습니다. Anthropic, OpenAI, Meta 및 Microsoft의 연구원들은 AI가 미래 모델을 개발하는 데 필요한 더 많은 작업을 수행함에 따라 더 큰 감독을 요구하고 있습니다. 20명 이상의 AI 경영진과 연구자들은 인공지능이 자체 개발을 가속화하기 시작하여 잠재적으로 수년의 발전을 수개월로 단축할 가능성에 대비할 것을 정부에 촉구하고 있습니다. 이 그룹에는 Anthropic 공동 창립자 Jack Clark, OpenAI 수석 과학자 Jakub Pachocki, Geoffrey Hinton 및 Yoshua Bengio와 함께 Meta 및 Microsoft의 연구원 및 임원이 포함되어 있습니다.

월요일에 발표된 논문에서 저자들은 점점 자동화되는 AI 연구 및 개발이 소위 "지능 폭발"을 촉발할 수 있는지 여부를 조사합니다. 즉, 더 나은 AI 시스템이 점점 더 빠른 속도로 훨씬 더 유능한 후계자를 구축하는 데 도움이 되는 것입니다. 컴퓨팅 용량, 장기간의 훈련 실행, AI 연구 일부 자동화의 어려움 등의 제약으로 인해 프로세스가 느려지거나 방해받을 수 있습니다. 이 논문에서는 주요 연구실 내에서 얼마나 많은 AI 연구가 자동화되고 있는지, 독립적인 평가와 필요한 경우 개발을 늦추거나 제한할 수 있는 메커니즘에 대한 더 큰 가시성을 요구합니다. Anthropic은 이달 초 Claude가 인간 감독 하에 AI 연구 및 개발 작업의 약 26%를 주도하고 있다고 밝혔습니다. 이는 연초에는 거의 없었으나 증가한 수치입니다.

저자는 더 많은 유능한 시스템이 결국 AI 개발에 대한 인간의 참여를 줄여 잠재적으로 점점 더 강력해지는 모델을 감독하는 것을 더 어렵게 만들 수 있다고 경고합니다. 그들은 또한 정부가 다양한 시나리오에 대한 비상 대응 계획을 준비하고 고도로 자동화된 AI 연구에 사용되는 데이터 센터에 대한 더 강력한 감독을 고려할 것을 권장합니다. 이 보고서는 주요 AI 개발자들이 정부와 기업의 능력과 자율성이 계속 증가함에 따라 최전선 시스템에 대해 더 강력한 보호 장치를 마련해야 한다는 광범위한 요구가 있는 가운데 나온 것입니다. 확인되지 않은 자가 개선 AI는 인간의 통제를 능가할 수 있으므로 안전과 인간 가치와의 조화를 보장하기 위한 글로벌 규제 프레임워크가 필요합니다.

Anthropic, OpenAI, Meta 및 Microsoft의 최고 AI 경영진이 정책 입안자들에게 자기 개선 AI를 규제할 것을 촉구하는 게시물이 Crypto Briefing에 처음 등장했습니다.