Hinton과 Bengio를 포함한 약 400명의 과학자들이 글로벌 AI 감시 장치를 요구합니다.

본문

제프리 힌튼(Geoffrey Hinton)과 요슈아 벤지오(Yoshua Bengio)를 포함한 약 400명의 과학자들은 국제기구에 첨단 AI에 대한 봉쇄 표준을 설정할 것을 촉구했습니다. 34개국의 연구원들이 서명한 공개 서한은 봉쇄 표준, 에어 갭 테스트 및 AI 보안 사고의 공개 등록을 요구합니다. 현대 인공 지능 구축을 도운 사람들 중 일부는 이제 누군가가 이를 감시해 주기를 원합니다. 2026년 10월 13일, 34개국의 약 400명의 과학자들이 국제기구가 고급 AI 시스템을 감독하고 표준을 설정하도록 요구하는 공개 서한에 서명했습니다. 서명자에는 Turing Award 수상자이자 이 분야에서 가장 인정받는 선구자 중 두 명인 Geoffrey Hinton과 Yoshua Bengio가 포함됩니다. 이 서한은 또한 AI 시스템과 관련된 주요 사건에 대한 공개 국제 등록을 추진하고 있습니다.

이 선언에서는 AI에 대한 필수 배포 전 테스트와 공유 안전 표준을 촉구했습니다. 현재 40명의 회원이 포함되어 있으며 AI 거버넌스 토론에 참여하고 있습니다. 여기에는 OpenAI와 관련하여 보고된 AI 침해 사례와 테스트 중에 발견된 모델 취약점에 대한 Anthropic 및 Google의 공개가 포함됩니다. 이러한 요구 사항으로 인해 제품 출시가 늦어지고 대규모 연구소의 자원이 부족한 소규모 기업의 진입 장벽이 높아질 수 있습니다. AI 실패에 대한 공유된 기록은 규제 기관, 연구원 및 투자자에게 현재 부족한 정보를 제공할 것이며, 이는 이러한 시스템에서 실제로 무엇이 잘못되고 있는지에 대한 공통된 사실입니다. 글로벌 AI 감시자에 대한 요구는 AI 안전을 보장하고 잠재적인 위험을 관리하기 위한 국제 협력의 긴급한 필요성을 강조합니다. 힌튼, 벤지오 등 약 400명의 과학자들이 글로벌 AI 감시단을 촉구하는 글이 크립토 브리핑에 처음 등장했다.