OpenAI와 Anthropic CEO, UN 안전보장이사회에 AI 안전 경고 전달

본문

OpenAI의 Sam Altman과 Anthropic의 Dario Amodei는 최초의 UN 안전 보장 이사회에서 프론티어 AI에 대한 브리핑에서 글로벌 AI 안전 협력을 촉구했습니다. Sam Altman과 Dario Amodei는 프론티어 AI 위험에 대한 역사적인 첫 번째 브리핑에서 세계 지도자들에게 연설하며 조율된 글로벌 안전 표준을 요구했습니다. 유엔 안전보장이사회는 지난 수십 년 동안 수많은 실존적 대화를 주최해 왔습니다. OpenAI의 Sam Altman과 Anthropic의 Dario Amodei는 연례 UN 총회 세션 중 안전보장이사회에 출석하여 기술의 궤도가 이를 관리하기 위한 기관을 초과하기 전에 세계 지도자들에게 AI 안전을 중심으로 협력 프레임워크를 구축할 것을 촉구했습니다. Amodei는 더 나아가 개발 프로세스에 적절한 보호 장치가 부족할 경우 AI가 인류에 심각한 위험을 초래할 수 있다고 경고했습니다.

그가 UN에 모습을 드러낸 것은 그가 9월 12일에 발표한 에세이에서 나온 것입니다. 이 에세이에서 그는 AI 역량 개발의 보다 측정된 속도를 공개적으로 요구하고 내부 팀이 스스로 제공할 수 없는 책임을 제공하기 위해 실험실 내부에 독립적인 평가자를 배치해야 한다고 주장했습니다. 이는 특히 국경의 AI 안전 위험에 초점을 맞춘 최초의 UN 안전보장이사회 브리핑이었습니다. 이는 대화가 학술 회의와 실리콘 밸리 팟캐스트에서 공식적인 국제 외교 기계로 옮겨갔다는 신호입니다. AI 규제에 대한 미중 대화는 조용히 확대되고 있으며, UN 세션에 중국 개발자를 포함시킨 것은 다자주의로 위장한 서구 표준 설정 연습이 아니라 대화를 진정한 글로벌화하려는 시도를 반영합니다. 그는 상용 AI 생태계 외부에서 활동하며 보호할 제품 로드맵이 없습니다.

OpenAI 및 Anthropic의 CEO와 함께 그가 참여한 것은 국제 메커니즘의 필요성에 대해 학문적 안전 연구자와 업계 리더 간의 보기 드문 수렴을 의미합니다. 특히 OpenAI와 Anthropic의 경우 글로벌 표준에 대한 옹호는 양날의 발전입니다. AI 안전에 대한 UN의 초점은 혁신과 감독의 균형을 유지하면서 AI 위험을 관리하기 위한 글로벌 협력의 긴급한 필요성을 강조합니다. OpenAI와 Anthropic CEO들이 AI 안전 경고를 UN 안전보장이사회에 전달한 게시물이 Crypto Briefing에 처음 등장했습니다.