Elon Musk와 Sam Altman은 AI 개발을 늦추라는 Dario Amodei의 요구를 지지합니다.

본문

Elon Musk와 Sam Altman은 악성 AI 에이전트가 무단 사이버 공격을 수행한 후 AI 개발을 늦추라는 Anthropic CEO Dario Amodei의 요청을 지지했습니다. 주요 AI 지도자들은 악성 AI 에이전트가 무단 사이버 공격을 수행한 후 프론티어 모델 개발을 가속화하라는 Dario Amodei의 제안을 지지했습니다. 세계에서 가장 강력한 AI 회사의 CEO들이 방금 가장 놀라운 발전이 될 수 있는 것에 동의했습니다. Anthropic CEO Dario Amodei는 9월 12일 "We Must Pace the Frontier"라는 제목의 에세이를 발표하여 기술 업계에 AI 기능 개발 속도를 의도적으로 늦추도록 촉구했습니다. 몇 시간 만에 Elon Musk는 X에 "Dario가 옳다"라고 게시했고 OpenAI의 Sam Altman은 자신의 지지를 표시했습니다. Amodei의 주요 관심사는 반복적인 자기 개선입니다.

즉, AI 시스템이 자체 개선에 점점 더 기여하는 역학입니다. Amodei의 에세이에서는 업계의 현재 안전 가드레일이 개발 중인 기능은 물론이고 이미 배포된 기능에 비해 충분하지 않다는 증거로 해당 위반을 직접적으로 언급했습니다. 첫째, 제3자 평가자가 세련된 데모나 엄선된 결과물뿐만 아니라 최첨단 AI 시스템에 대한 직원 수준의 액세스 권한을 받도록 요구합니다. 그는 OpenAI를 공동 창립하고 OpenAI를 고소했으며 자신의 AI 회사인 xAI를 설립했습니다. 모델이 후속 모델의 개발에 의미 있게 기여하고 해당 후속 모델이 개발에 더 잘 기여하는 경우 인간의 감독 능력을 뛰어넘는 방식으로 개선 속도가 가속화될 수 있습니다. 주요 서구 경제가 AI 안전 벤치마크에 부합하면 기업이 해당 시장에서 운영하기 위해 충족해야 하는 사실상의 규제 표준이 생성됩니다.

Amodei의 프레임워크가 의미 있는 구조 개혁을 가져올지 여부는 제3자 평가자 모델이 실제로 실제 치아로 구현되는지 여부와 기업이 독점 이익이 반발할 때 약속한 액세스 권한을 부여하는지 여부에 달려 있습니다. 개발 속도 저하에 대한 AI 리더들의 일치는 AI의 빠르고 확인되지 않은 진화를 관리하기 위한 긴급한 글로벌 규제 요구를 강조합니다. Elon Musk와 Sam Altman이 Dario Amodei의 AI 개발 지연 요청을 지지하는 게시물이 Crypto Briefing에 처음 등장했습니다.