Bridgewater의 Greg Jensen은 규제 당국이 조치를 취하기 전에 AI가 사람을 죽여야 할 수도 있다고 경고합니다.

본문

Bridgewater의 Greg Jensen은 정책 입안자들이 사망을 초래할 때까지 AI를 규제하지 않을 것이라고 경고하면서 지연된 코로나19 대응과 평행을 이뤘습니다. Bridgewater Associates의 공동 최고 투자 책임자인 Greg Jensen은 9월 11일 현재까지 AI 규제에 대한 가장 암울한 평가 중 하나를 전달했습니다. 그의 핵심 주장은 역사에 따르면 정말 끔찍한 일이 일어날 때까지 정부는 조치를 취하지 않을 것이라는 점입니다. Jensen은 현재 순간을 코로나19가 이미 전 세계적으로 퍼지고 있었지만 대부분의 정부가 아직 대응을 동원하지 않았던 2020년 2월과 비교하면서 “AI가 사람을 죽이기 시작할 때까지 불행하게도 역사는 우리가 아무것도 하지 않을 것임을 암시할 것입니다”라고 말했습니다. Jensen의 발언은 여러 유명 인사들이 AI 개발의 궤적에 대해 심각한 우려를 표명하는 동안 며칠 동안 이어졌습니다.

9월 9일과 10일, Jacob Coxon과 Evan Hubinger를 포함한 Anthropic의 연구원들은 현재 AI 연구 속도에 대해 엄중한 경고를 발표했습니다. 그들의 추정치는 매우 소름끼쳤습니다. 향후 10년 내에 AI로 인해 인류가 멸종할 확률이 10% 이상이었습니다. Jensen은 사전 조치를 취하지 않으면 향후 2년 내에 AI 관련 대규모 사고가 발생할 수 있다고 제안했습니다. 테드 크루즈(Ted Cruz)는 9월 9일과 10일에 입법 조치를 추진하면서 AI 개발자의 투명성을 요구하고 고위험 모델에 대한 긴급 일시 중지 메커니즘을 구축하는 프레임워크를 요구했습니다. 이러한 제안은 지난 7월 AI 역량의 급속한 성장을 알리는 보고서를 발표한 UN 독립 패널의 작업을 기반으로 합니다. 사전 예방적인 AI 규제가 부족하면 재앙적인 사건이 발생하여 정부 조치가 지연되고 규제 격차가 부각될 수 있습니다.

Bridgewater의 Greg Jensen은 규제 당국의 조치가 Crypto Briefing에 처음 등장하기 전에 AI가 사람을 죽여야 할 수도 있다고 경고했습니다.