앤트로픽 연구자 “AI 멸종 위험 10% 넘게 추정”

본문

앤트로픽의 안전 연구자가 인공지능(AI)으로 향후 10년 안에 모든 인류가 사망할 가능성을 10%보다 높게 개인적으로 추정했다. 회사가 기업공개(IPO)를 준비하는 시점에 나온 경고여서 AI 안전과 투자자 신뢰를 둘러싼 논쟁이 커지고... 앤트로픽 안전 연구자가 향후 10년 안에 AI로 모든 인류가 사망할 가능성을 10%보다 높게 개인적으로 추정했다. 회사의 비공개 IPO 준비와 맞물리며 AI 안전과 투자자 신뢰 논쟁이 커지고 있다. 회사가 기업공개(IPO)를 준비하는 시점에 나온 경고여서 AI 안전과 투자자 신뢰를 둘러싼 논쟁이 커지고 있다. 객관적인 확률 측정 결과나 규제기관의 판단으로 확인된 수치도 아니어서 앤트로픽 전체의 입장으로 확대해 해석할 수 없다. 투자 후 기업가치는 9650억 달러(약 1297조원)로 평가됐고, 회사는 연환산 매출이 470억 달러(약 63조원)를 넘어섰다고 설명했다.

Axios는 일부 투자자가 AI가 인류를 멸종시킬 가능성보다 보안 사고와 운영 실패가 기업 실적에 미칠 위험을 더 현실적인 문제로 봤다고 보도했다. 반면 일부 투자자는 AI 위험 논쟁이 정부 개입이나 규제 강화로 이어질 경우 주주가치에 부담이 될 수 있다고 우려했다. 이 같은 반응은 허빙거의 추정치가 아니라 AI 기업의 안전 관리와 규제 대응을 둘러싼 일부 시장 참여자의 평가로 구분해야 한다. 해당 연구와 보안 평가 사례는 AI 위험이 가상 시나리오에만 머물지 않는다는 점을 보여주지만, 허빙거가 제시한 멸종 가능성 추정치를 입증하는 자료는 아니다. 앤트로픽의 IPO 준비와 AI 인프라 투자 논의 처럼 기업가치와 성장성뿐 아니라 안전 비용과 규제 대응 능력도 투자자가 살펴볼 요소로 거론된다.