Anthropic은 IPO 투자설명서에서 AI가 '인류에 대한 실존적 위험'을 투자자들에게 경고한다고 보도했습니다.

본문

로이터에 따르면 Anthropic의 IPO 서류에는 AI의 위험에 대해 80페이지가 할당되어 있으며, 이는 Anthropic이 사업 계획을 논의하는 데 사용하는 48페이지의 거의 두 배에 해당합니다. Anthropic은 자사의 AI 모델이 "인류에 재앙적이거나 실존적인 위험"을 초래한다는 점을 IPO 투자 설명서에서 투기 투자자들에게 경고할 계획이라고 여러 보고서가 화요일에 밝혔습니다. 로이터의 보고서에 따르면 많은 기대를 모으고 있는 IPO를 준비하고 있는 이 회사는 IPO 서류의 3분의 1 이상, 즉 261페이지 중 약 80페이지를 자사가 개발 중이고 투자를 모색 중인 기술의 잠재적 위험을 설명하는 데 할애했다고 합니다. 로이터 보고서에 따르면 개척 언어 모델인 Claude로 알려진 5년 된 회사는 AI가 "종료에 저항"하고 "정보를 은폐 또는 조작"하고 "공갈과 유사한" 행동을 수행하는 등 "자기 보존 행동"을 가질 수 있다고 경고했습니다.

이 회사는 상장 시 2조 달러의 가치 평가를 추구하고 있으며 2025년에 420억 달러의 순 손실을 기록했다고 서류에 보고했습니다. 로이터에 따르면 내년에는 클라우드, 컴퓨팅 및 기타 인프라에 5,180억 달러를 지출할 계획입니다. Anthropic은 또한 고객 기반이 매우 좁으며 작년 수익의 거의 4분의 1이 단 두 명의 고객에게서 나왔다고 이 서류에 정통한 두 사람이 Financial Times에 말했습니다. Anthropic의 공동 창립자이자 CEO인 Dario Amodei는 이전에 AI의 위협에 대해 경고하는 다양한 에세이를 작성했으며, 여기에는 이 기술이 고용 시장에 "비정상적으로 고통스러운" 혼란을 초래할 것이라고 말했습니다. 또 다른 최근 에세이에서 CEO는 "상업적 이점이나 미국의 AI 선두를 희생"하지 않고 모델이 얼마나 빨리 개선되는지를 줄이기 위한 3단계 계획을 통해 AI 업계에 AI 모델 개발 속도를 늦출 것을 촉구했습니다.

요크빌 아이브스(Yorkville Ives)의 파트너이자 전무이사인 댄 아이브스(Dan Ives)는 오늘 오전 CNBC와의 인터뷰에서 경기 둔화에 대한 요구는 다소 "머리를 긁적이게 하는 것"이라며 시장은 이에 대해 "매우 크게" 반응했다고 말했습니다. "안전 관점에서 가드레일이 필요하지만 Anthropic과 OpenAI가 속도를 늦춘다는 사실은 중국이 가속하고 승리할 것이라는 사실입니다. 여러분이 보고 있는 이 수렁의 일부는 규제 포획이 진행되고 있다는 것입니다. 분명히 포커 게임이 있지만 Anthropic의 경우 계속해서 페달을 밟아야 합니다." Ives는 가드레일이 필수적이지만 규제가 혁신을 억제할 수 있다고 덧붙였습니다. 그것은 계속해서 "미국 내에서 가장 큰 관심사이며 이것이 우리가 F1 경주에 참여하는 이유"라고 그는 말했습니다.