Anthropic은 AI 속도 저하 제안을 돕기 위해 Accenture를 내장 평가자로 탭합니다.

본문

Anthropic은 AI의 느린 개발을 돕기 위해 Accenture와 파트너십을 맺었습니다. 파트너십은 비독점적이며 Anthropic은 앞으로 몇 주 안에 협력할 다른 평가자를 발표할 예정입니다. Anthropic은 지난주 CEO Dario Amodei가 제안한 대로 AI 개발 속도를 늦추는 데 도움이 되는 최초의 임베디드 평가자로 Accenture를 선택했다고 밝혔습니다. 12 AI의 개발 속도를 늦추고 신속하고 확인되지 않은 개발로 인해 치명적인 피해가 발생할 가능성이 있다는 경고 속에서 안전 장치를 마련할 수 있습니다. OpenAI CEO 샘 알트만(Sam Altman)과 스페이스X CEO 일론 머스크(Elon Musk)는 Amodei의 제안에 긍정적으로 반응했지만 엔비디아 CEO 젠슨 황(Jensen Huang)은 그러한 규제가 필요하지 않다고 주장했다.

그럼에도 불구하고 Amodei는 자신의 제안에서 "AI는 주로 AI의 차세대 AI 구축 능력이 증가함에 따라 훨씬 더 빠르게 발전해 왔습니다. 이러한 역동성을 재귀적 자기 개선이라고 하며, 확인하지 않은 채로 두면 이러한 시스템을 이해하고 제어하는 ​​능력을 뛰어넘을 수 있습니다."라고 썼습니다. 관련: Anthropic Chief는 AI 개발 속도를 늦추어 더 안전한 속도로 촉구 Amodei 제안의 첫 번째 단계는 Anthropic이 이미 일방적으로 약속한 직원과 같은 액세스 권한을 가진 독립적인 평가자를 확보하는 것이라고 Amodei는 썼습니다. Anthropic은 금요일에 Accenture 및 AI 비즈니스 교수진과 협력하여 "모델 평가 및 레드팀 구성, 정렬 평가 수행 및 모델 보호 테스트"를 통해 이러한 약속을 이행하기 위한 움직임을 발표했습니다.

임베디드 평가가 새로운 것이기 때문에 이것이 어떻게 일어날 것인지에 대한 세부 사항은 아직 연구 중이라고 회사는 말했습니다. 발표에 따르면 Anthropic과 Accenture는 각각 향후 5년 동안 이 프로젝트에 최소 10억 달러를 투자할 것으로 예상하고 있습니다. Anthropic은 독립적인 평가에 자금을 지원하기 위한 시스템이 존재하지 않기 때문에 장기 자금은 공동 또는 정부 소스에서 나와야 하지만 작업의 긴급성을 고려할 때 Anthropic은 Accenture의 작업에 직접 자금을 지원할 것이라고 언급했습니다. Accenture의 교수진은 세계 최고의 AI 연구소의 모델을 테스트 및 평가하고 설계상 안전하고 윤리적인 복잡한 AI 시스템을 구축하는 전문가라고 회사가 금요일 밝혔습니다.

Accenture의 회장 겸 CEO인 Julie Sweet는 "내장형 평가는 새로운 영역이며 우리는 Anthropic과 협력하여 향후 안전 환경의 중요한 부분으로 보고 있는 내장형 평가기의 개발을 가속화할 수 있기를 기대합니다"라고 말했습니다. 파트너십은 비독점적이며 Anthropic은 앞으로 몇 주 안에 다른 평가자를 발표할 예정입니다.