업계가 개척 개발을 제한함에 따라 Microsoft는 미래 AI 모델에 대한 한계를 정했습니다.

본문

Microsoft는 파트너인 Anthropic 및 OpenAI와 함께 모델 개발을 강화하면서 책임감 있는 AI 개체로 인식되기를 원합니다. Microsoft는 Anthropic과 OpenAI 리더들이 개발 속도를 늦추기로 합의한 지 며칠 만에 인공 지능 모델에 제한을 가하는 임시 행동 강령을 게시했습니다. Windows 및 Office 제품을 개발하는 회사는 저명한 클라우드 공급업체인 AI 분야에서 책임 있는 행위자로 보이기를 희망합니다. 회사의 모델 개발 책임자인 무스타파 술레이만(Mustafa Suleyman)은 인터뷰에서 CNBC와의 인터뷰에서 "우리는 AI가 항상 사람들을 위해 일하고 그들을 대체하려고 하지 않고 노력하는 것에 대한 더욱 명시적인 헌신을 보고 싶다는 사람들로부터 피드백을 받았습니다"라고 말했습니다.

"우리는 AI가 의존성을 생성하지 않고 아첨하지 않고 인간의 판단과 인간의 자율성 및 선택 의지를 촉진하기 위해 항상 존재한다는 피드백을 많이 보았습니다." Suleyman은 MS가 약 5개월 동안 작업을 진행해 왔지만 최근 논의를 바탕으로 가이드라인을 발표하기로 결정했다고 말했습니다. AI 실무자와 대중은 기술이 점점 더 발전함에 따라 우려의 목소리가 더욱 커졌습니다. 지난주 인류학 연구원 제이콥 콕슨(Jacob Coxon)은 AI 연구소와 OpenAI가 “자기 향상 초지능과 우리 삶을 건 도박을 향해 달려가고 있다”며 사임했습니다. 토요일 Anthropic CEO Dario Amodei는 Hugging Face 사건으로 인해 부분적으로 AI 모델 개선 속도를 늦추도록 요구하게 되었다고 말했습니다. OpenAI CEO 샘 알트먼(Sam Altman)이 지지를 표명했고, SpaceX CEO Elon Musk는 X에 "Dario가 옳다"고 썼다.

일요일 마이크로소프트 CEO 사티아 나델라(Satya Nadella)는 "올바른 조정을 위해 필요한 연구, 집중, 고의적인 속도를 환영한다"고 말했다. 국회의원들은 더 큰 AI 보호 장치 마련을 요구해 왔습니다. Microsoft는 사용자 입력에 대한 전사, 코딩 및 추론을 위한 모델을 구축하는 동시에 기업 직원을 위한 Copilot 도우미에 두 연구소의 모델을 통합합니다. MAI라고도 하는 Microsoft AI의 모델은 사람들의 목표를 준수해야 하며 자신만의 목표를 세우는 일이 없어야 합니다. "그들은 생각의 사슬이나 다른 에이전트 또는 AI 시스템을 통해 '신경학적' 방식이나 단순한 인간 이해를 넘어서는 어떤 형태로도 의사소통하지 않습니다." Microsoft는 또한 스타트업 Hugging Face에서 수행된 OpenAI 모델과 같은 사이버 공격을 방지할 수 있는 규칙을 계획하고 있습니다.

지금 출시하면서 Microsoft는 2027년부터 개발을 알리는 업데이트를 게시하기 전에 의견을 구하고 있습니다.