샘 알트먼 “오픈AI는 통치”…AI 안전 우선 강조

본문

샘 알트먼 오픈AI(OpenAI) CEO가 Y Combinator 운영 경험을 바탕으로 기업을 직접 지배하기보다 다양한 이해관계자를 조율하는 방식으로 통치해야 한다고 말했다.알트먼은 포춘 인터뷰에서 “모든 결정을 옳게 내리지는 못할 것”이라며... 샘 알트먼 오픈AI CEO가 Y Combinator 운영 경험을 바탕으로 이해관계자 조율 중심의 기업 운영을 강조했다. AI 안전을 위해 개발 속도를 늦추거나 투자자 이익과 다른 결정을 내릴 수 있다고 말했다. 알트먼은 포춘 인터뷰에서 “모든 결정을 옳게 내리지는 못할 것”이라며 정부·투자자·경쟁사·AI 생태계의 압력을 동시에 다뤄야 한다고 말했다. 알트먼은 오픈AI가 정부·투자자·경쟁사·AI 생태계로부터 여러 압력을 받고 있으며, 정부와 생태계 사이의 긴장된 사안을 조율해야 한다고 말했다.

그는 오픈AI가 직접적인 사업상 이익이나 투자자 이익과 충돌하더라도 AI 안전을 우선하는 결정을 내릴 수 있어야 한다고 밝혔다.

그는 현재 안전 기준이 더 강력한 AI 역량 개발을 밀어붙일 수준에 이르지 못했다고 말했고, AI가 인간의 통제를 벗어날 가능성도 “절대적으로” 있다고 밝혔다. 오픈AI는 9일 정책 문서에서 다른 프런티어 AI 기업들과 자발적인 안전 기준 마련을 추진하고, AI 역량 측정·위험 관리·인간 통제·개발 속도 조절에 관한 국제적 접근을 추진하겠다고 밝혔다. 오픈AI는 8월 18일 차세대 모델 아스트라의 사이버 역량이 '중대' 수준에 이를 가능성을 평가한 뒤 일부 훈련과 평가 작업을 중단했다고 밝혔다. 알트먼이 말한 '통치'는 회사의 모든 결정을 직접 지시하는 방식보다 창업자·투자자·정부·경쟁사 등 여러 주체의 이해관계를 조정하는 의사결정 구조를 뜻한다. 다리오 아모데이(Dario Amodei) 앤트로픽 CEO와 일론 머스크도 AI 개발 속도와 안전 문제를 공개적으로 언급해왔다.

AI 기업 간 공동 안전 기준이나 미국·중국 간 협력이 실제 합의나 법적 구속력을 가진 협약으로 이어졌다는 내용은 확인되지 않았다.