오픈AI · 앤트로픽, ‘AI 대재앙’ 대비 비밀 시나리오 준비–악시오스

본문

오픈AI와 앤트로픽 등 주요 AI 기업 경영진이 대규모 AI 사고 이후의 사회적 반발과 정치적 규제에 대비해 비공개 논의를 진행하는 것으로 전해졌다. “6~12개월 내 AI 대형 사고”… 업계 내부 경고 "AI에 의한 금융·전력망 마비 가능성" 비상계획 AI 개발사들, 대형 사고 이후 정치적 반발 대비 [블록미디어 이정화 기자] 오픈AI와 앤트로픽 등 주요 인공지능(AI) 기업 경영진이 대규모 AI 사고 이후 발생할 사회적 반발과 정치적 규제에 대비하고 있다는 보도가 나왔다. 미국 정치 전문매체 악시오스는 9일(현지시각) 주요 AI 기업 고위 관계자들이 대형 사고 이후의 대응 방안을 비공개로 논의하고 있다고 보도했다. 일부 업계 관계자들은 향후 6~12개월 안에 중대한 AI 사고가 발생할 수 있다고 경고했다.

다리오 아모데이 앤트로픽 최고경영자(CEO)와 샘 올트먼 오픈AI CEO는 물론, AI 규제에 소극적인 도널드 트럼프 미국 대통령에게도 비판이 집중될 수 있다는 분석이다.

오픈AI 대변인은 “오픈AI는 다양한 잠재적 상황을 논의하고 대응 방안을 검토하는 대비 훈련을 진행한다”며 “이러한 시나리오를 불가피한 사건으로 간주하는 것은 아니다”라고 밝혔다. 현재는 AI 규제 법안 통과 가능성이 낮지만, 대형 사고 이후 추진될 입법과 정책에 영향을 미치기 위해 사전 대응에 나서고 있다는 설명이다. 규제 방안으로는 초지능 개발 금지와 첨단 AI 개발 일시 중단 등이 거론된다. AI 기업들은 사고 이후 규제 강화가 불가피하더라도 실제 집행에는 상당한 어려움이 따를 것으로 보고 있다. 이미 세계 경제가 AI 인프라 투자와 밀접하게 연결돼 있기 때문이다. 사고가 터지면 공화당과 민주당이 공동으로 AI 규제안을 내놓을 수 있다는 분석이다. [블록미디어 이정화 기자] 오픈AI와 앤트로픽 등 주요 인공지능(AI) 기업 경영진이 대규모 AI 사고 이후 발생할 사회적 반발과 정치적 규제에 대비하고 있다는 보도가 나왔다.