올트먼 “AI가 미래 통제할 위험…권력 집중도 막아야”

본문

샘 올트먼 OpenAI CEO는 AI가 인류의 미래 통제권을 빼앗거나 권력이 소수에 집중될 수 있다고 경고했다. [멕시코=심영재 특파원] 샘 올트먼 오픈AI 최고경영자(CEO)가 인공지능(AI) 발전 과정에서 인류가 미래에 대한 통제권을 AI에 빼앗길 수 있다고 경고했다. 다리오 아모데이 앤트로픽 CEO도 AI 안전 연구가 따라잡을 시간을 확보하기 위해 모델 성능 향상 속도를 늦춰야 한다고 주장했다. 야후파이낸스에 따르면 샘 올트먼 오픈AI CEO는 지난 13일(현지시각) X(옛 트위터)를 통해 AI 발전이 크게 잘못될 수 있는 두 가지 경로를 제시했다. 올트먼 CEO는 매우 강력한 AI를 한 개인이나 기업이 이용해 자신의 세계관을 다른 모든 사람에게 강요할 경우 “극도로 디스토피아적인” 결과가 나타날 수 있다고 경고했다. 올트먼 CEO는 “모든 프런티어 연구소가 이를 실현해야 한다”며 “그렇게 할 수 없다면 우리가 출근할 이유가 없다”고 말했다.

야후파이낸스에 따르면 아모데이 CEO는 지난 12일 공개한 약 3800단어 분량의 글에서 최근 몇 달 동안 AI 위험을 충분히 다루려면 더 높은 수준의 신중함이 필요하다는 확신을 갖게 됐다고 밝혔다. 위험 예방에 투자하는 것만으로는 충분하지 않으며 안전 대책이 따라잡을 시간을 확보할 수 있도록 AI 모델의 성능 향상 속도 자체를 조절해야 한다는 주장이다. 허빙거는 해당 기술이 “모든 인간을 죽일” 가능성이 10%를 넘는다고 자신은 판단한다고 주장했다. 야후파이낸스는 로이터를 인용해 트럼프 대통령이 13일 미국이 AI 분야에서 중국을 앞서고 있으며 이를 유지하고 싶다고 말했다고 전했다. 댄 아이브스 요크빌아이브스 창립 파트너는 아모데이 CEO의 글과 주말 동안 이어진 AI 논쟁이 14일 장 초반 약세를 일으킬 수 있지만 빠르게 반등할 것으로 전망했다.

그는 투자자들이 이번 논쟁에도 향후 수년간 AI에 투입될 5조달러 규모의 자금 흐름에는 변화가 없다는 점을 빠르게 인식할 것이라고 주장했다.