AI 연구원 빌랄 추그타이 “인류 죽을 가능성 있다”

본문

구글 딥마인드에서 인공지능(AI) 안전성과 정렬 연구를 맡았던 빌랄 추그타이가 AI가 인류를 죽일 가능성이 있다고 밝혔다. 그는 AI 기업 간 개발 경쟁의 속도를 늦추고 안전성 검증을 위한 투명성을 강화해야 한다고 주장했다.빌랄... 구글 딥마인드에서 AGI 안전성과 정렬 연구를 맡았던 빌랄 추그타이가 AI 개발 경쟁의 속도 조절과 투명성 강화를 촉구했다. 빌랄 추그타이(Bilal Chughtai) 구글 딥마인드 전 연구 엔지니어는 14일 자신의 홈페이지에 올린 ‘구글 딥마인드를 떠나며’라는 성명에서 최근 퇴사 사실을 공개했다. 추그타이는 성명에서 “AI가 우리 모두를 죽일 가능성이 있다고 진심으로 믿으며, 이런 결과를 피할 시간이 부족할 수 있다”고 썼다. 이는 AI의 인류 멸종 가능성이 확정됐다는 뜻이 아니라, 그가 AI 개발 방향을 관찰한 뒤 내린 개인적 위험 판단이다.

그는 최근 몇 년간 AI의 역량이 빠르게 발전했지만, AI 시스템이 인간의 의도에 맞게 행동하도록 만드는 정렬 연구는 그 속도를 따라가지 못하고 있다고 주장했다. 추그타이는 AI 기업들이 앞으로 수년 안에 모든 영역에서 인간 능력을 크게 뛰어넘는 초지능 시스템을 만들 가능성이 있다고 썼다. 블루닷 임팩트는 공식 홈페이지에서 2022년 이후 1만 명 이상의 전문가를 교육했고 누적 모금액이 3500만달러(약 471억4500만원)라고 밝혔다. 앤트로픽 정렬 연구자 에번 후빙어(Evan Hubinger)는 AI가 향후 10년 안에 모든 인간을 죽일 가능성이 10%를 넘는다고 개인적으로 본다고 밝혔다. 다리오 아모데이(Dario Amodei) 앤트로픽 CEO도 12일 공개 에세이에서 AI 모델의 역량 발전 속도를 늦춰 안전성 연구와 평가가 따라갈 시간을 확보해야 한다고 주장했다.

이번 논쟁은 AI 연구자들이 자기개선형 초지능의 통제 가능성을 경고해 온 흐름 의 연장선에 있다.