[권성민 칼럼] AI가 인류를 멸망시킨다? 공포로 법을 만들어선 안 된다

본문

요즘 전세계에서는 “인공지능(AI)이 인류를 멸망시킬 수 있다”는 경고가 쏟아지고 있다. 정치권에서는 AI 개발을 늦추고 규제를 강화해야 한다는 목소리가 커지고 있다. 문제는 위험을 알리는 수준을 넘어 공포를 키우고, 그 공포를 곧바로 규제의 근거로 삼는 데 있다. 통제를 벗어난 AI가 문명을 파괴할 수 있다는 전직 연구원의 글이 수억 회 조회됐고, AI 안전 연구단체에는 기부금이 몰렸다고 한다. 정치권과 종교계, 기업과 가정에서도 AI가 인류를 끝낼 수 있다는 논쟁이 벌어지고 있다. 현재 AI의 잦은 오류를 직접 보는 기업인들은 “인류를 멸망시킬 정도로 강력하다는 주장은 현실과 거리가 있다”고 말한다. 그는 “속도와 안전은 함께 달성할 수 있다” 며 새로운 규제가 반드시 필요한 것은 아니라고 했다. 강한 규제는 자금과 인력이 풍부한 대기업에는 견딜 만한 비용이다.

앤트로픽과 오픈AI가 추진하는 공동 안전기준에 대해 스타트업들은 “경쟁을 막는 규제 장벽” 이라고 반발했다.

AI가 스스로 판단하고 외부 시스템을 움직이는 ‘에이전트’ 단계로 발전하면 위험도 커진다. AI가 어떤 정보에 접근하는지, 돈이나 장비를 직접 움직일 권한이 있는지, 사람의 승인 없이 어떤 행동까지 할 수 있는지를 따져야 한다. 단순한 문서 작성이나 정보 검색까지 같은 잣대를 적용해서는 안 된다.