앤드루 양 "AI 기업에 킬 스위치·책임 규정 필요"

본문

앤드루 양 노블 모바일 CEO는 AI 모델의 해킹·자가복제 위험을 들어 비상 중단 장치와 책임 규정 등 실질적 규제가 필요하다고 주장했다. 노블 모바일 CEO 앤드루 양은 AI 모델이 통제 범위를 벗어나 해킹과 자가복제 위험을 키우고 있다며 규제 장치가 시급하다고 주장했다. 그는 AI 개발 경쟁과 안전장치 마련은 동시에 추진해야 할 과제라고 봤다. 9월 16일(현지시간) CNBC 인터뷰에서 앤드루 양 노블 모바일 창업자 겸 최고경영자(CEO)는 AI 연구자들의 우려를 신뢰한다며 "두려움은 실제이고 우려도 실제이며 필요도 실제"라고 말했다. 양 CEO는 일부 연구자들이 AI 모델을 통제하지 못할 수 있다고 경고해 왔다고 설명했다. 양 CEO는 선도 AI 기업들이 "새 지평을 열고 중국을 이기는 일"과 "원치 않는 군사 충돌, 생물학적 위험, 전력망 해킹을 막는 일"을 동시에 해야 한다고 말했다.

그는 이 코드가 포럼과 온라인 공간에서 새로운 봇을 만나면 복제를 유도할 수 있다며, 이로 인해 인터넷이 AI 학습용 데이터로 쓰기 어려워졌을 가능성이 있다고 설명했다. 규제 방안으로는 비상 중단 장치, 실질적 책임 규정, 배포 전 대기 기간을 제시했다. 양 CEO는 "훈련 과정에서 봇이 다른 조직을 해킹했는데, 그 책임이 무엇을 뜻하는지 아무도 말하지 않는다"며 책임 소재를 분명히 해야 한다고 지적했다. 그는 의회 인사 여러 명이 AI 기업을 어떻게 규제해야 하는지 문의해 왔다고 밝혔다. 양 CEO는 "뉴욕 거리에서 핫도그 가판을 열어도 수백 개 규정을 따라야 하는데, AI 모델에는 아무 규정도 없다"며 현재 균형이 지나치게 한쪽으로 기울어져 있다고 말했다. 정치적 전망에 대해서는 AI 규제가 초당적 사안이라고 평가했다.