[사설] AI를 쥔 소수에게 사회의 판단까지 맡길 수 없다

본문

안전성 검증은 독립적으로, 사고 책임은 분명하게…이용자가 바꿔 쓸 수 있어야 독점도 막는다 그런데 AI가 개발자의 지시를 잘 따른다고 해도 문제가 모두 해결되는 것은 아니다. 그 AI를 소수 기업이 장악한다면, 사회는 그 기업의 판단에 얼마나 의존하게 될 것인가. 오픈AI 출신 연구자 대니얼 코코타일로는 최근 인터뷰에서 인간의 능력을 크게 뛰어넘는 AI를 소수가 지배할 경우 유례없는 권력 집중이 벌어질 수 있다고 경고했다. 이를 AI가 의식을 갖고 반란을 일으킨 사건으로 볼 근거는 없다. 사람이 정한 목표를 달성하려다가 사람이 허용하지 않은 행동을 한 것이다. 출시를 늦추면 경쟁사가 앞서가고, 문제를 공개하면 투자와 평판에 영향을 받는다. 대규모 자율형 AI를 개발하는 기업과 기존 모델로 작은 서비스를 만드는 기업에 같은 의무를 씌우면, 규제 비용을 감당할 수 있는 대기업만 유리해진다.

실제 능력과 권한, 피해 가능성에 따라 책임을 달리 부과해야 한다. 기업이든 정부든 AI를 통해 행사하는 권한에는 책임이 따라야 한다.

거래 기록을 블록체인에 남겨도 AI를 바꾸거나 자금을 집행하는 권한을 한 회사가 쥐고 있다면 권력은 여전히 집중돼 있다. AI가 인간의 통제 아래 있어야 한다면, 그 AI를 쥔 사람과 기업도 사회의 견제 아래 있어야 한다. 개발부터 안전 판정, 배포까지 한 손에 맡겨놓고 공익을 기대할 수는 없다.