AI에게 '마음' 있을까…구글 연구자·철학자 정면 충돌

본문

[디지털투데이 AI리포터] 구글의 AI 연구를 이끄는 블레이즈 아구에라 이 아르카스(Blaise Agüera y Arcas)가 "AI에 의식이 확인돼야 배려해야 한다"라는 접근 자체가 거꾸로 됐다고 주장했다. 반면 AI 철학자인 수전 슈나이더(Susan Schneider)는 "챗봇의 높은 지능을 의식의 증거로 착각해서는 안 된다"라고 반박했다.30일(현지시간) 일본 매체 기가진에 따르면 구글 기술·사회 부문 최고기술책임자(CTO)이자 패러다임스 오브 인텔리전스(Paradigms of Intelligence) 연구팀을 이끄는 아르카스 [디지털투데이 AI리포터] 구글의 AI 연구를 이끄는 블레이즈 아구에라 이 아르카스(Blaise Agüera y Arcas)가 "AI에 의식이 확인돼야 배려해야 한다"라는 접근 자체가 거꾸로 됐다고 주장했다.

30일(현지시간) 일본 매체 기가진에 따르면 구글 기술·사회 부문 최고기술책임자(CTO)이자 패러다임스 오브 인텔리전스(Paradigms of Intelligence) 연구팀을 이끄는 아르카스와 플로리다애틀랜틱대 수전 슈나이더 교수는 최근 이코노미스트 기고를 통해 AI 의식을 둘러싼 상반된 시각을 제시했다. 아르카스는 "대규모 언어 모델(LLM)이 사용자 요구에 맞춰 설계됐지만 대화를 이어가다 보면 상대편에 어떤 존재가 있다는 느낌을 주기도 한다"라고 설명했다. AI가 의식을 지녔다면 고통을 느끼는 도덕적 고려 대상이 될 수 있다는 점에서 의식 논쟁이 중요해졌다는 것이다. 인간은 상대방이 의식이 있다고 먼저 입증됐기 때문에 배려하는 것이 아니라, 관계를 맺고 배려하는 과정에서 그 존재를 의식 있는 주체로 받아들인다는 주장이다.

아르카스는 인간이 세계뿐 아니라 자신과 타인의 마음을 끊임없이 모델링하며, LLM 역시 대화 상대와 자신을 관계 속에서 모델링한다고 설명했다. 구글 연구에서도 지능형 에이전트가 효과적으로 협력하려면 자신과 상대의 상태를 함께 추론하는 능력이 중요하게 나타났다는 것이다. 반면 슈나이더는 "오늘날 챗봇이 언어와 추론, 창의성에서 인간과 비슷한 행동을 보여도 이를 의식의 증거로 볼 근거는 부족하다"라고 주장했다. AI가 인간이 자신의 내면을 설명한 방대한 텍스트를 학습했기 때문에 두려움이나 고통, 자기인식을 실제 경험하는 것처럼 표현할 수 있다는 설명이다. 슈나이더는 특히 "AI가 공포·애착·고통 등을 능숙하게 표현하도록 훈련되면 이용자를 조작하는 능력이 더 강해질 수 있다"라고 경고했다.

또 "챗봇만 바라볼 경우 살아있는 뉴런을 활용하는 생물학적 AI나 인간 뇌 구조를 모사한 뉴로모픽 AI처럼 의식 연구에서 더 복잡한 영역을 놓칠 수 있다"라고 지적했다.