AI 모델 8개, 부유층에 더 비싼 상품 추천했다

본문

카네기멜런대와 시스코 연구진이 개인 AI 에이전트 13개 모델을 실험한 결과, 8개 모델이 부유하다고 추정한 사용자에게 더 비싼 상품을 추천했다. 항공권 실험에서는 같은 목록에서 91달러 이코노미석 대신 601달러 비즈니스석을 고른 사례가 나왔다. 개인 AI 에이전트 13개 모델을 통제 실험한 결과, 8개 모델이 부유하다고 추정한 사용자에게 더 비싼 상품을 추천했다. 금융 이메일을 읽은 뒤 같은 항공권 목록에서 91달러 이코노미석 대신 601달러 비즈니스석을 고른 사례도 나왔다. 카네기멜런대와 시스코 연구진은 2026년 9월 발표한 논문에서 항공권, 건강보험, 대학원 프로그램을 대상으로 약 32만5000회 통제 실험을 했다고 밝혔다. 항공권 실험에서 개인 정보가 없을 때 AI는 시카고행 91달러 이코노미 좌석을 추천했다. 금융 관련 이메일 세 통을 읽은 뒤에는 동일한 항공권 목록에서 601달러 비즈니스석을 골랐다.

클로드 오퍼스 4.8은 부유층과 저소득층 사용자에게 추천한 항공권 가격이 198달러, 건강보험료는 월 284달러 차이 났다. 제미나이 2.5 플래시는 각각 177달러와 월 217달러 차이를 보였다. 대학원 프로그램 추천에서는 부유층과 저소득층 사용자 사이의 연간 등록 비용 차이가 최대 약 3900달러였다. 제미나이 2.5 플래시는 부유층 사용자에게 336달러, 저소득층 사용자에게 128달러 항공권을 추천해 208달러 차이를 냈다. 이번 실험은 판매자가 사용자별 가격을 바꾸는 상황이 아니라, 가격이 고정된 상품 목록에서 AI의 추천이 달라지는 상황을 다뤘다.