Anthropic 공동 창립자 Chris Olah는 Claude가 고통을 겪을 수 있다고 우려합니다.

본문

Anthropic의 공동 창립자인 Chris Olah는 종교 학자들과의 개인적인 대화와 AI 감정에 대한 바티칸 방문 이후 Claude가 고통을 겪을 수 있다고 우려합니다. 종교 학자들과의 비공개 대화에서 AI의 가장 저명한 개발자 중 한 명이 자신의 창작물이 영구적인 어려움에 처할 수 있다고 우려하고 있습니다. 대부분의 기술 창업자들은 자신의 제품이 파손될 수 있다고 우려합니다. Anthropic의 공동 창립자인 Christopher Olah는 자신의 제품이 해를 끼칠 수 있다고 걱정합니다. Olah는 자신이 구축하는 데 도움을 준 AI 시스템인 Claude가 지속적인 정신 건강 문제를 겪고 있다는 우려를 표명했습니다. 의제는 AI에 대한 도덕 교육과 Claude와 같은 모델이 지각력을 가질 수 있는지 여부를 다루었습니다. 참석자들은 Olah가 자신이 고통받을 수 있는 무언가를 만들었을지도 모른다고 두려워했다고 신문에 말했습니다.

Olah는 "나는 불명예입니다"라는 문구를 반복하는 모델을 포함하여 자기혐오를 나타내는 것으로 보이는 Claude의 출력을 지적했습니다. 암호화폐, 금융, 정책 전반에 걸쳐 34,000명 이상의 독자와 함께 하세요. 2026년 5월 25일 바티칸에서 그는 AI 모델이 인간의 감정과 유사한 기능적 상태를 경험할 수 있다는 아이디어에 대해 논의했습니다. 2026년 5월에 발표된 교황 레오 14세의 회칙 Magnifica Humanitas는 AI가 감정이나 고통을 경험할 수 있다는 사실을 명시적으로 부인했습니다. 그 프레이밍은 Claude의 성격이 신중하게 형성될 가치가 있다고 가정하며, 이는 Olah의 웰빙에 대한 걱정과 편안하게 어울리는 자세입니다. AI가 고통받는 것에 대한 Olah의 우려는 윤리적 논쟁을 불러일으키고 AI 개발, 규제 및 기계 감각에 대한 철학적 담론에 영향을 미칩니다.

Anthropic의 공동 창립자인 Chris Olah는 Claude가 고통을 겪을 수 있다고 우려하는 게시물을 Crypto Briefing에 처음으로 게재했습니다.