AGI 시대 준비…구글 딥마인드, AI 안전 전담 연구소 설립

본문

[디지털투데이 AI리포터] 구글 딥마인드가 범용인공지능(AGI)의 안전한 개발과 사회적 영향에 대응하기 위한 연구조직 '딥마인드 인스티튜트'(DeepMind Institute)를 설립했다. AI 성능 경쟁이 가속화하는 가운데 기술적 위험뿐 아니라 제도와 사회 전반의 변화까지 논의하겠다는 구상이다.17일(현지시간) 일본 IT매체 기가진에 따르면 딥마인드 인스티튜트는 AI 연구자와 다양한 분야의 전문가들이 AGI 시대의 핵심 과제를 연구하고 의견을 발표하는 플랫폼으로 운영된다. 17일(현지시간) 일본 IT매체 기가진에 따르면 딥마인드 인스티튜트는 AI 연구자와 다양한 분야의 전문가들이 AGI 시대의 핵심 과제를 연구하고 의견을 발표하는 플랫폼으로 운영된다. 구글과 딥마인드 내부 인력뿐 아니라 국제 연구 커뮤니티에도 참여 기회를 제공한다. 딥마인드는 AI의 성능 향상 속도가 빨라지면서 AGI 실현이 가까워지고 있다고 전망했다.

다만 현재 AI는 기본적인 작업에서도 오류를 범하는 등 완전한 AGI 수준에는 도달하지 못했다고 설명했다. 연구소가 다룰 주요 과제는 AI 시스템의 안전한 개발과 통제, 사회적 제도 설계다. 특히 AI가 스스로 성능을 개선하는 과정에서 인간의 통제를 벗어날 가능성과 사이버 공격, 생물학적 위험 등에 대한 대응 방안을 논의한다. 기술적 안전장치뿐 아니라 AGI가 고용과 경제, 인간의 가치관에 미칠 영향도 연구 대상이다. AI 확산에 맞춰 어떤 제도와 정책을 마련해야 하는지, 사회적 이익을 어떻게 확보할지도 논의한다. 연구소는 딥마인드 공동창업자 셰인 레그와 데미스 허사비스, 구글의 제임스 매니카가 이끈다. 초기에는 AI 추론 과정의 투명성, AGI 시대 경제정책, 첨단 AI 평가체계 등을 다룬 글을 공개했다.