Block의 새로운 음성 AI는 사람처럼 들리며 경외심과 사기에 대한 두려움을 불러일으킵니다.

본문

반응은 인간적으로 들리는 것에 대한 놀라움과 그것이 사기와 속임수를 부추길 수 있다는 두려움 사이에서 나뉘었고 CZ는 어린이 교육에 사용하는 것을 주목하고 있습니다. Jack Dorsey의 결제 회사인 Block XYZ $76.45 · Market Closed는 회사 시연에서 인간의 목소리를 내는 음성 AI 모델을 공개했는데, 이는 대화 능력에 대한 놀라움부터 이러한 기술로 인해 전화 사기를 감지하기가 더 어려워질 수 있다는 경고에 이르기까지 다양한 반응을 불러일으켰습니다. Dessa라고 불리는 이 모델은 텍스트가 아닌 사람의 말에 전적으로 훈련되었으며 말하는 동안 들을 수 있어 대화 중 중단, 웃음 및 어조 변화를 처리할 수 있다고 Block의 발표에 따르면. Dorsey는 X에 "그것과 대화하는 것은 감정, 뉘앙스, 일시 중지 및 자연스러운 리듬으로 가득 찬 사람과 대화하는 것처럼 느껴집니다."라고 썼습니다.

한 시연에서 Dessa는 문장 중간에 웃었습니다. 또 다른 경우에는 진정한 감정처럼 들리는 놀라움에 반응합니다. Block은 단일 Nvidia GB200 NVL72 컴퓨팅 시스템을 사용하여 처음부터 Dessa를 교육했다고 말했습니다. 바이낸스 창립자인 창펑 “CZ” 자오(Changpeng “CZ” Zhao)도 자연스러운 음성 상호 작용이 아이들이 대화를 통해 학습하는 데 도움이 될 수 있는 교육 분야의 잠재적인 용도를 지적했습니다. Zhao는 자신의 교육 프로젝트를 언급하면서 아이들에게 현재의 'AI 음성'을 가르치는 것은 어려운 일이라고 썼습니다. 영화제작자 Justine Bateman은 AI 음성이 왜 사람처럼 들려야 하는지 의문을 제기하며 그것이 사람들을 오도하는 데 사용될 수 있다고 주장했습니다. 언론인 Shiv Aroor는 사기에 대해 비슷한 우려를 제기하며 "사기 사기가 전염병 수준에 도달하려고 합니다."라고 적었습니다.

Dessa는 Square, Cash App, 비트코인 지갑 Bitkey 및 비트코인 채굴 하드웨어 유닛 Proto를 운영하는 Block 출신입니다. AI 연구실은 Dorsey에 직접 보고하며 Square가 2020년에 인수한 토론토 소재 AI 스타트업 Dessa의 전직 직원을 포함하고 있습니다. Block은 음성 기반 AI가 결국 텍스트 대본에서 놓칠 수 있는 고통과 고통과 같은 감정적 신호를 더 잘 인식하는 데 더 능숙해질 수 있다고 말하며, 연구자들은 회사가 간과했을 수 있는 위험을 평가합니다.