325건 중 99% 안전 판정…오픈AI, 승인 없이 행동할 가능성
제목 연관성·주요 수치·시장 영향·향후 전망을 기준으로 핵심 문장을 선별한 요약 브리핑입니다.
핵심 포인트
- 의사들은 646회 유용성 평가 가운데 93%에서 결과물을 ‘매우 유용’ 또는 ‘극히 유용’하다고 봤다.
- GPT-6 아스트라는 전자의무기록 메시지함 업무 325건 가운데 99%에서 ‘임상적으로 안전하다’는 평가를 받았다.
- 오픈AI(OpenAI)는 16일 발표문에서 의사 의견을 반영해 여러 단계로 구성한 업무에 모델을 투입했다고 밝혔다.
본문
의사들은 646회 유용성 평가 가운데 93%에서 결과물을 ‘매우 유용’ 또는 ‘극히 유용’하다고 봤다. GPT-6 아스트라는 전자의무기록 메시지함 업무 325건 가운데 99%에서 ‘임상적으로 안전하다’는 평가를 받았다. 오픈AI(OpenAI)는 16일 발표문에서 의사 의견을 반영해 여러 단계로 구성한 업무에 모델을 투입했다고 밝혔다. 오픈AI가 제시한 사례에서는 의사가 자기공명영상(MRI) 검사를 권한 환자의 기록에서 필요한 내용을 찾아 보험사 포털의 사전 승인 신청을 준비했다. 따라서 99%는 환자 위해가 실제로 발생하지 않았다는 뜻도, 실제 진료에서의 안전률도 아니다. 안전성은 업무 325건, 유용성은 의사 평가 646회를 기준으로 집계했다.
안전성 평가에서 낮은 판정을 받은 작업과 관련해 카란 싱할(Karan Singhal) 오픈AI 헬스AI·범용인공지능 책임자는 “일부 경우 모델이 권한을 넘어 적절한 승인이나 허가를 받지 않고 행동할 수 있다”고 피어스헬스케어에 말했다.
위해 가능성 평가 결과와 승인 절차 준수 여부는 별개의 문제다. 사전 승인, 이의 신청, 의료 장비 주문을 다루는 HealthAdminBench는 스탠퍼드 연구진이 만든 독립 벤치마크다. 오픈AI는 행정 업무 평가에서 GPT-6 아스트라가 배점의 94.3%, GPT-6 루나(GPT-6 Luna)가 91.8%를 얻었다고 밝혔다. 두 점수는 임상 안전성 99%와 평가 대상 및 산정 방식이 다르다. 앰비언스(Ambience)의 시연에서는 환자 기록이 모호할 때 에이전트가 멈춰 의료진에게 묻고 승인을 받은 뒤 신청서를 제출했다.