Nvidia 연구 결과 약간 관련성이 없는 텍스트가 AI 모델 정확도를 급격히 약화시키는 것으로 나타났습니다.

본문

Nvidia 관련 연구에 따르면 오해의 소지가 있는 텍스트가 단 10%만 있어도 LLM 정확도가 급격하게 저하되는 반면 주의 집중 대상 몇 개를 가리면 대부분이 복원됩니다. Nvidia의 AI 기술 센터와 관련된 연구에 따르면 오해의 소지가 있는 구절 중 일부가 개방형 모델을 탈선시킬 수 있으며 일부 관심을 끄는 사람이 비난을 받을 수 있음을 보여줍니다. 대형 언어 모델은 긴 문서를 읽는 데 점점 더 능숙해질 것으로 예상됩니다. Nvidia 계열 연구원의 새로운 연구에 따르면 잘못된 부분을 읽는 데도 매우 능숙해지고 있다고 합니다. 연구 결과에 따르면 긴 프롬프트 안에 약간의 오해의 소지가 있는 텍스트가 있으면 답변 정확도가 급격히 떨어질 수 있습니다. 제안된 수정 사항은 놀랍게도 외과적입니다. 관련 없는 자료를 처리하는 소수의 주의 헤드를 마스킹하면 개방형 모델에서 손실된 정확도의 상당 부분이 복원됩니다.

NVIDIA AI 기술 센터의 Zih-Ching Chen이 공동 저술한 이 연구는 이 문제에 기억에 남는 이름인 "첫 번째 잉크 방울" 효과를 부여했습니다. 헤드라인 결과: 128K 토큰 창과 같이 고정 길이 컨텍스트의 10%만 구성하는 어려운 선택 요소가 있는 경우 정확도가 급격히 떨어졌습니다. 연구자들은 관련 없는 텍스트를 처리하는 머리 몇 개를 마스킹하면 산만한 사람이 지웠던 정확성이 상당 부분 회복된다는 사실을 발견했습니다. 이는 AI 시스템이 데이터베이스나 검색 색인에서 문서를 가져와 응답하기 전에 모델에 공급하는 일반적인 설정입니다. 10% 오염으로 인해 이미 대부분의 피해가 발생한 경우 "대체로 정확한" 검색 파이프라인은 충분히 정확하지 않을 수 있습니다. 관련 없는 텍스트를 최소화하는 AI 모델의 취약성은 정확성을 유지하기 위해 정확한 데이터 검색과 대상 모델 조정의 필요성을 강조합니다.

Nvidia의 연구에 따르면 약간의 관련 없는 텍스트가 AI 모델 정확도를 급격히 약화시키는 것으로 나타났습니다. Crypto Briefing에 처음 등장했습니다.