UC Berkeley 연구에서는 미세 조정이 AI 개인 정보 보호 장치를 조용히 깨뜨릴 수 있음을 발견했습니다.

본문

UC Berkeley 연구원들은 양성 데이터에 대해 AI를 미세 조정하면 벤치마크가 최대 98~99%까지 저하되는 조용한 개인 정보 보호 붕괴가 발생할 수 있음을 발견했습니다. 연구원들은 작고 무해해 보이는 훈련 데이터 세트가 표준 안전 테스트와 인간 검토자가 놓치는 '개인 정보 보호 붕괴'를 유발할 수 있다고 말합니다. AI 모델을 더 나은 고객 지원 상담원으로 가르치는 것은 무해해 보입니다. UC Berkeley의 새로운 연구에 따르면 모델이 개인 정보 보호를 중단하도록 가르칠 수도 있습니다. Berkeley 연구원들은 작은 미세 조정 데이터 세트가 인간 검토자가 포착하지 못하는 유해한 행동을 유발할 수 있다는 사실을 발견했습니다. Berkeley 팀은 이러한 추가 교육이 모델의 상황별 개인정보 보호 파악을 방해할 수 있다는 사실을 발견했습니다.

GPT-4o-mini와 같은 모델에서는 상황별 개인 정보 보호 벤치마크의 정확도가 미세 조정 후 최대 98~99%까지 떨어졌습니다. 이 연구에서는 5개의 미세 조정 데이터세트를 대상으로 폐쇄형 시스템과 개방형 시스템 모두에 걸쳐 6개 모델을 테스트했습니다. 이러한 개인 정보 보호 기능은 훈련 중인 특정 작업과 관련된 기능보다 미세 조정에 더 취약한 것으로 나타났습니다. Stanford의 2024년 연구에서는 사소한 미세 조정이라도 GPT-3.5 및 Llama-2-Chat과 같은 모델의 안전성을 손상시킬 수 있다고 보고했습니다. 일반적인 지원 기록을 미세 조정하면 모델의 개인 정보 보호 판단이 약화될 수 있으며, 이러한 배포에는 구축자가 알지 못할 수 있는 위험이 따릅니다. AI 모델을 미세 조정하면 개인 정보 보호 장치가 약화되어 표준 안전 평가에 의존하는 기업에 숨겨진 위험이 발생할 수 있습니다.

UC 버클리 포스트 연구에서는 미세 조정이 Crypto Briefing에 처음 등장한 AI 개인 정보 보호 장치를 조용히 깨뜨릴 수 있음을 발견했습니다.