답변 번복률 14.3%→6.6%…젬마4 훈련 뒤 우화 정답률 하락

본문

젬마4 E4B 기반 실험 모델은 MoralChoice 답변 번복률을 14.3%에서 6.6%로 낮췄지만, MORABLES 정답률은 56.5%에서 53.4%로 하락했다. 도덕적 논증의 질을 보상해 추가 훈련한 젬마4 기반 모델은 MoralChoice 평가에서 선택지 순서에 따른 답변 번복률을 14.3%에서 6.6%로 낮췄다. 반면 MORABLES 우화 평가의 정답률은 56.5%에서 53.4%로 떨어졌다. 구글 딥마인드(Google DeepMind) 연구진은 22일(한국시간) arXiv에 공개한 논문에서 이 결과를 밝혔다. 실험은 기본 젬마4 제품이 아니라 젬마4 E4B(Gemma-4 E4B)를 출발점으로 삼아 별도 훈련한 모델을 대상으로 했다. 연구진은 각 딜레마에 칸트 윤리학, 공리주의, 덕 윤리, 돌봄 윤리, 사회계약론 등 다섯 관점을 적용해 학습 문항 780개를 만들었다.

MoralChoice에서는 도덕적 갈등이 큰 사례의 선택지 순서를 바꿨을 때 답이 뒤집히는 비율이 기본 모델의 14.3%에서 훈련 모델의 6.6%로 낮아졌다. 연구진은 훈련 뒤 모델이 유보적인 설명을 줄이고 ‘해야 한다’는 식으로 단정적인 표현을 더 자주 쓰는 경향도 관찰했다. 답변이 더 직접적이고 확신에 차 보이는 변화가 정답률 상승으로 이어지지는 않았다. 훈련 설정별 실험은 각각 한 차례 진행됐으며, 학습에 사용한 딜레마는 영어로 된 19세기 서구 소설 네 권에서 나왔다. 따라서 연구 결과는 젬마4 제품군 전체나 다른 언어 환경의 도덕 판단 성능을 보여주는 것은 아니다. 본 기사는 시장 데이터 및 차트 분석을 바탕으로 작성되었으며, 특정 종목에 대한 투자 권유가 아닙니다.