생성형 AI 출시 전 평가 권고…프랑스 전문가위 18개 제안

본문

프랑스 전문가위원회가 일반 소비자용 생성형 AI의 출시 전·후 평가와 미성년자 보호 등을 담은 18개 권고안을 내놨다. 프랑스 전문가위원회가 일반 소비자용 생성형 인공지능(AI)의 유럽 시장 출시 전 위험 평가와 출시 후 점검을 권고했다. 프랑스 대통령실은 10일 AI·디지털위원회가 꾸린 전문가위원회가 에마뉘엘 마크롱(Emmanuel Macron) 대통령에게 ‘생성형 AI와 취약성’ 보고서를 제출했다고 밝혔다. 다학제 전문가 9명으로 구성된 위원회는 의료·연구·교육·기업·아동보호단체 등 관계자와 55차례 의견을 나누고 18개 권고안을 마련했다. 사회관계망서비스에 탑재된 챗봇도 포함되지만 업무용 AI는 사전 평가 권고 대상에서 제외된다. 앞서 본지는 첨단 AI 모델 공개 전 정부가 평가에 참여해야 한다는 마이크로소프트 AI 부문 수장의 주장 을 보도했다.

이용자에게 무조건 동조하거나 사람처럼 보이게 하는 설계를 규제하고, 미성년자가 쓸 수 있는 서비스에는 위험한 요청을 걸러내며 안전을 기본 설정으로 적용하라고 했다.

AI 답변에 상업적 영향이 반영되면 이를 표시하고, 숨은 광고와 이용자의 취약성을 활용한 상업적 영향은 금지하자는 제안도 내놨다. 위원회는 어린 시기부터 AI 활용법과 위험을 가르치고, AI가 만든 허위 정보가 확산될 때 정부 부처와 개발사가 신속히 정보를 주고받을 대응 체계를 마련하자고 했다. 프랑스의 생성형 AI 고유 이용자는 올해 초 3300만 명이었다. 위원회는 생성형 AI의 활용 가능성을 인정하면서도 현행 법 체계가 여러 법률에 흩어져 있고 평가가 사후에 치우쳤다고 진단했다. 프랑스 대통령실 발표 사전 평가 대상은 일반 소비자용 대화형 AI다.