대만 금융당국, AI 에이전트 위험 분류에 능력 범위 포함

본문

대만 금융감독관리위원회가 금융회사의 AI 에이전트 활용 시나리오를 세 축으로 분류하는 안전관리 방안을 제안했다. 10월 13일 문서를 공개하고 30일간 의견을 수렴한다고 밝혔다. 대만 금융감독관리위원회가 금융회사의 인공지능(AI) 에이전트 활용 시나리오를 자료 민감도, 행동 영향, 능력 범위와 확산 가능성에 따라 분류하는 안전관리 방안을 제안했다. 금융회사는 에이전트가 접근할 자료와 사용할 도구, 실행할 행동을 업무 단위로 정하고 위험 수준에 맞춰 통제해야 한다. 대만 금융감독관리위원회는 10월 13일 ‘금융업의 에이전트 AI 활용 안전 자문 문서’를 공개하고 30일간 의견을 수렴한다고 밝혔다. 문서는 안전 거버넌스와 위험 분류, 보안 통제 방안을 다루며, 의견은 대만 공공정책 참여 플랫폼의 ‘중카이장’ 코너에서 받는다.

AI 에이전트는 질문에 답하는 데 그치지 않고 작업 순서를 계획하거나 도구를 호출하고, 여러 시스템의 자료를 이용해 업무를 진행할 수 있다.

위원회는 적절한 활용이 운영 효율과 서비스 혁신에 도움이 될 수 있지만, 관리가 미흡하면 목표에서 벗어나거나 도구를 오용하고 권한을 넘어설 수 있다고 설명했다. 이상 상황에 대비한 대응·중단·사후 추적 절차도 마련하고, 위험 수준에 따라 검토와 모니터링, 점검, 기능 축소, 중단, 복구 체계를 적용하도록 했다. 위험은 자료 민감도, AI가 실행하는 행동의 영향, 능력 범위와 오류·행동의 확산 가능성 등 세 축으로 평가한다. 기술과 활용 방식이 빠르게 바뀌는 만큼 의견 수렴 결과를 향후 정책 검토와 지침 마련, 감독 당국과 업계의 논의에 참고할 계획이다. 의견 제출자에게는 특정 모델이나 제품에 한정하지 말고 적용 시나리오와 위험 수준, 실제 제약, 검증 가능한 통제 효과를 함께 설명해 달라고 요청했다.