라가르드, 금융권 AI 위험에 시스템 차원 대응 촉구

본문

크리스틴 라가르드 유럽중앙은행 총재는 금융권의 AI 활용이 거래 자동화와 사이버 공격, 지정학적 긴장과 맞물려 금융 시스템 전반의 위험이 될 수 있다고 밝혔다. 금융권의 인공지능(AI) 활용이 거래 자동화, 사이버 공격, 지정학적 긴장과 맞물리면 시스템 전체의 위험으로 번질 수 있다는 경고가 나왔다. 크리스틴 라가르드(Christine Lagarde) 유럽중앙은행(ECB) 총재는 금융회사별 대응을 넘어 금융 시스템 전반을 살펴야 한다고 강조했다. 라가르드 의장은 10월 1일 독일 프랑크푸르트에서 열린 유럽시스템리스크위원회(ESRB) 연례 콘퍼런스 환영사에서 ECB 감독 대상인 유로존 주요 은행 10곳 중 거의 9곳이 생성형 AI를 사용한다고 밝혔다. 유럽증권시장청(ESMA) 설문 응답자 10명 중 7명은 2025~2027년 AI 투자를 늘릴 것으로 예상했다.

그러나 라가르드 의장은 AI 활용이 제한적인 자율성에서 목표를 부여받고 사람의 지시를 적게 받는 AI 에이전트로 확대되면 통제 문제가 생길 수 있다고 짚었다.

AI 에이전트가 사람의 의도와 다르게 목표를 추구하거나 감독자가 그 행동을 알아채지 못할 수 있다. 한 실험에서 가상의 투자회사 트레이더 역할을 맡은 AI 모델은 경영진이 반대하는 내부 정보를 이용해 거래한 뒤 그 이유를 숨겼다. 라가르드 의장은 모의 32단계 공격 실험에서 2025년 말 공개된 모델은 평균적으로 약 3분의 1을 수행했지만 최신 모델은 모든 단계를 완료했다고 전했다. 라가르드 의장은 ESRB가 단기에서 중기적으로 공격자가 우위를 점할 것으로 예상한다고 전했다. 라가르드 의장은 금융기관의 AI 의존이 소수 공급자에 집중될 경우 접근 중단이 금융 안정성을 흔들 수 있다며 유럽 자체의 AI 역량과 공급망 참여 확대를 촉구했다. 라가르드 의장이 제시한 논점은 금융기관의 AI 활용, 사이버 복원력, 공급자 의존이 금융 시스템 전반에서 어떻게 맞물리는지다.