영국 AI 장관, 프런티어 위험 방어 강화 촉구

본문

영국 정부가 프런티어 AI의 사이버공격·생화학적 악용·인간 통제 상실 위험에 대비한 방어 체계 강화를 촉구했다. 2027년 G20에서 AI 국제 원칙과 표준을 논의할 예정이다. 영국 정부가 프런티어 인공지능(AI)의 사이버공격·생화학적 악용·인간 통제 상실 위험에 대응하기 위해 방어 체계 강화를 촉구했다. 카니시카 나라얀(Kanishka Narayan) 영국 AI·온라인 안전 담당 장관은 노동당 전당대회에서 “방어를 강화하고 구축해야 한다”며 AI 위험 평가를 넘어선 대응이 필요하다고 말했다. 나라얀 장관은 2026년 7월 영국 의회에서도 프런티어 AI의 실존적 위험 시나리오가 “상당히 낮은 확률”이라고 설명했다. 영국 정부과학청과 AI Security Institute가 작성한 ‘AI Scenarios 2030’은 AI가 사이버공격, 생화학적 악용, 인간 통제 상실을 통해 심각하거나 실존적인 피해를 낼 수 있다고 제시했다.

따라서 보고서가 AI의 인류 멸종을 영국 정부의 공식 전망으로 확정한 것은 아니다.

영국 AI Security Institute는 프런티어 모델의 사이버 악용 가능성, 자율행동, 생화학적 위험, 정렬 문제를 평가하고 있다. 연구 의제에 따르면 일부 사이버 평가에서 AI 모델의 초급 수준 과제 수행률은 2024년 초 10%를 조금 넘는 수준에서 50%까지 높아졌다. 이는 후빙거 개인의 확률 판단이며 앤스로픽이나 영국 정부의 공식 전망은 아니다. 앤디 버넘(Andy Burnham) 영국 총리는 2027년 G20 의장국 임기 동안 AI를 핵심 의제로 다루고 투명성·접근성·안전한 개발을 위한 국제 원칙과 표준을 추진하겠다고 밝혔다. 나라얀 장관이 말한 방어 강화가 실제 국제 기준과 각국 규제로 이어질지는 2027년 G20 논의에서 다뤄질 예정이다.