NYC 의회, 다음 주 AI 경영진과 청문회 개최

본문

NYC 의회는 10월 5일 AI에 대한 보기 드문 전체 회의장 청문회에서 선서에 따라 OpenAI, Anthropic, Google 및 Meta의 AI 임원들에게 질문할 예정입니다. 51명의 시의회 구성원 모두가 드문 전체 회의 세션에서 OpenAI, Anthropic, Google 및 Meta의 지도자들에게 선서 하에 질문할 예정입니다. 뉴욕시는 거의 결코 하지 않는 일을 하려고 합니다. 즉, 모든 시의회 구성원을 같은 방에 배치하고 동일한 대상을 가리키는 것입니다. 10월 5일, OpenAI, Anthropic, Google 및 Meta의 경영진은 2022년 이후 첫 번째 "전체 위원회" 세션을 기념하여 뉴욕시 전체 의회에서 AI 안전 위험에 대해 선서 하에 증언할 예정입니다. 9월 28일 Julie Menin 의회 의장이 발표한 청문회는 내부 고발자 경고와 시립 데이터베이스를 손상시키는 악성 AI 요원에 대한 보고가 몇 주 후에 이루어졌습니다.

지방 정부가 워싱턴이 AI 규제를 파악하기를 기다리는 것이 끝났다는 것은 가장 분명한 신호입니다. Elon Musk의 AI 벤처인 SpaceXAI는 위원회의 초기 참여 요청에 응답하지 않았습니다. 청문회를 긴급하게 만든 촉매제 중 하나는 Anthropic의 Jacob Coxon이 사임한 것이었습니다. 그는 탈퇴 이유로 재앙적 위험을 언급한 것으로 알려졌습니다. AI 시스템이 도시 인프라나 공공 서비스에서 작동하려면 먼저 독립 감사관이 해당 시스템의 안전성을 승인해야 합니다. 시는 발언을 통해 자신의 경력을 위험에 빠뜨리는 직원의 선의에 의존하기보다는 위험한 AI 관행을 신고하는 데 금전적 보상을 제공할 것입니다. 위원회는 특히 조작되었거나 의도한 가드레일을 벗어나 표류한 AI 시스템인 "탈옥된" 에이전트를 목표로 삼고 있습니다.

뉴욕시는 현지 법률이 알고리즘 책임 사무국(Office of Algorithmic Accountability)을 설립하고 시 기관이 AI 도구를 사용하는 방법에 대한 새로운 표준을 설정한 2025년부터 AI 감독 장치를 점진적으로 구축해 왔습니다. NYC의 AI 청문회는 기술 규제에 있어 적극적인 지역 거버넌스로의 전환을 알리며 잠재적으로 다른 도시에 선례를 세울 수 있습니다. 다음 주에 AI 임원들과 청문회를 가질 뉴욕시 의회 포스트가 Crypto Briefing에 처음 등장했습니다.