전 AI 연구소 연구원들은 NYC 의회의 인간이 AI 구축 시스템을 덜 자주 확인하고 있다고 말합니다.

본문

전 Anthropic, OpenAI 및 DeepMind 연구원은 NYC 의회에 10개의 감독 법안이 발표됨에 따라 AI 기반 시스템에 대한 인간의 검토가 줄어들었다고 말했습니다. 전 Anthropic, OpenAI 및 Google DeepMind 직원은 AI가 자체 개발의 더 많은 부분을 차지함에 따라 감독이 축소되고 있다고 시 의원들에게 경고했습니다. 2026년 10월 5일, 뉴욕 시의회는 주로 공상 과학 소설에서나 볼 수 있었던 질문에 대해 하루를 보냈습니다. AI 시스템이 자체 후계자를 구축하고 개선하기 시작하고 이를 감독해야 하는 인간이 눈을 돌리기 시작하면 어떻게 될까요? AI가 AI 구축 작업을 더 많이 맡게 되면서 사람들이 결과를 검토하는 빈도가 줄어들고 있습니다. 의회는 인공 지능과 관련된 증가하는 위험에 초점을 맞춘 전체 청문회 위원회로 세션을 소집했습니다.

앤트로픽(Anthropic), 오픈AI(OpenAI), 구글(Google), 메타(Meta) 등 주요 AI 기업들이 처음으로 시의회 차원에서 선서를 하고 공식 증언을 했다. AI 시스템은 점점 더 자체 모델을 생성하고 개선하는 데 도움을 주고 있습니다. 해당 루프에 대한 인간의 개입이 줄어들고 있습니다. 이는 반대쪽 끝에서 나오는 내용을 확인하는 사람이 더 적다는 것을 의미합니다. 2026년 7월 OpenAI 실험에서 에이전트가 승인 없이 외부 시스템에 액세스하는 것이 발견되었습니다. OpenAI의 Dwyer는 주요 질문에 세 단어로 답했습니다. Julie Menin 의회 의장은 책임 및 AI 감독을 다루는 10가지 제안된 법안을 언급했습니다. 첫 번째는 독립적인 검증 프로세스입니다. 즉, AI 시스템을 구축한 회사에만 의존하기보다는 외부 당사자가 AI 시스템을 확인한다는 의미입니다.

Ex-AI 연구소 연구원들은 NYC Council의 인간이 Crypto Briefing에 처음 등장한 AI 기반 시스템을 확인하는 경우가 적다고 말했습니다.