LIVE MARKET
시장 시세 연결 중
← 실시간 뉴스로

Mike Winer는 AI를 견제하기 위해 추측이 아닌 수학을 원합니다.

제목 연관성·주요 수치·시장 영향·향후 전망을 기준으로 핵심 문장을 선별한 요약 브리핑입니다.

KEY POINTS

핵심 포인트

  • IAS 물리학자인 Mike Winer는 무차별 샘플링 없이 신경망 동작과 드문 AI 오류를 추정하는 수학 도구를 개발하고 있습니다.
  • 고등연구소(Institute for Advanced Study)의 통계 물리학자는 문제가 발생하기 전에 신경망이 어떻게 작동하는지 예측하는 도구를 구축하고 있습니다.
  • AI를 안전하게 만들기 위한 대부분의 노력은 테스트로 귀결됩니다.
시장 반응 중립
ARTICLE BRIEF

본문

IAS 물리학자인 Mike Winer는 무차별 샘플링 없이 신경망 동작과 드문 AI 오류를 추정하는 수학 도구를 개발하고 있습니다. 고등연구소(Institute for Advanced Study)의 통계 물리학자는 문제가 발생하기 전에 신경망이 어떻게 작동하는지 예측하는 도구를 구축하고 있습니다. AI를 안전하게 만들기 위한 대부분의 노력은 테스트로 귀결됩니다. 통계 물리학자인 Mike Winer는 더 견고한 것을 원합니다. 즉, 신경망이 어떻게 작동할지에 대한 수학적 보장, 시험 실행보다는 방정식을 사용하여 계산하는 것입니다. 샘플링을 통해 10억분의 1의 실패를 포착하려면 엄청난 횟수의 시도가 필요합니다. 이러한 근사치를 구축하기 위해 Winer는 누적 및 Hermite 확장을 사용합니다. 99.9%의 시간 동안 잘 작동하는 모델은 여전히 ​​남은 조각에서 위험한 출력을 생성할 수 있으며 샘플링은 해당 조각을 찾는 데 매우 좋지 않습니다.

아이디어는 엔지니어가 교량을 이해하는 방식으로 신경망을 이해하는 것입니다. 즉, 지금까지의 상태를 관찰하는 데 그치지 않고 왜 유지되는지 파악함으로써 신경망을 이해하는 것입니다. 그는 또한 2026년 9월 2일 UCLA의 IPAM Foundations of Interpretability Workshop에서 발표할 예정입니다. 이 강연에서는 누적 및 Hermite 확장을 기반으로 구축된 그의 방법을 다룰 것으로 예상됩니다. 수백만 또는 수십억 개의 매개변수가 누구도 따라갈 수 없는 방식으로 상호 작용합니다. 이는 바로 무질서 시스템 물리학이 해결하기 위해 만들어진 문제의 종류입니다. AI의 수학적 보장은 예측 가능한 동작을 제공하고 광범위한 테스트 및 추측에 대한 의존도를 줄여 안전성을 향상시킬 수 있습니다. Mike Winer가 AI를 견제하기 위해 추측이 아닌 수학을 원한다는 게시물이 Crypto Briefing에 처음 등장했습니다.