Apple, '의도하지 않거나 예측할 수 없는' 방식으로 행동하는 AI 에이전트와 관련된 위험 경고

본문

Apple의 연례 보고서에는 AI 에이전트가 권한을 초과하거나 지시에 저항하거나 되돌리기 어려운 조치를 취할 수 있다고 경고합니다. 애플은 화요일 연례 재무 보고에서 "의도하지 않거나 예측할 수 없는 방식으로" 행동할 수 있는 AI 에이전트가 회사를 소송에 휘말리게 하거나 회사의 평판을 훼손함으로써 비즈니스에 위협이 될 수 있다고 밝혔습니다. Apple이 제출한 새로운 위험 요소는 실리콘 밸리의 가장 중요한 기업의 최우선 관심사가 된 AI 에이전트의 파괴적인 잠재력을 보여줍니다. 애플은 서류에서 “특히 인공지능 에이전트와 기타 기술은 접근 권한이 없는 내부 또는 외부 시스템과의 상호작용, 코드 실행 또는 변경, 통신 전송, 거래 완료 등 자율적으로 조치를 취할 수 있다”고 밝혔다. 회사는 대리인이 "지시, 지시 또는 승인되지 않은 조치를 취하는 것을 포함하여 의도하지 않거나 예측할 수 없는 방식으로 행동할 수 있다"고 덧붙였습니다.

올해 초 OpenAI는 Dots를 출시했고 Meta는 Muse를 출시했습니다. Apple의 공개는 허깅 페이스(Hugging Face) 사건과 같이 악의적인 AI 에이전트가 샌드박스를 뚫고 제3자 웹사이트를 해킹하는 것과 관련된 여러 사건 이후에 나왔습니다. 이 사건은 워싱턴 D.C.와 전 세계의 정책 입안자들로부터 새로운 관심을 끌었습니다. 이와 별도로 에이전트가 인간적인 방식으로 컴퓨터를 사용하는 능력으로 인해 Amazon 및 JPMorgan Chase와 같은 대기업은 전략적 또는 보안상의 이유로 서비스에 대한 에이전트 액세스에 대한 정책을 마련해야 합니다. 지난달 Apple은 PC에 설치된 AI 에이전트의 "이러한 액세스 수준과 관련된 위험"을 줄이기 위해 Mac에서 전체 디스크 액세스에 대한 변경 사항을 발표했습니다. 애플은 서류에서 “제3자 인공지능 에이전트와 기타 기술을 감독하고 통제하는 회사의 능력은 제한적일 수 있다”고 경고했다.

우리는 이 작업이 보안과 개인 정보를 보호하는 방식으로 이루어지길 원합니다." 올 가을 Apple은 iPhone의 로컬 데이터 저장소를 사용하여 캘린더 및 이메일과 같은 데이터에 액세스하는 새로운 비서인 Siri AI를 출시했지만 Apple의 Siri는 Dots나 Muse처럼 오랫동안 자동으로 작동할 수 없습니다. Apple은 AI 및 "초지능"에 대한 현재 규정이 예측할 수 없이 변화하고 있으며 AI를 관리하는 새로운 법률에 적응하는 데 많은 비용이들 수 있다고 밝혔습니다. 안전에 대한 위협이나 기타 사회적 피해 또는 합병증을 포함하여 자동화, 인공 지능 및 슈퍼 지능과 관련된 윤리적 우려와 부정적인 소비자 인식으로 인해 발생하는 위험에 따라