메타, 대리 수행 AI 에이전트용 ‘Muse Wonder’ 안전장치 공개

메타, 대리 수행 AI 에이전트용 ‘Muse Wonder’ 안전장치 공개

• 메타의 ‘Muse Wonder’와 ‘Wonder Full’은 보험 청구·임대차 검토·소프트웨어 개발을 수행하는 AI 에이전트용 모델이다.
• 두 모델은 ‘Active Memory’로 대화 간 맥락을 보존하고 ‘Active Focus’로 오류를 복구하며 중요 행동 전 사용자 확인을 요구한다.
• 평가는 사이버보안·화학·생물학적 오용·통제 상실을 다루며, 무방비 ‘Wonder Full’은 화학·생물학 고위험 기준을 배제하지 못했으나 보호조치 후 위험을 중간 이하로 평가했다.
• 적용 범위는 보험 청구·임대차 검토·소프트웨어 개발, 법률 문서 작성·금융정보 조사·전문 건강상담, 메시지·일정·개인문서 처리까지다.
• 메타는 Prometheus 데이터센터에서 장기 소프트웨어 작업으로 모델을 훈련했고, FocusBench·SWE-Marathon으로 변화 대응과 지속 수행 능력을 점검했다.
• 개인정보 무단 공유 차단과 유해 요청 거부는 상용화를 뒷받침하지만, 한국 산업에는 방어적 사이버 기능과 인간 승인 절차를 함께 검증할 기회를 남긴다.

정책 담당자는 에이전트가 메시지·일정·개인문서에 접근할 때 인간 승인과 행위기록을 기본값으로 두고, 국내 보안기업이 Active Memory·Active Focus 검증과 방어적 코드분석 시장에 참여하도록 지원해야 한다.

주요 용어: AI 에이전트(사용자를 대신해 여러 단계 업무를 수행하는 인공지능), Active Memory(대화 간 필요한 맥락을 저장·검색하는 기능), Active Focus(장애 발생 시 대안을 시도하며 작업을 지속하는 기능)

출처: Help Net Security