Anthropic, Claude Code 행동 검토에 AI를 기본 투입

Anthropic, ‘Claude Code’ 자동 모드를 기본값으로 전환

• Anthropic은 8월 14일부터 Pro·Max·Team의 새 세션에서 ‘Claude Code’ 자동 모드를 기본값으로 바꾸고, 기존 기본값을 선택한 이용자에게는 전환 여부를 묻는 일회성 안내를 보낼 예정이다.
• 자동 모드는 모든 도구 호출을 분류기로 거쳐 되돌릴 수 없는 조치와 사용자 환경 밖 자원 접근을 차단하며, 막히면 Claude가 안전한 대안을 찾거나 승인 요청으로 전환해 작업 흐름과 통제를 함께 맞춘다.
• 클라우드 데이터 유출, 파괴적 대량 작업, 과도한 권한 상승은 분류기가 먼저 막고, 3회 연속 차단이나 세션 내 20회 차단이 이어지면 Claude는 다시 수동 승인으로 돌아가 위험 누적을 제한한다.
• 1,053명의 유료 전문 테스터 실험에서 사람의 검토는 위험 명령의 13.6%만 잡았고 자동 모드는 89%를 차단했으며, Apollo Research와의 모의 공격 평가에서 공격 미탐지율은 12%에서 7%로 낮아졌다.
• Anthropic은 Claude Enterprise, Claude API, Anthropic Platform, Amazon Bedrock, Google Cloud의 Agent Platform, Microsoft Foundry에서는 우선 선택형으로 두고 다음 달 안에 기본값 전환을 예고했으며, 추가 안전 분류기 연산 비용도 받지 않기로 했다.
• 한국 정책 담당자는 이 전환을 AI 에이전트의 운영 안전 기준이 조달·인증보다 실사용 검증으로 이동하는 신호로 보고, 생산계·핵심 인프라 적용 전 사전 승인 규칙과 로그 점검을 의무화해 산업 육성과 사고 예방을 함께 설계해야 한다.

생산계와 핵심 인프라에 바로 넣기보다 승인 경계, 로그 보관, 예외 차단 규칙을 먼저 정하고, AI 에이전트 조달에는 실제 차단률과 복구 절차를 검증 기준으로 넣어야 한다.

주요 용어: 자동 모드(대신 승인 판단을 AI가 먼저 수행하는 운영 방식), 프롬프트 인젝션(숨은 지시로 모델을 속이는 공격)

출처: Help Net Security