Anthropic, 방어자 대상 ‘Mythos 5’ 접근 확대와 3,500만달러 오픈소스 보안 펀드 조성으로 AI 기반 방어 역량 강화에 나선다.
- Anthropic은 대형 언어모델 계열인 ‘Claude Mythos 5’의 방어자용 활용 범위를 넓히며, ‘Claude Security’가 사용자가 소유한 코드만을 스캔해 구체적 취약점 분석 결과를 제공하고 모델 자체는 외부에 노출되지 않도록 설계해 공격자에게 모델 접근 기회를 차단하는 방식으로 AI 보안 역량을 집중적으로 방어 목적에 묶어두려 한다.
- Anthropic은 ‘Cyber Verification Program’을 통해 이미 신원과 목적이 검증된 조직에 한해 ‘Claude Opus’와 ‘Claude Sonnet’의 보호 조치를 완화해 승인된 보안 업무에 사용할 수 있도록 하고 있으며, 앞으로 취약점 분류(vulnerability triaging)와 검증(validation) 같은 이중용도 기능까지 확대하고 이후에는 Mythos급 모델 접근을 연계해 고급 공격 분석과 방어 실험을 책임 있는 주체에게만 허용하는 구조를 마련하고 있다.
- Anthropic은 미국 정부 파트너와 함께 ‘Project Glasswing’을 지속 확대하며 ‘Akrites’와 ‘Gold Eagle’ 같은 협력 프로그램을 통해 중요 기반시설을 보호하는 조직 중 엄격한 보안 통제 요건을 충족하는 기관에 Mythos 계열 모델과 Cyber Verification Program을 연계해 제공하고, 보안팀에게 Opus와 Sonnet의 축소된 안전장치 버전에 대한 신청을 장려하면서 핵심 인프라 방어를 위한 AI 실전 배치를 단계적으로 늘리고 있다.
- Anthropic은 ‘Defender Advantage Fund(0xDAF)’를 신설해 3,500만달러 규모의 Claude 크레딧을 오픈소스 유지관리자 보안 지원 조직에 제공하고, 여기에 앞서 ‘Project Glasswing’을 통해 400만달러 상당의 직접 기부와 Akrites, Gold Eagle 같은 프로그램을 운영해 온 만큼 실제 세계에서 발견된 라이브 취약점 패치와 재사용 가능한 코드 스캐닝·패치 프로세스 구축, 공격 유형 전체를 차단하는 방어 기법 개발 등에 상당한 재원을 장기간 투입하는 구조를 명확히 했다.
- Anthropic의 Cyber Verification Program이 향후 몇 주에 걸쳐 Opus와 Sonnet의 이중용도 보안 기능으로 확장되고 Mythos급 접근까지 허용되면, 취약점 분류·검증을 포함하는 고급분석을 AI가 대행하는 체계가 미국 중요 인프라 보안기관과 오픈소스 생태계에 보편화돼 공격자보다 방어자가 더 강력한 모델을 먼저 활용하는 ‘디펜더 우위’ 구조가 형성되고, AI 안전장치를 상황에 따라 완화·조정하는 규범이 글로벌 표준 논의의 기반이 될 가능성이 크다.
- Anthropic이 Mythos 5와 Cyber Verification Program을 결합해 중요 인프라 보호기관과 오픈소스 프로젝트에 선택적으로 강력한 AI 보안 기능을 제공하는 전략은, 한국에서도 공공 인프라 운영기관과 주요 오픈소스 커뮤니티를 대상으로 한 유사한 AI 보안 검증 프로그램 및 크레딧 기반 펀드를 설계해 방어자에게만 고급 모델 접근을 허용하는 제도적 틀을 마련함으로써 국가 기반시설과 소프트웨어 공급망 보호 정책을 업그레이드할 필요성을 시사한다.
한국 정책 담당자는 Anthropic의 Cyber Verification Program과 Defender Advantage Fund 구조를 참고해, 국내 중요 기반시설과 오픈소스 생태계를 대상으로 한 AI 보안 검증·인센티브 제도를 설계하고 고급 모델 접근을 방어자에게만 규범적으로 허용하는 방향으로 법·제도 정비를 서둘러야 한다.
주요 용어: Claude Mythos 5(Anthropic의 보안 특화 대형 언어모델 계열), Cyber Verification Program(AI 모델 안전장치를 검증된 보안 업무에 한해 완화해 주는 Anthropic의 인증 프로그램)
출처: SecurityWeek