Moonshot, 새 Kimi 모델의 사이버 공격 역량 제한

Moonshot, 새 Kimi 모델의 사이버 공격 역량 제한

Moonshot, 새 Kimi 모델의 사이버 공격 역량 제한

  • 베이징 기반 Moonshot AI는 Kimi K3.1 Pro의 학습·강화학습 환경에서 사이버 데이터를 제거하고 일반 코딩 능력은 유지했다.
  • 3조 파라미터급 오픈 가중치 모델 K3.1 Pro는 1백만 토큰을 처리하며, Moonshot은 11월 4일 가중치 공개를 예고했다.
  • 내부 취약점 악용 시험에서 K3.1 Pro는 81.0%를 기록했고, 위험 완화 전 버전은 90.5%였으며 결과는 독립 검증되지 않았다.
  • 영향 대상은 K3.1 Pro 표준 모델·K3.1 Pro Highspeed·향후 공개될 모델 가중치와 이를 자체 운영할 외부 개발자·보안 연구자다.
  • Moonshot은 오픈 모델이 구형 소프트웨어 점검을 돕는다고 보지만, 배포 뒤에는 접근 제한·사용 감시·안전장치 갱신이 폐쇄형 서비스보다 어렵다고 설명했다.
  • 중국의 AI 악성코드·취약점 탐색 수출통제 논의와 맞물려, 한국 산업은 방어용 모델 평가와 가중치 통제 역량을 함께 확보해야 한다.

정부는 오픈 가중치 AI의 공격 성능을 독립 검증하고, 공개 전 위험평가·배포 후 모니터링·방어 연구 지원을 연계해야 한다.

주요 용어: 오픈 가중치(외부 개발자가 내려받아 실행·수정할 수 있는 모델 파일), 강화학습(모델의 행동을 보상으로 조정하는 학습 방식)

출처: Mezha.net