엔비디아, ‘Nemotron 3.5 Lightning’ 속도 우선 공개
엔비디아, ‘Nemotron 3.5 Lightning’로 속도 우선 전략을 공개하다
- 엔비디아는 첫 ‘Nemotron 3.5’ 모델인 ‘Nemotron 3.5 Lightning’을 공개하며, ‘Nemotron 3 Nano 30B A3B’의 후속으로 하이브리드 ‘Mamba-Transformer’ 구조를 유지한 채 효율 중심 배치를 전면에 내세웠다.
- 이 모델은 총 31.6B개 매개변수와 3.6B개 활성 매개변수만 쓰는 경량 설계를 채택해, 대형 모델보다 적은 연산으로 에이전트형 작업을 처리하도록 만든 엔비디아의 효율 우선 전략을 구체화했다.
- 독립 평가 플랫폼 ‘Artificial Analysis’의 지능 지수에서 ‘Lightning’은 24점을 기록해 전작 15점보다 9점 올랐고, ‘OpenAI gpt-oss-120b’와 같은 점수를 받아 작은 모델의 실용성을 입증했다.
- 같은 평가에서 ‘NVFP4’ 가중치는 초당 약 670토큰 처리 속도를 보였고, 이는 ‘Gemini 3.5 Flash-Lite’의 386토큰/초보다 빠르며, 한 과제 완료 시간도 약 0.5분으로 경쟁군보다 짧아 속도 경쟁력을 수치로 보여준다.
- ‘OpenMDW-1.1’ 허가와 BF16·NVFP4 이중 제공, 100만 토큰 문맥창, ‘CodeRabbit’·’Harvey’와의 후속학습 협업은 에이전트 파이프라인용 범용 작업기로서 배포 장벽을 낮추고 산업 도입 속도를 높인다.
- 한국 정책 관점에서는 이 모델이 AI 에이전트·보안관제 자동화의 기준 속도를 끌어올려 국산 LLM과 보안 인재 양성의 벤치마크가 되므로, 성능보다 처리량과 운영비를 함께 보는 조달 기준을 서둘러 설계해야 한다.
정부는 대형 모델의 지능 점수보다 초당 처리량, 활성 매개변수, 라이선스 조건을 함께 평가하는 조달 체계를 마련하고, 국산 보안 에이전트와 관제 자동화 실증에 바로 연결해야 한다.
주요 용어: Mamba-Transformer(메모리 효율과 문맥 처리 강점을 결합한 혼합 구조), NVFP4(저정밀 가중치 형식으로 속도를 높이는 모델 배포 방식)
출처: The Decoder