오픈웨이트 AI 확산에 Microsoft·Nvidia, 출처 검증 촉구

Microsoft와 Nvidia는 공동 논문에서 배포 중 모델 변경이 성능을 유지해도 안전장치를 약화할 수 있다고 경고했다.
두 회사는 모델 출처 확인·배포 설정 시험·중대한 변경 후 재평가를 포함한 위험 평가·완화·감시 절차를 제시했다.
공동 체계는 사이버보안·데이터 보호·콘텐츠·인간-AI 상호작용·편향 등 5개 범주와 악성 코드 생성·도구 호출·안전정책 추출 등 30개 위험 유형을 다룬다.
Gartner는 2026년 2분기 오픈웨이트 모델 문의가 전분기보다 30% 이상 늘었고 기업 AI 활용 비중이 2028년 50%에 이를 것으로 전망했다.
암호서명은 원본 모델과 수령 파일의 일치를 확인하며 Gartner는 배포 전후 적대적 시험·정적검사·기업 모델 등록을 권고했다.
한국에서는 오픈웨이트 모델 확산이 검증·감시 솔루션 산업의 기회인 동시에 자체 운영 인력과 책임 공백을 국가 AI 보안 과제로 만든다.