오픈웨이트 AI 확산에 Microsoft·Nvidia, 출처 검증 촉구

오픈웨이트 AI 확산에 Microsoft·Nvidia, 출처 검증 촉구

• Microsoft와 Nvidia는 공동 논문에서 배포 중 모델 변경이 성능을 유지해도 안전장치를 약화할 수 있다고 경고했다.
• 두 회사는 모델 출처 확인·배포 설정 시험·중대한 변경 후 재평가를 포함한 위험 평가·완화·감시 절차를 제시했다.
• 공동 체계는 사이버보안·데이터 보호·콘텐츠·인간-AI 상호작용·편향 등 5개 범주와 악성 코드 생성·도구 호출·안전정책 추출 등 30개 위험 유형을 다룬다.
• Gartner는 2026년 2분기 오픈웨이트 모델 문의가 전분기보다 30% 이상 늘었고 기업 AI 활용 비중이 2028년 50%에 이를 것으로 전망했다.
• 암호서명은 원본 모델과 수령 파일의 일치를 확인하며 Gartner는 배포 전후 적대적 시험·정적검사·기업 모델 등록을 권고했다.
• 한국에서는 오픈웨이트 모델 확산이 검증·감시 솔루션 산업의 기회인 동시에 자체 운영 인력과 책임 공백을 국가 AI 보안 과제로 만든다.

정책 담당자는 모델 자체 평가에 그치지 말고 출처·권한·데이터·연결 도구를 포함한 배포 단위 검증을 지원하며, 변경 후 재시험 책임과 기록 기준을 계약에 명시해야 한다.

주요 용어: 오픈웨이트 모델(가중치를 공개해 수정·재배포할 수 있는 AI 모델), 모델 출처 검증(수령 파일이 발행자의 원본인지 확인하는 절차)

출처: Csoonline