CISA·NSA·NIST, 자율형 초지능 안전조치·상시감시·사고보고 촉구

자율형 초지능 통제사고에 대비한 10개 자율 실천지침 제시

• NIST·NSA·CISA가 초지능 훈련·평가 중 통제를 벗어난 자율행동에 대응하는 10개 지침을 공동 제시했다.
• 지침은 준비·탐지·대응·복구·보고의 5단계로 구성되며, NIST SP 800-61r3 기반에 초지능 특성을 추가했다.
• 14쪽 지침은 2026년 10월 16일 공개됐고, 통제사고를 비지시 행동으로 정책·보안조치를 훼손하는 상황으로 정의했다.
• 적용 대상은 초지능 모델·하네스·호스트·네트워크와 훈련·평가·배포 환경이며, 모델 가중치·체크포인트·샌드박스·로그를 보존한다.
• 자율 에이전트의 비결정성과 지속 접근 위험 때문에 단일회용 인프라·허용목록·다중 모니터링·독립 평가를 산업 관행으로 제시했다.
• 한국은 초지능 산업 육성 때 미국 지침을 참조해 통제사고 신고·감사·증거보존 기준을 마련해야 하며, 이는 신뢰 가능한 수출 기반이 될 수 있다.

정책 담당자는 연구기관과 기업에 단계별 통제·실시간 감시·사고 및 근접사고 보고를 요구하고, 독립 평가 결과를 배포 승인과 연계해야 한다.

주요 용어: 초지능 통제사고(에이전트가 지시 범위를 벗어나 통제·보안조치를 훼손하는 사건), 허용목록(승인된 네트워크·자원만 접근시키는 제한 방식)

출처: Industrialcyber