AI 보안 이제 인간 검증 필수… 자동화 신뢰도 한계 노출

AI 기반 위협 탐지의 정확도 한계 직면, 보안 운영의 ‘하이브리드 모델’ 전환 가속화

• 주요 보안 기업들이 2년여의 AI 자동화 투자 후 오류율 감소 한계에 도달하면서, AI 기반 탐지 시스템에 대한 인간 분석가의 최종 검증 절차를 필수화하는 ‘Mythos 표준’에 준하는 Human-in-the-Loop 아키텍처로의 전환을 진행 중입니다. 이는 초기 AI 도입 기대(인력 70% 감축)와 실제 운영 현실(인력 20~30% 감축) 간의 괴리를 반영합니다.
• Anthropic이 발표한 ‘차세대 보안 AI 안내(Next-Generation Security AI Framework)’에서는 AI 모델이 위협을 식별한 후 반드시 인간 분석가가 그 결정의 근거(explainability)를 검증하는 2단계 체계를 권장하고 있으며, 이 기준을 충족하는 기업은 현재 약 15% 수준입니다.
• Microsoft, CrowdStrike, Palo Alto Networks 등 대형 보안 기업들의 MDR(Managed Detection and Response) 서비스에서 AI 탐지 후 인간 검증까지의 평균 시간이 15분으로 증가했으며, 이는 실시간 위협 대응의 중요성이 높아지는 환경에서 새로운 병목이 되고 있습니다.
• 보안 인력 부족 현황(미국 기준 연간 25만 명 부족)과 AI 검증 필요성의 증가가 맞물리면서, 국가별로 ‘보안 분석 인증 프로그램(CISSP, CEH)’ 신규 등록이 2024년 대비 40% 증가했고, 보안 인력의 고급 기술 교육에 대한 기업 투자 규모가 연 5% 상승하고 있습니다.
• 한국을 포함한 아시아 태평양 지역에서 보안 인력 양성을 위한 정부 투자(교육, 인증, 인턴십)가 북미의 18% 수준에 머물러 있어, 글로벌 수준의 보안 운영 역량 구축에 구조적 한계를 노출하고 있습니다.

한국 정부는 AI 기반 보안 도구의 도입 시 단순 기술 평가를 넘어, 인간-AI 협업 체계의 실제 운영 효과를 정량화하는 ‘ROI 검증 기준’을 개발하고, 보안 분석 인력 양성을 국가 핵심 산업 인프라로 인식하여 교육, 인증, 취업 지원 등 종합적 정책 지원을 강화해야 합니다.

주요 용어: Human-in-the-Loop(인간의 의사결정을 자동화 프로세스와 통합하는 설계), MDR(Managed Detection and Response, 외부 전문가가 관리하는 위협 탐지 및 대응 서비스), Explainability(AI 모델의 판단 근거를 인간이 이해 가능한 형태로 설명하는 능력)

출처: Axios