HackerOne, AI 자동 복구 위기 속 버그바운티 중단으로 보상제도 재편

HackerOne이 AI 주도 복구 오류 급증으로 버그바운티 프로그램 일시 중단하며 인간 전문가 중심 보안 검증의 중요성을 재확인한다.

• 세계 최대 버그바운티 플랫폼 HackerOne은 AI 기반 자동 복구 시스템의 오작동과 허위 취약점 보고 급증으로 인해 프로그램 운영을 일시 중단하고 인간 해커 검증 프로세스를 강화하는 조치를 발표하였다.
• AI 복구 도구가 실제 보안 취약점을 악화시키거나 가짜 패치로 시스템을 노출시키는 사례가 빈발함에 따라 기업 고객들의 신뢰 상실 위기에 직면하고 Microsoft, Google 등 빅테크도 유사 리스크를 경고하고 있다.
• 이번 결정은 CrowdStrike, Palo Alto 등 글로벌 보안 기업의 AI 자동화 전략에 제동을 걸며 ‘인간+AI 하이브리드’ 검증 모델로의 전환을 산업 전반에 촉발시킬 전망이다.
• 한국 정부는 공공기관의 버그바운티 도입을 추진 중이지만 AI 편향성 리스크를 반영해 엄격한 인간 검증 기준을 마련해야 하며 이는 국가 정보보안 기본계획 수립에 핵심 가이드라인으로 작용할 것이다.
• HackerOne의 중단 사태는 AI 보안 솔루션의 ‘블랙박스’ 문제를 노출시키며 향후 한국의 AI 규제 프레임워크에서 보안 분야 특화 인증 제도 도입의 필요성을 부각시킨다.

이번 사건은 AI 자동화의 한계와 인간 전문성의 필수성을 보여주는 점에서 주목할 필요가 있다. 단기적으로는 버그바운티 운영 지침 재검토, 중장기적으로는 AI 보안 검증 표준 제정이 필요하다.

출처: Dark Reading