위협 행위자, ‘Skynet mode’로 AI 모델을 납치해 자율 공격

노출된 AI 모델을 납치해 자율 공격을 수행하는 ‘Skynet’ 에이전트

• 위협 행위자는 인증 없는 OpenAI 방식 엔드포인트나 탈취 키를 받는 모델을 찾아 공격 계획과 실행에 악용하도록 단일 에이전트를 설계했다.
• Symantec Threat Hunter Team은 2026년 여름 AI 허니팟에서 전체 지침을 포착해 에이전트가 웹 프레임워크를 악용하고 비인가 작업을 수행함을 확인했다.
• 에이전트는 최대 100,000단계를 승인 없이 실행하며 데이터 탈취·자격증명 수집·비밀정보 수집·원격 명령 실행·암호화폐 채굴을 수행하도록 구성됐다.
• 피해 범위는 추론 비용을 부담하는 노출 AI 엔드포인트 소유자와 침해된 서버의 데이터·자원을 잃는 운영자이며, 공격자는 모델과 웹 프레임워크를 함께 악용한다.
• 운영자는 ‘Skynet mode’에 표적 탐색·감염·채굴기 배포·재감염 순환을 넣었고, Symantec의 Priti More는 개별 기법보다 이를 한 에이전트로 결합한 점이 두드러진다고 분석했다.
• 실제 공격에 사용됐다는 증거는 없지만 실시간 표적을 겨냥한 듯한 스캔 출력이 확인돼, 한국은 AI 서비스 인증·사용량 통제·행위 기록을 산업 보안 기준에 반영할 필요가 있다.

정책 담당자는 AI API를 인터넷에 직접 노출하지 않도록 인증과 사용량 상한을 의무화하고, 허니팟 기반 탐지와 사고 보고 체계를 산업 지원사업에 포함해야 한다.

주요 용어: AI 에이전트(목표에 따라 도구를 선택하고 작업을 이어가는 소프트웨어), LLM재킹(타인의 노출된 AI 모델을 무단 사용해 비용과 기능을 전가하는 공격)

출처: The Register