JadePuffer 캠페인이 에이전틱 AI를 활용해 초기 침입, 내부 정찰, 데이터 유출, 몸값 협상을 전 과정 자동화하며 차세대 랜섬웨어 운영 모델을 제시함
- BleepingComputer는 JadePuffer 랜섬웨어 그룹이 대형 언어모델과 에이전틱 AI 프레임워크를 결합해, 피싱 메일 생성, 취약점 스캔, 자격증명 탈취, lateral movement, 데이터 유출, 피해자 맞춤 몸값 산정까지 전체 공격 체인을 자동화한 사례를 상세히 공개하였으며, 공격자는 상용 LLM API와 자체 튜닝한 에이전트를 활용해 시나리오별 플레이북을 실행함으로써 기존에 숙련된 해커가 수동으로 수행해야 했던 작업을 대규모·동시다발적으로 재현할 수 있게 되었다.
- 보도에 따르면 JadePuffer 인프라는 감염 호스트에서 수집한 시스템 정보와 네트워크 토폴로지, 백업 구성, 보험 가입 여부 등을 중앙 C2 서버로 전송하고, 에이전틱 AI가 이를 분석해 목표 조직의 매출 규모·데이터 민감도·복구 능력에 따라 몸값을 자동 산출한 뒤, 피해자와의 채팅 협상 과정에서도 자연어 모델이 협박 문안을 작성하고 최종 합의 금액을 조정하는 등, 인간 운영자는 최종 승인만 내리는 반자동 운용 구조를 채택하고 있어 향후 인력 제약이 적은 소규모 범죄 그룹도 대형 공격을 감행할 수 있는 환경이 조성되고 있다.
- JadePuffer는 초기 침입 단계에서 스피어피싱 이메일과 악성 문서 매크로를 자동 생성하고, 공개 취약점 데이터베이스를 참조해 대상 조직에 사용 중인 버전과 매칭되는 취약점만 선별적으로 공략하는 기능을 구현했으며, 이는 ChatGPT, Claude, Gemini 등 범용 LLM의 코드 생성·번역 기능을 악용해 여러 언어와 형식의 공격 콘텐츠를 동시에 생산함으로써 기존 시그니처 기반 필터링을 우회하는 실제 사례로 기록되고 있다.
- 이러한 에이전틱 랜섬웨어의 등장은 미국과 EU에서 논의 중인 AI 책임 규제, 특히 EU AI Act의 고위험 시스템 분류와 미국 NIST AI Risk Management Framework에서 언급하는 misuse(악용) 리스크 대응 논의에 직접적인 현실 사례를 제공하며, API 제공 기업인 OpenAI·Anthropic·Google Cloud가 악성 사용 탐지와 남용 차단 정책을 강화하지 않을 경우, 정부 차원의 라이선스 등록제나 사용 로그 보존 의무 같은 강력한 규제 수단이 검토될 수 있는 명분을 쌓고 있다.
- 한국 입장에서 JadePuffer는 단일 조직이 아니라 향후 수많은 모방 공격의 템플릿 역할을 할 것이므로, 공공·금융·의료 분야에서 AI 에이전트 사용 현황 실태 조사와 보안 가이드라인 제정을 서둘러야 하며, 동시에 KISA·국정원·경찰청이 AI 모델 사업자와 정례 협의체를 구성해 악용 패턴 공유, API 남용 탐지 기준, 긴급 차단 절차를 사전에 합의해 두지 않으면, 국내 클라우드·포털 기반 AI 서비스가 공격 인프라로 전용될 위험이 높아질 것이다.
에이전틱 AI 랜섬웨어는 인력과 기술 격차를 줄여 공격을 대량 복제하는 도구이므로, 한국은 AI 서비스 사업자 책임과 공공·금융 분야의 AI 사용 통제 원칙을 법·제도 수준에서 조기에 정립해야 한다.
주요 용어: 에이전틱 AI(목표를 인식하고 스스로 하위 작업을 계획·실행하는 자율형 AI 에이전트), JadePuffer 랜섬웨어(에이전틱 AI를 활용해 전체 공격 체인을 자동화한 것으로 보고된 랜섬웨어 캠페인), NIST AI RMF(미국 국립표준기술연구소의 AI 위험 관리 프레임워크로 AI 설계·운영 시 고려해야 할 리스크 관리 원칙을 제시한 문서)
출처: BleepingComputer