OWASP가 에이전틱 AI 스킬 보안 위험을 상위 10대 이슈로 정리해 개발·운영 지침을 제시한다.
- 2024년 7월 초 사이버 공격자가 에이전틱 AI 업무 플랫폼 ‘Paperclip’을 사칭하는 유사 도메인을 등록해 트로이목마가 심어진 Python 패키지와 무기화된 AI 스킬을 배포하며 사용자 단말을 탈취하고 각종 인증정보와 민감 데이터를 수집한 사건은 Open Worldwide Application Security Project(OWASP)가 올해 초 실무자 설문을 바탕으로 에이전틱 스킬 보안 위험 상위 10대 이슈 후보 목록을 만든 계기로, 현재 1순위가 악성 스킬로 지정된 점을 상징적으로 보여준다.
- OWASP는 Black Hat USA 컨퍼런스에서 에이전틱 AI 에이전트 논의가 활발한 상황에서도 스킬 위험 논의는 부족하다고 보고 마이크로소프트 클라우드·AI 보안 프로젝트 총괄인 Omar Turner 등 전문가와 함께 악성 스킬, 공급망 위협, 과도 권한 스킬 등 에이전틱 스킬의 구체적 공격 벡터를 정리하고, 자연어·코드·웹사이트·Model Context Protocol(MCP) 서버 참조를 포함하는 스킬이 에이전트 아키텍처에서 신뢰되지 않는 입력의 주요 통로가 된다는 점을 강조하며, 조직 내에서 에이전트와 동일 수준으로 스킬 위험을 논의해야 한다고 촉구한다.
- 에이전트 중심 AI 환경에서 스킬은 운영체제 위의 애플리케이션처럼 다양한 기능을 열어주는 필수 요소로 간주되지만, OWASP 프로젝트 공동 리더이자 에이전틱 공급망 보안 스타트업 Air의 CTO인 Niv Hoffman은 스킬 사용을 금지하기보다는 ‘보안이 기본값인 환경’을 조성해 사람들이 GitHub 같은 저장소의 스킬을 대량으로 채택하면서도 악성 코드 삽입이나 신뢰되지 않는 외부 지시를 자동 분석과 형식 검증으로 걸러내는 방향이 필요하다고 밝히며, 이를 통해 스킬 확산을 전제로 한 안전한 에이전틱 생태계를 목표로 한다.
- 2024년 8월 6일 공개된 연구에 따르면 Paperclip을 사칭한 이번 공격에서 자동 스캐너는 트로이목마 Python 패키지를 수 시간 내에 탐지했지만, 동일 공격자가 제작한 에이전틱 AI 스킬은 탐지를 피해 각각 300,000회 이상 설치되었고, OWASP Agentic Skills Top 10 목록은 2개의 치명적 위험과 4개의 고위험, 4개의 중위험 항목으로 구성되며 1순위 악성 스킬과 2순위 공급망 손상, AST05로 분류된 ‘신뢰되지 않는 외부 지시’ 등 세부 항목을 통해 GitHub 저장소의 텍스트 파일 의존성 하이재킹과 외부 사이트에서 랜딩 페이지 작성 지시를 가져와 합법적처럼 보이는 스킬에 악성 기능을 숨기는 구체적 공격 방식을 사례로 제시한다.
- Air는 에이전틱 스킬 저장소 실험에서 저장소 평판 시스템을 조작해 단 몇 시간 만에 26,000개 에이전트를 영향권에 두는 등 공급망 손상 위험을 입증했고, OWASP는 이러한 확산 속도에 대응해 Universal Agentic Skill Format v1.0이라는 YAML 기반 표준 형식을 제안하면서 스킬 파일에 출처(provenance), 행위 권한, 요구사항과 의존성, 서명과 해시, 변경 이력 등 보안 신호를 구조화해 자동 분석 소프트웨어가 합법 스킬과 악성 스킬을 구분하고, 사용자 지시와 스킬 또는 외부 콘텐츠 지시를 에이전트 내부에서 분리하는 경계를 만들도록 설계해 에이전틱 생태계 전반의 형식 기반 보안 수준을 끌어올리려 한다.
- OWASP Agentic Skills Top 10과 Universal Agentic Skill Format v1.0은 지난 6개월간 에이전틱 스킬 저장소가 최소 3분의 1 이상 성장하며 기업 업무에 깊숙이 들어온 상황에서 에이전트와 스킬을 활용하는 모든 국가·산업에 공통 기준을 제공하므로, LLM 기반 자동화 도입을 확대하는 한국의 공공·금융·제조 분야도 스킬을 코드형 API와 동일한 공급망 자산으로 분류해 등록·검증·서명·권한 관리 정책을 선제적으로 설계하고, GitHub 및 외부 웹사이트 연동 정책에 OWASP가 제시한 공급망 손상과 신뢰되지 않는 외부 지시에 대한 통제를 반영함으로써 국내 AI 에이전트 산업을 글로벌 보안 표준에 맞춰 육성하는 동시에 국가 핵심 인프라의 자동화 리스크를 체계적으로 관리할 필요가 있다.
에이전틱 스킬을 새로운 공급망 자산으로 인식해 표준 형식, 저장소 검증, 외부 지시 통제 정책을 조기에 마련하면 국내 AI 에이전트 산업 경쟁력을 높이면서도 악성 스킬과 공급망 공격을 동시에 억제하는 기반을 확보할 수 있으므로, OWASP Agentic Skills Top 10을 즉시 국내 가이드라인 설계의 출발점으로 삼을 것을 권고한다.
주요 용어: 에이전틱 AI 스킬(에이전트가 특정 작업을 수행하도록 자연어·코드로 작성된 기능 모듈), OWASP Agentic Skills Top 10(에이전틱 스킬 보안 위험 상위 10대 항목을 정리한 OWASP 목록), Universal Agentic Skill Format v1.0(에이전틱 스킬의 출처·권한·의존성을 YAML로 구조화해 자동 분석과 검증을 돕는 표준 형식)
출처: Dark Reading