자율 에이전트 위한 ‘3계층 에이전틱 AI 보안’ 방어 심층 제안

자율 에이전트용 ‘3계층 에이전틱 AI 보안’ 방어 심층 아키텍처 제시

• VentureBeat는 에이전틱 AI를 기업 데이터센터 운영에 투입할 때 3계층 방어 심층 아키텍처를 제안한다. 자율 에이전트가 실험을 넘어 실서비스에 쓰이는 전환기를 전제로 한다.
• 첫째 인프라 계층은 에이전트가 실행되는 환경의 신뢰를 검증하는 역할을 한다. 하드웨어·클라우드·컨테이너 수준에서 누가 어디서 실행 중인지 attestation과 세분화로 식별·격리하는 구조다.
• 둘째 도구·리소스 계층은 에이전트가 호출하는 API·데이터베이스·외부 서비스 연결을 관리한다. 게이트웨이를 두어 어떤 도구를 쓸 수 있는지, 어떤 데이터에 얼마나 쓰기 권한을 주는지 세밀히 통제한다.
• 셋째 거버넌스 계층은 상위 제어판처럼 정책·감사·모니터링을 총괄한다. 로그 수집과 이상행동 탐지, 승인 워크플로를 중앙에서 정의해 여러 에이전트와 애플리케이션에 공통으로 적용한다.
• VentureBeat는 2026년 8월 AI 보안 설문에서 기업이 에이전트 권한을 약 3분의 2 수준으로만 일관되게 집행하고, 고위험 에이전트도 5분의 1 미만만 격리한다고 소개하며 방어 심층 구조의 필요성을 강조한다.
• 자율 에이전트가 인프라 전반에 실행 권한을 갖게 되면 단일 방어선 실패가 곧 시스템 전체 위험으로 이어진다. 한국은 클라우드·공공정보시스템에 도입될 에이전틱 AI에 대해 3계층 보안 기준과 인증체계를 선제 설계할 필요가 있다.

자율 에이전트 보안은 기존 AI 안전·망분리 규정만으로는 부족하다. 인프라·도구·거버넌스 3계층에 맞춘 기준과 시험·인증, 시범사업 조항을 지금부터 제도 설계에 반영할 것을 권고한다.

주요 용어: 에이전틱 AI(환경을 인식·판단·행동까지 자동 수행하는 자율형 AI), 방어 심층 아키텍처(여러 계층에 독립 보안통제를 두어 한 계층이 뚫려도 전체를 보호하는 구조)

출처: VentureBeat