‘에이전틱 AI’ 보안: 신뢰된 에이전트가 위험이 되는 순간

‘에이전틱 AI’가 신뢰된 권한을 위험으로 바꾸는 보안 전환

• Dash Security의 Amol Mathur와 Maor Hod는 Fal.Con에서 에이전트가 외부 침입자가 아니라 승인된 사용자처럼 시스템을 오가며 위협 모델을 뒤집는다고 설명했다. 대리 권한이 핵심이다.
• 기존 방어는 미승인 파일과 탈취 계정 탐지에 맞춰졌지만, 에이전틱 AI는 데이터와 지시를 섞는 비결정적 행위로 운영망과 중요 데이터를 동시에 건드린다. 그래서 런타임 통제가 필요하다.
• Dash는 조직의 AI 도구와 그림자 배포를 먼저 가시화한 뒤 정책을 적용한다. 작업 중인 워크스테이션·브라우저·클라우드에서 데이터가 어디로 흐르는지 보이지 않으면 통제가 정확해질 수 없다.
• 140,000명 규모 고객은 9자리 숫자 보고서 때문에 오탐이 많았지만, Dash는 역할과 이력을 반영해 오탐을 95% 줄였다. 이후 자동 조치로 전사 배포가 가능해졌다.
• 이 사례는 생성형 AI를 막는 문제가 아니라, 승인된 에이전트의 행동을 실시간으로 검증하는 문제라는 점을 보여준다. 한국도 도입 속도보다 권한 설계와 감시 체계를 먼저 정해야 한다.
• Dash는 2025년 10월 설립됐고 CrowdStrike의 엔드포인트 텔레메트리를 Falcon Next-Gen SIEM과 연동한다. 국내 정책은 AI 도입 기업에 최소 권한, 로그 보존, 행위 기반 탐지를 의무화할 필요가 있다.

에이전틱 AI는 차단보다 통제가 중요하다. 공공과 핵심 산업은 AI 에이전트의 권한 범위, 로그 수집, 자동 차단 기준을 먼저 표준화해야 한다.

주요 용어: 에이전틱 AI(자율적으로 업무를 수행하는 AI 에이전트), 런타임 통제(작동 중 행위를 실시간으로 감시·제한하는 방식), 오탐(False Positive, 위협이 아닌데 위협으로 판단하는 경우)

출처: SiliconANGLE