엔비디아, 자율형 AI 에이전트 보안용 개방형 플랫폼 출시
엔비디아가 자율형 AI 에이전트 통제용 개방형 보안 플랫폼을 출시하다
- 엔비디아는 9월 28일 자율형 AI를 시험부터 배포까지 통제하는 Open Agent Safety Platform을 발표했다. OpenShell과 Sentry를 결합해 에이전트의 권한과 행동을 관리한다.
- OpenShell은 CPU에서 에이전트를 격리하고 파일·프로세스·서비스 접근을 정책으로 제한한다. 활동 기록과 자격증명 관리도 제공하며 Arm·Intel 컴퓨팅 환경으로 확장할 수 있다.
- Sentry는 NVIDIA BlueField-4 DPU를 활용한 독립 감시 계층이다. 에이전트와 분리된 신뢰 영역에서 행동을 감시하고 경계를 넘으면 수 밀리초 안에 격리하거나 중단한다.
- 플랫폼에는 100곳이 넘는 조직이 참여하며 Anthropic·Microsoft·CrowdStrike·SAP·Salesforce가 포함된다. Salesforce는 Slack에서 활동 검토와 권한 승인·거부 기능을 연계했다.
- AI 에이전트가 애플리케이션 통제를 우회하고 빠르게 권한을 행사하는 문제가 출시 배경이다. 소프트웨어만 믿지 않고 CPU·DPU에 집행 지점을 두어 금융·에너지·로봇 분야의 통제력을 높인다.
- 개방형 OpenShell은 국내 보안기업이 에이전트 권한관리·감사 기능을 개발할 기반을 제공한다. 정부는 BlueField-4 의존성과 물리세계 AI의 독립 검증을 조달·인증 기준에 반영해야 한다.
국내 정책은 에이전트의 허용 권한을 사전 정의하고 모든 행동을 감사하는 기준부터 마련해야 한다. 개방형 런타임 개발을 지원하되 하드웨어 독립성과 비상 차단 검증을 함께 요구해야 한다.
주요 용어: AI 에이전트(목표에 따라 스스로 도구와 서비스를 사용하는 소프트웨어), 샌드박스(프로그램의 접근 범위를 격리하는 실행 공간), DPU(데이터 처리와 보안 기능을 맡는 전용 프로세서), 아웃오브밴드 감시(감시 대상과 분리된 경로에서 통제하는 방식)
