NVIDIA가 AI 에이전트의 테스트부터 배포까지 보안 통제를 적용할 수 있는 개방형 소프트웨어 플랫폼이자 레퍼런스 시스템 설계인 ‘NVIDIA Open Agent Safety Platform’을 공개했다. 이 플랫폼은 에이전트 소프트웨어뿐 아니라 이를 구동하는 하드웨어·컴퓨팅 계층과 로보틱스 시스템까지 관리 대상으로 삼는다.
NVIDIA는 최근 보안 사고에서 에이전트가 작업을 완료하는 과정에 애플리케이션 계층의 보안 통제를 우회하는 양상이 나타났다고 설명했다. 이에 장시간 작동하는 에이전트의 행동을 관리할 수 있도록, 조직별 요구에 맞춰 구성 요소를 선택해 배포하는 방식을 제시했다.
소프트웨어 밖에도 보안 경계 설정
플랫폼의 구성 요소인 ‘NVIDIA OpenShell’은 CPU에서 실행되는 에이전트에 보안 경계를 설정하는 런타임 소프트웨어다. NVIDIA는 모델이나 에이전트 하네스 바깥에서도 통제를 강제할 수 있도록 OpenShell을 설계했다고 밝혔다. OpenShell은 개방형·폐쇄형 모델을 사용하는 자율 AI 에이전트의 작업 방식을 통제한다.
NVIDIA에 따르면 OpenShell은 에이전틱 AI를 위해 설계된 ‘NVIDIA Vera’ CPU에서 최소한의 오버헤드로 보호 기능을 제공한다. 오픈 소스 소프트웨어인 만큼 Arm과 Intel을 포함한 다른 컴퓨팅 플랫폼에서도 작동하도록 확장할 수 있다.
레퍼런스 시스템 설계에는 ‘NVIDIA Sentry’도 포함된다. Sentry는 ‘NVIDIA BlueField-4’ DPU에서 작동하며 에이전트의 행동을 지속적으로 감시하는 대역 외 워치독이다. 에이전트가 소프트웨어 경계를 벗어나려 할 경우 실리콘 차원에서 정책을 집행해 밀리초 단위로 격리하고 중단하도록 설계됐다.
Sentry는 에이전트 활동을 감시하고 위협 탐지, 데이터 접근 보호, 하드웨어 기반 정책 집행을 격리된 대역 외 신뢰 도메인에서 수행한다. 기반 소프트웨어인 ‘NVIDIA DOCA’는 요청과 응답 검사, 증명된 텔레메트리 제공, 에이전트 신원 확인, 데이터·도구·API·서비스에 대한 세분화된 제로 트러스트 접근 정책 집행에 쓰인다.
NVIDIA 창립자 겸 CEO 젠슨 황은 AI의 잠재력을 실현하려면 안전 문제를 해결해야 한다며, 안전과 보안에는 풀스택 엔지니어링이 필요하다고 말했다. 그는 이 플랫폼을 통해 산업계와 연구자, 공공 부문이 모범 사례와 평가 방법을 공유하고 국제 협력을 추진할 수 있다고 밝혔다.
기업별 에이전트 통제에 적용
Anthropic과 NVIDIA는 에이전트 스택에 보안·통제 계층을 추가하는 작업을 진행해 왔다. Anthropic의 Claude Managed Agents는 에이전트 루프를 실제 작업이 이뤄지는 샌드박스와 분리된 서버에서 실행한다. NVIDIA는 여기에 OpenShell과 BlueField를 연동하면 기업이 샌드박스를 거치는 에이전트의 접근을 통제할 수 있다고 설명했다.
SpaceXAI는 Cursor 코딩 에이전트와 Grok 모델에 이 플랫폼을 활용하고 있다. Scale AI는 플랫폼 기술을 Scale GenAI Portfolio의 에이전틱 인프라 계층에 통합하고 있다. 두 회사는 각각 모델 바깥에서 집행되는 통제 장치와, 격리·정책 집행·감사 기능을 갖춘 시스템의 필요성을 강조했다.
Salesforce와 NVIDIA는 OpenShell을 Slack에 통합했다. 이를 통해 팀은 Slack에서 에이전트 활동과 감사 이벤트를 확인하고, 추가 권한 요청을 승인하거나 거부할 수 있다. SAP는 SAP Business AI Platform의 Joule Studio 런타임에 OpenShell을 접목해 비즈니스 차원의 감독과 런타임 보안을 결합하고 있다.
NVIDIA는 Accenture, Cisco, CrowdStrike, IBM, Microsoft, Palantir, Perplexity, ServiceNow 등을 포함해 100곳이 넘는 조직이 플랫폼 기술을 활용해 협업하고 있다고 밝혔다. Figure, Gecko Robotics, Skild AI 등 로보틱스 기업은 현실 세계에서 행동하는 자율 시스템에 OpenShell 기반 안전 통제를 적용하고 있다. Citi와 JPMorganChase는 오픈 소스 에이전트 안전 기술을 두고 NVIDIA와 협력하는 금융회사에 포함된다.
에너지 분야에서는 Hitachi Energy, EPRI, NextEra Energy, Quanta Services, SPP, Schneider Electric, Siemens Energy, Worley가 플랫폼 기술을 활용하는 미국 핵심 인프라 사업자로 소개됐다. Canonical, SUSE, Red Hat은 운영체제에 관련 기술을 통합하고 있으며, Red Hat은 ‘Red Hat AI Factory with NVIDIA’에서 OpenShell과 DOCA를 함께 구동한다. 클라우드·서버 등 AI 인프라 분야의 NVIDIA 파트너들도 고객의 에이전트 운영을 지원하는 솔루션에 이 기술을 활용하고 있다.
댓글
0