개요

AI를 활용한 사이버 보안 강화와 AI 워크로드 보호

AI가 공격자에게 더 강력한 역량을 제공함에 따라 방어자는 더욱 신속하게 대응해야 합니다. NVIDIA는 조기 위협 탐지와 신속한 대응부터 제로 트러스트 인프라를 통한 민감한 데이터와 지적 재산 보호에 이르기까지 사이버 보안의 모든 계층에 가속 컴퓨팅과 AI를 제공합니다. NVIDIA의 AI 프레임워크, 레퍼런스 설계, 아키텍처 및 모범 사례는 조직이 안전하고 확장 가능한 AI 데이터센터를 구축할 수 있는 기반을 제공합니다.

안전한 AI 에이전트 구축 및 실행

AI 팩토리, 엔터프라이즈 인프라, 엣지 전반에서 안전한 에이전트를 지원하는 산업 규모의 풀스택 인프라인 NVIDIA OpenShell Reference Architecture를 소개합니다.

안전한 AI 에이전트의 대규모 운영

NVIDIA OpenShell 보안 런타임과 NVIDIA Vera CPU는 함께 AI 에이전트를 산업 규모에서 더욱 효율적으로 관리합니다.

이점

NVIDIA 기술로 AI 안전성과 보안 강화

안전하게 작동하는 에이전트 구축

오픈 모델과 도구를 활용해 안전하지 않은 입력과 출력을 필터링하고, 재학습 없이 런타임에 프로그래밍 가능한 안전 제어를 적용하며, 에이전트의 취약점을 사전에 점검합니다. 이를 통해 프로덕션 환경에 배포되기 전에 위험을 발견하고 해결합니다.

AI 에이전트의 속도에 맞춘 인실리콘 보안 적용

NVIDIA Sentry와 NVIDIA BlueField는 지속적인 모니터링, 신뢰할 수 있는 텔레메트리, 밀리초 단위의 격리를 제공하여 AI 에이전트를 위한 대역 외 인실리콘 보안을 구현합니다.

고성능 컨피덴셜 컴퓨팅

경쟁 당사자나 신뢰할 수 없는 당사자와 데이터세트 또는 인프라를 공유하는 경우에도 개인 정보와 모델을 안전한 상태로 규정을 준수하고 손상되지 않게 유지할 수 있다는 확신을 바탕으로 인사이트를 도출할 수 있습니다.

보안을 유지하면서 에이전트가 작업하도록 지원

보안 런타임은 파일 액세스, 외부로 나가는 네트워크 트래픽 및 자격 증명에 대한 선언적 정책을 적용합니다. 이를 통해 자율 에이전트는 데이터나 인프라를 위험에 노출하지 않고 작동할 수 있습니다.

기술

사이버 보안 AI 기술 살펴보기

NVIDIA의 기술은 기업이 AI와 가속 컴퓨팅을 활용해 시스템을 방어하고, 사이버 보안 공급업체가 솔루션을 강화할 수 있도록 지원합니다. AI는 대량의 실시간 데이터를 효율적으로 처리하여 위협 탐지와 위험 식별을 가속화합니다. 또한 NVIDIA는 레퍼런스 설계, 네트워킹 및 컨피덴셜 플랫폼을 통해 조직이 AI 인프라, 데이터 및 모델을 보호할 수 있도록 지원합니다.

소프트웨어

NVIDIA OpenShell

  • 오픈소스 런타임을 통해 자기 진화형 자율 에이전트를 더 안전하게 구축 및 배포합니다.
  • 샌드박스에서의 실행과 정책 적용을 통해 에이전트 동작을 관리하여 엔터프라이즈의 에이전틱 시스템을 안전하게 확장합니다.
하드웨어 및 소프트웨어

NVIDIA 컨피덴셜 컴퓨팅

  • 하드웨어 기반의 신뢰할 수 있는 실행 환경에서 민감 데이터와 모델 IP를 보호하여 어디서나 검증 가능한 AI를 배포합니다.
  • 모델 및 데이터를 안전하고 규정을 준수하며 손상되지 않게 보호하면서 AI 인사이트를 도출합니다.
하드웨어 및 소프트웨어

BlueField 기반 NVIDIA Sentry

  • NVIDIA Open Agent Safety Platform의 일부로, 에이전트 및 호스트 소프트웨어 외부에 있는 BlueField-4의 하드웨어 격리형 호스트 독립 도메인에서 독립적인 보안 경계를 적용합니다.
  • NVIDIA Sentry로 에이전트 동작을 지속적으로 모니터링하여 의심스러운 동작과 정책 이탈을 실시간으로 식별합니다.
  • BlueField-4의 인실리콘 인프라 제어를 사용하여 탐지된 위협에 대응하고 밀리초 단위로 에이전트를 격리합니다.
모델

NVIDIA Nemotron

  • 장시간 실행되는 자율 에이전트를 위해 구축된 고효율 개방형 멀티모달 모델로 사이버 방어 에이전트를 구동합니다.
  • 계획 수립을 위한 최첨단 추론 모델, 대량의 도구 호출을 위한 빠르고 효율적인 실행 모델, 텍스트와 이미지에서 안전하지 않은 콘텐츠를 높은 정확도로 탐지하는 전용 안전성 모델 등 에이전트 작업의 각 계층에 특화된 오픈 모델 제품군입니다.
  • Nemotron™ Safety 모델은 에이전틱 파이프라인 전반에서 안전하지 않은 입력과 출력을 탐지하고 필터링하여 멀티 에이전트 사이버 시스템이 신뢰성을 유지하고 목표에 부합하게 합니다.
블루프린트

NVIDIA NemoClaw

  • Nemotron 오픈 모델과 조정된 오픈 하네스로 구축되며 정확성, 효율성 및 비용에 맞춰 최적화된 특화 에이전트용 오픈 레퍼런스 스택입니다.
  • 오픈 모델, 하네스 및 런타임을 활용하여 맞춤화하고 개선하며 어디서나 실행할 수 있는 특화 에이전트를 구축하세요.
  • 임상팀과 자율 엔지니어부터 기업 운영과 개인 비서에 이르기까지, 사람 및 다른 AI 에이전트와 함께 작업하는 특화 에이전트를 구동합니다.
소프트웨어

NVIDIA NeMo

  • 특화된 사이버 보안 AI 에이전트를 사용하여 지속적인 위협 사냥, 레드팀 시뮬레이션, 자율 사이버 방어를 실행합니다.
  • 에이전틱 AI 애플리케이션을 안전하고 안정적으로 유지하며 목표에 부합하게 사용할 수 있도록 엔터프라이즈급 가드레일을 오케스트레이션합니다.
  • 에이전트가 프로덕션 환경에 배포되기 전에 프롬프트 인젝션, 탈옥, 데이터 유출과 같은 취약점을 점검합니다.

안전한 AI 에이전트를 위한 NVIDIA OpenShell 레퍼런스 아키텍처

NVIDIA OpenShell 보안 런타임, Vera CPU, Vera Rubin 시스템, BlueField-4 기반 NVIDIA Sentry로 구동되는 풀스택 오픈 아키텍처입니다.

사용 사례

사이버 보안 AI 사용 방법

NVIDIA AI 및 가속 컴퓨팅이 업계 사용 사례를 지원하는 방법을 확인하고 레퍼런스 예제를 통해 사이버 보안 AI 개발을 시작하세요.

컨테이너 보안 취약점 분석

소프트웨어 보안 문제를 해결하는 것은 어렵고 시간이 오래 걸리지만, 보안 AI 에이전트는 취약성 방어를 개선하면서 보안 팀의 부담을 줄일 수 있습니다. 이 이벤트 기반 RAG 애플리케이션은 NVIDIA NIM 및 NVIDIA Morpheus를 사용하여 일반적인 취약점 및 노출(CVE) 분석 및 개선 시간을 며칠에서 단 몇 초로 크게 줄입니다.

이상 탐지

엔터프라이즈는 엄청난 수준으로 방대한 데이터 네트워크를 보호해야 하는 상황에 직면하고 있습니다. NVIDIA Morpheus를 활용하면 엔터프라이즈 데이터센터 전반의 모든 사용자, 서비스, 계정, 기기를 대상으로 모니터링을 통해 디지털 지문을 구현함으로써, 의심스러운 상호 작용이 언제 발생하는지 확인할 수 있습니다. NVIDIA GPU와 DPU 가속기를 NVIDIA 인증 서버의 NVIDIA DOCA 원격 분석과 결합하면 데이터센터에 새로운 수준의 보안을 도입할 수 있습니다.

데이터 유출 방지

유출된 민감 데이터를 감지하는 기존 방식은 정적인 규칙 기반 모델을 사용하는데, 이는 훈련 데이터의 품질로 인해 한계가 있습니다. 하지만 NVIDIA Morpheus를 사용하면, 잠재적 유출에 생성되는 원시 패킷 정보를 검토할 수 있게 됩니다. 이때, NVIDIA BlueField DPU 내 탑재된 DOCA 원격 분석 에이전트는 원시 패킷을 Morpheus에 직접 전달합니다. 자연어 처리(NLP) 모델은 패킷 내에서 비밀번호 및 개인 키와 같은 민감 정보가 유출되고 있는지 여부를 판단합니다. 유사시 패킷에는 즉시 플래그가 지정되며, 정책 시행을 위한 권장 동작이 다시 DOCA로 전달됩니다. 이러한 사실은 실시간 알림으로 운영자에게 제공되며, 이를 통해 운영자는 침해 데이터 문제를 즉시 해결할 수 있습니다.

스피어 피싱 탐지

가장 규모가 크고 비용이 많이 드는 사이버 위협 중 하나인 스피어 피싱은 타겟팅된 설득력 있는 이메일을 사용합니다. 훈련 데이터가 부족하기 때문에 방어하기가 어렵습니다. NVIDIA Morpheus는 스피어 피싱 시도를 식별하기 위해 NVIDIA NeMo에서 생성한 합성 이메일을 사용하여 훈련된 NLP 모델을 제공합니다. 이를 통해 훈련 하루 만에 스피어 피싱 이메일 탐지 결과가 20% 개선되었습니다.

제로 트러스트 아키텍처

기존의 경계 전용 보안 모델은 오늘날 늘어나는 위협과 제로데이 익스플로잇으로 인해 충분하지 않습니다. NVIDIA BlueField DPU는 방화벽, 암호화, 마이크로세그멘테이션, 침입 탐지/방지, 애플리케이션 검사와 같은 분산 보안 기능을 모든 서버에서 실행할 수 있게 하여 데이터 센터에서 제로 트러스트 보안 태세를 갖출 수 있게 지원합니다. NVIDIA BlueField DPU를 NVIDIA Spectrum-X Ethernet 네트워킹과 함께 사용하면 제로 트러스트 멀티 테넌트 패브릭을 구축하여 대규모 AI 워크로드를 보호 및 격리할 수 있습니다.

엔터프라이즈 AI 에이전트 보안

AI 에이전트 보안은 위협에 대응하기 위한 주요 방어 레이어를 제공하므로, 프로덕션 배포에 있어서 협상 불가능한 필수 이행 사항입니다. 고정된 로직을 따르는 기존 소프트웨어와 달리, AI 에이전트는 코드를 동적으로 추론 및 실행하는데, 이는 외부 데이터(예: 이메일 또는 PDF) 내 숨겨진 악성 명령에서 간접 프롬프트 주입과 목표 하이재킹에 취약하게 만듭니다. 이때, 조직은 NVIDIA OpenShell™ 보안 런타임을 통해 에이전트의 실행을 격리함으로써 엄격한 제로 트러스트 경계와 가드레일을 시행하여 데이터를 보호할 수 있습니다.

생태계

모든 산업 분야의 선도적인 도입

AI 생태계 전반의 업계 선도 기업들이 NVIDIA와 협력하여 인프라, 소프트웨어, 모델 및 로보틱스로 구성된 풀스택 전반에서 모든 산업을 위한 AI 안전성을 강화하고 있습니다.

Agentic AI — Logo Crawl

NVIDIA AI 보안 연구

AI 시스템 보호와 사이버 방어 강화를 위한 NVIDIA의 연구를 살펴보세요. NVIDIA는 공개 연구와 Open Secure AI Alliance에 대한 기여를 통해 보안팀이 연구 결과를 검증하고 더욱 강력한 방어 체계를 구축하는 데 도움이 되는 방법과 기술 산출물을 공유합니다.

다음 단계

시작할 준비가 되셨나요?

최신 문서, 튜토리얼, 기술 블로그 등을 포함하여 사이버 보안 AI 애플리케이션 개발을 시작하는 데 필요한 모든 것을 찾아보세요.

문의하기

NVIDIA 제품 전문가와 상담하여 NVIDIA AI Enterprise의 보안, API 안정성 및 지원을 통해 파일럿에서 프로덕션 환경으로 전환할 수 있습니다.

최신 NVIDIA AI 뉴스 받기

등록하여 NVIDIA의 최신 뉴스, 업데이트 등을 받아보세요.

자주 묻는 질문

이 아키텍처는 NVIDIA OpenShell 보안 런타임을 에이전트 하네스 및 도구용 NVIDIA Vera CPU, 추론용 NVIDIA Vera Rubin, 독립적인 모니터링과 정책 적용을 위한 BlueField-4 기반 NVIDIA Sentry와 결합합니다. OpenShell은 다른 CPU 시스템에서도 실행되며, 사용 시 Vera와 BlueField가 필수는 아닙니다.

자율적인 자기 진화형 에이전트를 더욱 안전하게 구축하고 배포하는 데 사용되는 NVIDIA OpenShell 오픈 소스 런타임의 기술 문서는 여기에서 확인할 수 있습니다.

NVIDIA OpenShell 보안 런타임은 에이전트의 실행을 격리하고 엄격한 제로 트러스트 경계와 가드레일을 구축하여, 외부 데이터에 악성 지침을 숨기는 간접 프롬프트 인젝션 및 목표 하이재킹과 같은 위협으로부터 보호합니다.

NVIDIA BlueField는 네트워킹, 스토리지, 보안을 가속화하도록 특수 설계된 인프라 프로세서입니다. NVIDIA DOCA와 결합된 BlueField는 하드웨어로 격리되고 호스트와 독립된 보안 도메인을 제공하여 NVIDIA Sentry를 구동합니다. 이를 통해 NVIDIA Open Agent Safety Platform의 일부로서 지속적인 대역 외 에이전트 모니터링, 실리콘 수준의 정책 적용, 밀리초 단위의 격리를 제공합니다. NVIDIA BlueField는 네트워킹, 스토리지, 사이버 보안을 가속화하도록 특수 설계된 인프라 프로세서입니다. NVIDIA DOCA와 결합하면 모든 시스템에 제로 트러스트 보안을 구현하고, 워크로드에 대한 실시간 가시성을 활용하여 런타임 공격을 탐지하고 차단합니다.

NVIDIA DOCA Argus는 AI 워크로드의 상태와 동작에 대한 심층적인 가시성을 제공하여 AI 속도로 런타임 위협을 탐지합니다. 실시간 메모리 분석을 통해 각 워크로드의 상황을 파악하고, 동작이 예상 패턴에서 벗어나면 알림을 생성합니다. DOCA Argus는 주요 엔터프라이즈 XDR 보안 플랫폼과 통합됩니다.

NVIDIA DOCA Vault는 NVIDIA BlueField에서 실행되는 보안 마이크로서비스로, 인실리콘 보안을 통해 민감한 데이터를 보호하고 제로 트러스트 액세스를 적용하며 AI 에이전트의 속도에 맞춰 데이터 노출 위험을 줄입니다.

컨피덴셜 컴퓨팅은 하드웨어에 신뢰 기반을 둔 신뢰 실행 환경(TEE)으로 사용 중인 모델과 데이터를 보호하여, 기업이 민감한 데이터에 AI를 안전하게 적용할 수 있게 하는 기술입니다. 내부자 및 인프라 위협으로부터 데이터가 보호된다는 사실을 암호학적으로 검증할 수 있습니다.

Nemotron 모델은 장기 실행 자율 사이버 방어 에이전트를 구동하는 데 사용할 수 있는 고효율 오픈 멀티모달 모델입니다.

NVIDIA는 에이전트 안전성에 기여하는 오픈 모델과 도구를 제공합니다. 여기에는 에이전트 파이프라인의 안전하지 않은 입력과 출력을 분류하고 필터링하는 LLM인 Nemotron Safety 모델, LLM 애플리케이션에 프로그래밍 가능한 안전 및 주제 제어 기능을 추가하는 NeMo Guardrails, 프롬프트 인젝션, 탈옥, 데이터 유출과 같은 취약점을 찾기 위해 LLM과 에이전트를 점검하는 Garak이 포함됩니다.

NVIDIA NemoClaw™는 최저 비용으로 최상의 품질을 제공하도록 최적화된 특화 에이전트용 오픈 블루프린트 모음입니다. 에이전트 실행을 위한 오픈 소스 런타임인 NVIDIA OpenShell을 사용하여 더욱 안전하게 작동합니다. GitHub에서 제공되는 OpenShell은 파일 시스템, 네트워크, 프로세스, 추론 접근을 제어하여 장기 실행 에이전트가 강화된 보안과 통제 아래 작업하도록 지원합니다.

튜토리얼과 기술 블로그는 여기에서 확인할 수 있습니다.

NVIDIA 보안 연구의 최신 소식은 여기에서 확인할 수 있습니다.