솔루션: AI 워크플로우
검색 증강 생성을 사용하는 AI 챗봇
거대 언어 모델(LLM)을 기반으로 하는 AI 챗봇을 구축하여 엔터프라이즈 데이터에 대한 질문에 정확하게 답변할 수 있습니다.
NVIDIA NIM 마이크로서비스로 RAG 챗봇 구축
생성형 AI 기반 챗봇을 개발하고, 프로덕션 환경에서 실행하며, 거대 언어 모델(LLM)을 기업의 엔터프라이즈 데이터에 연결하는 기술인 검색 증강 생성(RAG)을 사용하여 데이터를 가치 있는 인사이트로 변환하는 데 필요한 도구를 찾아보세요. 이 워크플로우 예제는 NVIDIA NeMo™ Retriever 및 NIM™ 추론 마이크로서비스를 인기 있는 오픈 소스 LLM 프로그래밍 프레임워크와 통합하는 애플리케이션을 쉽게 작성할 수 있는 방법을 제공합니다.
RAG 챗봇 워크플로우 예제 살펴보기
NVIDIA RAG 챗봇 AI 워크플로우 예제는 다양한 사용 사례에 대한 응답을 정확하게 생성하는 엔터프라이즈 솔루션 구축을 가속화합니다. 이 예제를 참고하여 최신 GPU 최적화 LLM, NeMo Retriever, NIM 마이크로서비스를 활용하는 RAG 애플리케이션을 작성할 수 있습니다.
워크플로우에는 무엇이 포함되어 있나요?
- NVIDIA와 LangChain 및 LlamaIndex의 통합을 보여주는 엔드투엔드 샘플 RAG 파이프라인
- LLM 답변 생성을 위한 OpenAI 호환 API
- 주요 구성 요소가 상호 작용하는 방식을 더 심층적으로 이해하기 위한 코드와 API를 갖춘 챗봇 웹 애플리케이션의 예시
- NVIDIA A100 Tensor 코어 GPU에서 Docker를 통해 전체 RAG 파이프라인을 쉽고 빠르게 배포
- NVIDIA NIM을 통한 최적화된 LLM 추론 성능 및 확장
- NIM 모델을 자체 호스팅 모델과 통합할 수 있는 유연성
RAG 챗봇 AI 워크플로우는 최소한의 노력으로 엔터프라이즈 솔루션을 구축할 수 있는 참고 자료를 제공합니다.
NVIDIA LaunchPad에서 생성형 AI 여정을 시작하세요
생성형 AI 프로젝트가 예정되어 있나요? 무료로 제공되는 선별된 랩으로 RAG 워크플로우를 사용하여 AI 챗봇에 액세스하세요. 즉시 사용할 수 있는 소프트웨어, 샘플 데이터, 애플리케이션을 갖춘 단계별 가이드 랩에 액세스하세요.
어디서나 RAG 기반 AI 애플리케이션을 쉽게 구축
정확한 응답 전달
LLM을 사용하여 회사의 엔터프라이즈 데이터 소스에서 실시간 정보를 기반으로 응답을 생성하세요.
대규모 답변 생성
프로덕션 환경에서 Kubernetes의 검색 증강 생성 POD를 확장하는 오케스트레이션을 간소화하세요.
어디에나 배포
선호하는 온프레미스 또는 클라우드 플랫폼에 전체 워크플로우를 배포하세요.
AI 솔루션 개발 가속화
AI 워크플로우는 AI 성과를 달성하는 방법을 가속화합니다. 엔터프라이즈급 RAG 워크플로우는 개발자에게 AI 챗봇 구축을 시작할 수 있는 레퍼런스 솔루션을 제공합니다.
검색 증강 생성 시작하기
NVIDIA 교육으로 생성형 AI 기술 향상
NVIDIA 전문가가 진행하며 실습 교육을 특징으로 하고, 기초에서 고급 주제까지 모두 다루는 종합적인 생성형 AI/LLM 학습 과정을 활용하세요. 자율적으로 유연하게 학습할 수 있는 과정을 선택하거나 강사 주도 워크숍에 등록하여 역량 인증서를 취득할 수 있습니다.