NVIDIA Nemotron Chat Model 노드를 사용하면 대화형 에이전트에서 NVIDIA Nemotron 모델에 액세스할 수 있습니다¹. 이 노드는 build.nvidia.com에서 호스팅되는 Nemotron 모델뿐 아니라 셀프 호스팅되는 NVIDIA Inference Microservices(NIM)에서도 작동합니다.

이 페이지에서는 NVIDIA Nemotron Chat Model 노드의 노드 매개변수와 추가 참고 자료 링크를 확인할 수 있습니다.

노드 매개변수#

Model#

완성을 생성하는 데 사용할 Nemotron 모델을 선택합니다.

n8n은 자격 증명에 구성된 엔드포인트에서 Nemotron 모델을 동적으로 로드합니다. n8n이 엔드포인트에 연결할 수 없는 경우, 잘 알려진 Nemotron 모델 ID의 큐레이션된 목록으로 대체됩니다.

노드 옵션#

이 옵션을 사용하여 노드의 동작을 더 세밀하게 조정할 수 있습니다.

Frequency Penalty#

이 옵션을 사용하여 모델이 스스로 반복할 가능성을 조절합니다. 값이 높을수록 모델이 스스로 반복할 가능성이 줄어듭니다.

최대 토큰 수#

사용할 최대 토큰 수를 입력하며, 이는 완성 길이를 설정합니다. 모델 기본값을 사용하려면 -1을 사용하세요.

Response Format#

Text 또는 JSON을 선택합니다. JSON을 선택하면 모델이 유효한 JSON을 반환하도록 보장합니다. JSON을 선택한 경우, 체인이나 에이전트의 프롬프트에 json이라는 단어를 포함해야 합니다.

Presence Penalty#

이 옵션을 사용하여 모델이 새로운 주제에 관해 이야기할 가능성을 조절합니다. 값이 높을수록 모델이 새로운 주제에 관해 이야기할 가능성이 늘어납니다.

Sampling Temperature#

이 옵션을 사용하여 샘플링 프로세스의 무작위성을 조절합니다. 온도가 높을수록 더 다양한 샘플링이 이루어지지만, 환각이 발생할 위험도 커집니다.

Timeout#

밀리초 단위의 최대 요청 시간을 입력합니다.

Max Retries#

요청을 재시도할 최대 횟수를 입력합니다.

Top P#

이 옵션을 사용하여 완성에 사용할 확률을 설정합니다. 확률이 낮은 옵션을 무시하려면 더 낮은 값을 사용하세요.

템플릿 및 예시#

NVIDIA Nemotron Chat Model 노드 문서 통합 템플릿 찾아보기 또는 모든 템플릿 검색

관련 리소스#

Nemotron 모델 목록은 NVIDIA의 build 카탈로그를, 셀프 호스팅에 관한 안내는 NIM 문서를 참조하세요. NVIDIA API는 OpenAI 스펙과 호환되므로, 기본 클라이언트에 관한 자세한 내용은 LangChain의 OpenAI 문서를 참조할 수 있습니다.

Footnotes

1. AI 에이전트는 요청에 응답하고, 결정을 내리고, 사용자를 위해 실제 작업을 수행할 수 있는 인공지능 시스템입니다. AI 에이전트는 대규모 언어 모델(LLM)을 사용하여 사용자 입력을 해석하고, 사용 가능한 정보와 리소스를 활용하여 요청을 가장 잘 처리하는 방법에 관한 결정을 내립니다. ↩