Azure AI Foundry Chat Model 노드를 사용하여 대화형 에이전트¹와 함께 Azure AI Foundry 또는 Azure OpenAI 리소스에서 제공하는 채팅 모델을 사용하세요.

이 페이지에서는 Azure AI Foundry Chat Model 노드의 노드 매개변수와 추가 리소스 링크를 확인할 수 있습니다.

노드 매개변수#

• Model: 완성을 생성하는 데 사용할 모델을 선택합니다.

노드 옵션#

• Frequency Penalty: 이 옵션을 사용하여 모델이 스스로 반복할 가능성을 제어합니다. 값이 높을수록 모델이 반복할 가능성이 줄어듭니다.
• Maximum Number of Tokens: 사용할 최대 토큰 수를 입력하며, 이는 완성 길이를 설정합니다.
• Response Format: Text 또는 JSON 중에서 선택합니다. JSON은 모델이 유효한 JSON을 반환하도록 보장합니다.
• Presence Penalty: 이 옵션을 사용하여 모델이 새로운 주제에 대해 이야기할 가능성을 제어합니다. 값이 높을수록 모델이 새로운 주제에 대해 이야기할 가능성이 증가합니다.
• Sampling Temperature: 이 옵션을 사용하여 샘플링 프로세스의 무작위성을 제어합니다. 온도가 높을수록 더 다양한 샘플링이 생성되지만, 환각(hallucination) 위험이 증가합니다.
• Timeout: 최대 요청 시간을 밀리초 단위로 입력합니다.
• Max Retries: 요청을 재시도할 최대 횟수를 입력합니다.
• Top P: 이 옵션을 사용하여 완성에 사용할 확률을 설정합니다. 낮은 값을 사용하면 확률이 낮은 옵션을 무시합니다.

프록시 제한 사항#

이 노드는 NO_PROXY 환경 변수를 지원하지 않습니다.

템플릿 및 예제#

Azure AI Foundry Chat Model 노드 문서 통합 템플릿 찾아보기 또는 모든 템플릿 검색

관련 리소스#

이 서비스에 대한 자세한 내용은 LangChain의 Azure OpenAI 문서를 참조하세요.

Footnotes

1. AI 에이전트는 요청에 응답하고, 결정을 내리고, 사용자를 위해 실제 작업을 수행할 수 있는 인공지능 시스템입니다. 이들은 대규모 언어 모델(LLM)을 사용하여 사용자 입력을 해석하고, 사용 가능한 정보와 리소스를 활용하여 요청을 가장 잘 처리하는 방법에 대한 결정을 내립니다. ↩