InfoGrab Docs

teleport_inference_model Terraform 리소스 레퍼런스

이 페이지는 Teleport Terraform 프로바이더의 teleport_inference_model 리소스에서 지원되는 값을 설명합니다.

이 페이지는 Teleport Terraform 프로바이더의 teleport_inference_model 리소스에서 지원되는 값을 설명합니다. 스키마 # 필수 # metadata (Attributes) ( 중첩 스키마: metadata 참조) spec (Attributes) ( 중첩 스키마: spec 참조) 선택 # sub_kind (String) 리소스 서브카인드입니다. 비어 있어야 합니다. version (String) 리소스 버전입니다. "v1"로 설정해야 합니다. metadata 의 중첩 스키마 # 필수: name (String) 객체 이름입니다. 선택: description (String) 객체 설명입니다. expires (String) 시스템의 모든 리소스에 설정할 수 있는 전역 만료 시간 헤더입니다. labels (Map of String) 레이블 집합입니다. spec 의 중첩 스키마 # 선택: bedrock (Attributes) 이 모델이 Amazon Bedrock을 추론 프로바이더로 사용함을 나타내며 Bedrock 특정 파라미터를 지정합니다. ( 중첩 스키마: spec.bedrock 참조) max_session_length_bytes (Number) 추론 프로바이더에 전송할 수 있는 최대 세션 길이입니다. 현재 모델의 컨텍스트 윈도우 크기로 결정됩니다. Teleport의 향후 버전에서는 더 큰 세션을 분할하여 요약할 수 있게 됩니다. 추론 프로바이더는 특정 모델의 컨텍스트 윈도우보다 큰 요청을 거부합니다. 컨텍스트 윈도우는 보통 토큰으로 크기가 정해지므로, 이 값은 근사치입니다. 입력 토큰당 2바이트를 가정하는 것이 안전합니다. 현재 Teleport는 이 한도보다 큰 세션을 직접 거부하지만, 향후 버전에서는 세션을 청크로 분할하여 이 크기를 최대값으로 처리할 예정입니다. 설정되지 않거나 0으로 설정되면 기본값은 1MB입니다. openai (Attributes) 이 모델이 OpenAI를 추론 프로바이더로 사용함을 나타내며 OpenAI 특정 파라미터를 지정합니다. ( 중첩 스키마: spec.openai 참조) spec.bedrock 의 중첩 스키마 # 선택: bedrock_model_id (String) Bedrock API에서 인식하는 모델 ID 또는 추론 프로파일을 지정합니다. integration (String) AWS OIDC 통합 이름입니다. 설정되지 않으면 Teleport는 Auth Service 머신에서 사용 가능한 AWS 자격 증명을 사용하고, 그렇지 않으면 지정된 OIDC 통합을 사용하여 적절한 역할을 취득합니다. region (String) 추론에 사용될 AWS 리전입니다. spec.openai 의 중첩 스키마 # 선택: api_key_secret_ref (String) OpenAI API 키를 포함하는 InferenceSecret에 대한 참조입니다. base_url (String) OpenAI API 기본 URL입니다. 선택 사항으로, 기본값은 공개 OpenAI API URL입니다. LiteLLM과 같은