이 페이지는 Teleport Terraform 프로바이더의 teleport_inference_model 리소스에서 지원되는 값을 설명합니다.

스키마#

필수#

• metadata (Attributes) (중첩 스키마: metadata 참조)
• spec (Attributes) (중첩 스키마: spec 참조)

선택#

• sub_kind (String) 리소스 서브카인드입니다. 비어 있어야 합니다.
• version (String) 리소스 버전입니다. "v1"로 설정해야 합니다.

metadata의 중첩 스키마#

필수:

• name (String) 객체 이름입니다.

선택:

• description (String) 객체 설명입니다.
• expires (String) 시스템의 모든 리소스에 설정할 수 있는 전역 만료 시간 헤더입니다.
• labels (Map of String) 레이블 집합입니다.

spec의 중첩 스키마#

선택:

• bedrock (Attributes) 이 모델이 Amazon Bedrock을 추론 프로바이더로 사용함을 나타내며 Bedrock 특정 파라미터를 지정합니다. (중첩 스키마: spec.bedrock 참조)
• max_session_length_bytes (Number) 추론 프로바이더에 전송할 수 있는 최대 세션 길이입니다. 현재 모델의 컨텍스트 윈도우 크기로 결정됩니다. Teleport의 향후 버전에서는 더 큰 세션을 분할하여 요약할 수 있게 됩니다. 추론 프로바이더는 특정 모델의 컨텍스트 윈도우보다 큰 요청을 거부합니다. 컨텍스트 윈도우는 보통 토큰으로 크기가 정해지므로, 이 값은 근사치입니다. 입력 토큰당 2바이트를 가정하는 것이 안전합니다. 현재 Teleport는 이 한도보다 큰 세션을 직접 거부하지만, 향후 버전에서는 세션을 청크로 분할하여 이 크기를 최대값으로 처리할 예정입니다. 설정되지 않거나 0으로 설정되면 기본값은 1MB입니다.
• openai (Attributes) 이 모델이 OpenAI를 추론 프로바이더로 사용함을 나타내며 OpenAI 특정 파라미터를 지정합니다. (중첩 스키마: spec.openai 참조)

spec.bedrock의 중첩 스키마#

선택:

• bedrock_model_id (String) Bedrock API에서 인식하는 모델 ID 또는 추론 프로파일을 지정합니다.
• integration (String) AWS OIDC 통합 이름입니다. 설정되지 않으면 Teleport는 Auth Service 머신에서 사용 가능한 AWS 자격 증명을 사용하고, 그렇지 않으면 지정된 OIDC 통합을 사용하여 적절한 역할을 취득합니다.
• region (String) 추론에 사용될 AWS 리전입니다.

spec.openai의 중첩 스키마#

선택:

• api_key_secret_ref (String) OpenAI API 키를 포함하는 InferenceSecret에 대한 참조입니다.
• base_url (String) OpenAI API 기본 URL입니다. 선택 사항으로, 기본값은 공개 OpenAI API URL입니다. LiteLLM과 같은 사용자 지정 OpenAI 호환 API를 가리키는 데 사용할 수 있습니다. 이 경우 api_key_secret_ref는 해당 사용자 지정 API의 API 키를 포함하는 시크릿을 가리켜야 합니다.
• openai_model_id (String) OpenAI API에서 인식하는 모델 ID를 지정합니다.