Guardrails 노드를 사용하여 텍스트에 안전, 보안 및 콘텐츠 정책을 적용하세요. 이 노드를 사용하면 사용자 입력을 AI 모델로 보내기 전에 검증하거나, AI 모델의 _출력_을 워크플로에서 사용하기 전에 확인할 수 있습니다.

노드 매개변수#

다음 매개변수를 사용하여 Guardrails 노드를 구성하세요.

작업#

이 노드의 동작을 정의하는 작업 모드입니다.

• Check Text for Violations: 전체 guardrail 세트를 제공합니다. 위반 사항이 발생하면 항목이 Fail 분기로 전송됩니다.
• Sanitize Text: URL, 정규식, 시크릿 키, 전화번호나 신용카드 번호와 같은 개인 식별 정보(PII)를 탐지할 수 있는 guardrail의 하위 집합을 제공합니다. 이 노드는 탐지된 위반 사항을 자리표시자로 대체합니다.

확인할 텍스트#

guardrail이 평가하는 텍스트입니다. 일반적으로 사용자 쿼리 텍스트나 AI 모델의 응답과 같이 이전 노드의 표현식을 사용하여 이 텍스트를 매핑합니다.

Guardrails#

Text To Check에 적용할 하나 이상의 guardrail을 선택하세요. 목록에서 guardrail을 추가하면 아래에 해당 guardrail의 구성 옵션이 표시됩니다.

• Keywords: 지정된 키워드가 입력 텍스트에 나타나는지 확인합니다.
  • Keywords: 차단할 단어의 쉼표로 구분된 목록입니다.
• Jailbreak: AI 안전 조치를 우회하거나 모델을 악용하려는 시도를 탐지합니다.
  • Customize Prompt: (불리언) 이 옵션을 켜면 jailbreak 탐지 모델의 기본 프롬프트가 있는 텍스트 입력이 나타납니다. guardrail을 세밀하게 조정하기 위해 이 프롬프트를 변경할 수 있습니다.
  • Threshold: 0.0에서 1.0 사이의 값입니다. 이는 입력을 jailbreak 시도로 표시하는 데 필요한 AI 모델의 신뢰 수준을 나타냅니다. 값이 높을수록 더 엄격합니다.
• NSFW: 업무에 적합하지 않은(Not Safe For Work, NSFW) 콘텐츠를 생성하려는 시도를 탐지합니다.
  • Customize Prompt: (불리언) 이 옵션을 켜면 NSFW 탐지 모델의 기본 프롬프트가 있는 텍스트 입력이 나타납니다. guardrail을 세밀하게 조정하기 위해 이 프롬프트를 변경할 수 있습니다.
  • Threshold: 콘텐츠를 NSFW로 표시하는 데 필요한 신뢰 수준을 나타내는 0.0에서 1.0 사이의 값입니다.
• PII: 텍스트에서 개인 식별 정보(PII)를 탐지합니다.
  • Type: 스캔할 PII 엔티티를 선택하세요.
    • All: 사용 가능한 모든 엔티티 유형을 스캔합니다.
    • Selected: 목록에서 특정 엔티티를 선택할 수 있습니다.
  • Entities: (Type이 Selected일 때 표시) 탐지할 PII 유형의 다중 선택 목록입니다(예: CREDIT_CARD, EMAIL_ADDRESS, PHONE_NUMBER, US_SSN).
• Secret Keys: 텍스트에서 시크릿 키나 API 자격 증명의 존재를 탐지합니다.
  • Permissiveness: 시크릿 키를 표시할 때 탐지가 얼마나 엄격하거나 관대해야 하는지를 나타냅니다.
    • Strict
    • Permissive
    • Balanced
• Topical Alignment: 대화가 미리 정의된 범위나 주제("업무 범위"라고도 함) 내에 머무르도록 보장합니다.
  • Prompt: 허용된 주제를 정의하는 사전 설정 프롬프트입니다. 이 guardrail은 Text To Check가 이 프롬프트와 부합하는지 확인합니다.
  • Threshold: 입력을 _주제 이탈_로 표시하는 데 필요한 신뢰 수준을 나타내는 0.0에서 1.0 사이의 값입니다.
• URLs: 노드가 입력 텍스트에서 찾은 URL을 관리합니다. Block All URLs Except에 지정하지 않는 한 모든 URL을 위반 사항으로 탐지합니다.
  • Block All URLs Except: (선택 사항) 허용할 URL의 쉼표로 구분된 목록입니다.
  • Allowed Schemes: 허용할 URL 스킴을 선택하세요(예: https, http, ftp, mailto).
  • Block userinfo: (불리언) 이 옵션을 켜면 자격 증명 삽입을 방지하기 위해 노드가 사용자 자격 증명이 포함된 URL(예: user:pass@example.com)을 차단합니다.
  • Allow subdomain: (불리언) 이 옵션을 켜면 Block All URLs Except 목록에 있는 URL의 하위 도메인을 노드가 자동으로 허용합니다(예: example.com이 목록에 있으면 sub.example.com도 허용됩니다).
• Custom: 여러분만의 사용자 지정 LLM 기반 guardrail을 정의합니다.
  • Name: 사용자 지정 guardrail에 대한 설명적인 이름입니다(예: "무례한 언어 확인").
  • Prompt: AI 모델이 확인해야 할 사항을 지시하는 프롬프트입니다.
  • Threshold: 입력을 위반 사항으로 표시하는 데 필요한 신뢰 수준을 나타내는 0.0에서 1.0 사이의 값입니다.
• Custom Regex: 사용자 지정 정규 표현식 패턴을 정의합니다.
  • Name: 사용자 지정 패턴의 이름입니다. 이 노드는 Sanitize Text 모드에서 이 이름을 자리표시자로 사용합니다.
  • Regex: 정규 표현식 패턴입니다.

System Message 사용자 지정#

이 옵션을 켜면 스키마에 따라 임계값과 JSON 출력을 적용하기 위해 guardrail이 사용하는 메시지가 있는 텍스트 입력이 나타납니다. 전역 guardrail 동작을 수정하려면 이를 변경하세요.