GitLab Duo 프롬프트 가드레일

GitLab Duo의 프롬프트 가드레일 기능과 보안 메커니즘에 대한 설명입니다.

GitLab Duo에는 기본적인 프롬프트 가드레일이 있습니다. 이 가드레일은 구조화된 프롬프트, 강제된 컨텍스트 경계, 필터링 도구에 의존하며, 다음을 지원합니다: 민감한 데이터 노출 감소. 프롬프트 인젝션 방지. 안전하고 유용한 응답으로 모델 유도. 이러한 안전장치는 AI 기반 워크플로우와 관련된 위험을 최소화하여 GDPR과 같은 일반적인 규제 표준 준수를 지원합니다. Note 이 가드레일이 위험을 줄일 수 있지만, 모든 취약점을 완전히 제거하지는 않습니다. 어떠한 시스템도 모든 오용이나 정교한 공격에 대한 완전한 보호를 보장할 수 없습니다. 일반 가드레일 # GitLab Duo가 사용하는 프롬프트는 다음을 목표로 합니다: 허용되지 않는 콘텐츠 방지: 모델은 정보를 제공하고, 정중하게 응대하며, 혐오적이거나 비난적인 언어를 삼가도록 지시받습니다. 사용자 요청을 엄격하게 준수: 모델은 프롬프트를 충실히 따르고, 역할극, 사칭, 또는 관련 없는 콘텐츠로의 이탈을 방지하도록 지시받습니다