GitLab Duo 프롬프트 가드레일

AI 기반 기능과 기능성.

GitLab Duo에는 기본적인 프롬프트 가드레일이 있습니다. 이러한 가드레일은 구조화된 프롬프트, 적용된 컨텍스트 경계, 필터링 도구에 의존하며, 다음을 돕습니다: 민감한 데이터 노출 감소. 프롬프트 주입 방지. 안전하고 유용한 응답을 위한 모델 안내. 이러한 안전 장치는 GDPR과 같은 일반적인 규제 표준 준수를 지원하여 AI 기반 워크플로우와 관련된 위험을 최소화하는 데 도움을 줍니다. Note 이러한 가드레일은 위험을 줄일 수 있지만, 모든 취약점을 제거하지는 않습니다. 어떤 시스템도 모든 오용이나 정교한 공격에 대한 완전한 보호를 보장할 수 없습니다. 일반 가드레일 # GitLab Duo에서 사용하는 프롬프트는 다음을 목표로 합니다: 허용되지 않는 콘텐츠 피하기: 모델은 유익하고 정중하며 혐오적이거나 비난적인 언어를 자제하도록 지시됩니다. 사용자 요청에 엄격히 따르기: 모델은 프롬프트에 밀접하게 따르고 역할극, 가장, 또는 관련 없는 콘텐츠로의 이탈을 피하도록 지시됩니다.