GitLab Duo 프롬프트 가드레일

AI 기반 기능과 기능성.

GitLab Duo에는 기본적인 프롬프트 가드레일이 있습니다. 이러한 가드레일은 구조화된 프롬프트, 적용된 컨텍스트 경계, 필터링 도구에 의존하며, 다음을 돕습니다: 민감한 데이터 노출 감소. 프롬프트 주입 방지. 안전하고 유용한 응답을 위한 모델 안내. 이러한 안전 장치는 GDPR과 같은 일반적인 규제 표준 준수를 지원하여 AI 기반 워크플로우와 관련된 위험을 최소화하는 데 도움을 줍니다. Note 이러한 가드레일은 위험을 줄일 수 있지만, 모든 취약점을 제거하지는 않습니다. 어떤 시스템도 모든 오용이나 정교한 공격에 대한 완전한 보호를 보장할 수 없습니다. 일반 가드레일 # GitLab Duo에서 사용하는 프롬프트는 다음을 목표로 합니다: 허용되지 않는 콘텐츠 피하기: 모델은 유익하고 정중하며 혐오적이거나 비난적인 언어를 자제하도록 지시됩니다. 사용자 요청에 엄격히 따르기: 모델은 프롬프트에 밀접하게 따르고 역할극, 가장, 또는 관련 없는 콘텐츠로의 이탈을 피하도록 지시됩니다. 콘텐츠 격리를 위한 태그 사용: 태그는 모델이 제공된 스니펫에 집중하도록 지시하여 프롬프트 주입 위험을 줄이는 데 도움을 줍니다. 비밀 필터링: 코드 제안은 민감한 정보를 실수로 전송하지 않도록 스캔됩니다. 예시: 민감한 구성 데이터가 포함된 고객의 job 로그는 <log> 태그로 캡슐화되어, 모델이 관련 없는 가정을 하지 않고 제공된 컨텍스트에만 집중하도록 합니다. 직무 역할별 가드레일 # 역할에 따라 GitLab Duo에 설정된 가드레일에 대해 다른 관심사가 있을 수 있습니다. 기술 사용자를 위한 # 코드 격리 : <selected_code> , <git_diff> , <log> 와 같은 태그는 모델이 제공한 코드나 콘텐츠에 엄격하게 집중하도록 유도하여 프롬프트 주입 위험을 줄이는 데 도움을 줍니다. 비밀 필터링 : Gitleaks와 같은 도구는 코드 제안을 스캔하여 API 키나 비밀번호와 같은 민감한 데이터가 공유되지 않도록 방지합니다. 집중된 응답 : GitLab Duo는 주제에 집중하여 도움이 되지 않거나 예상치 못한 결과로 이어질 수 있는 동작을 피하는 데 도움을 줍니다. 근본 원인 분석 : 문제 해결 시 GitLab Duo는 제공된 것 외에 어떤 것에 대해서도 가정하지 않고 job 로그를 분석하는 것을 목표로 합니다. 감사자 및 컴플라이언스 팀을 위한 # 규제 정렬 : 시스템은 데이터 유출과 같은 위험을 줄이는 데 도움을 주어 조직이 GDPR과 같은 표준에 맞추는 데 도움을 줍니다. 투명성 : 프롬프트와 컨텍스트가 구성되는 방식은 GitLab Duo 작업을 예측 가능하고 감사 가능하게 만드는 데 도움을 줍니다. 자세한 내용은 기능별 가드레일 을 참조하세요. 콘텐츠 제어 : 토론 요약 또는 취약점 해결과 같은 작업의 경우 GitLab Duo는 제공된 입력만 사용하여 오류나 의도하지 않은 출력의 가능성을 줄이는 데 도움을 줍니다. 악의적인 입력에 대한 보호 : 필터와 태깅 메커니즘은 해롭거나 잘못 형식화된 사용자 콘