GitLab Duo에는 기본적인 프롬프트 가드레일이 있습니다. 이러한 가드레일은 구조화된 프롬프트, 적용된 컨텍스트 경계, 필터링 도구에 의존하며, 다음을 돕습니다:

• 민감한 데이터 노출 감소.
• 프롬프트 주입 방지.
• 안전하고 유용한 응답을 위한 모델 안내.

이러한 안전 장치는 GDPR과 같은 일반적인 규제 표준 준수를 지원하여 AI 기반 워크플로우와 관련된 위험을 최소화하는 데 도움을 줍니다.

일반 가드레일#

GitLab Duo에서 사용하는 프롬프트는 다음을 목표로 합니다:

• 허용되지 않는 콘텐츠 피하기: 모델은 유익하고 정중하며 혐오적이거나 비난적인 언어를 자제하도록 지시됩니다.
• 사용자 요청에 엄격히 따르기: 모델은 프롬프트에 밀접하게 따르고 역할극, 가장, 또는 관련 없는 콘텐츠로의 이탈을 피하도록 지시됩니다.
• 콘텐츠 격리를 위한 태그 사용: 태그는 모델이 제공된 스니펫에 집중하도록 지시하여 프롬프트 주입 위험을 줄이는 데 도움을 줍니다.
• 비밀 필터링: 코드 제안은 민감한 정보를 실수로 전송하지 않도록 스캔됩니다. 예시: 민감한 구성 데이터가 포함된 고객의 job 로그는 <log> 태그로 캡슐화되어, 모델이 관련 없는 가정을 하지 않고 제공된 컨텍스트에만 집중하도록 합니다.

직무 역할별 가드레일#

역할에 따라 GitLab Duo에 설정된 가드레일에 대해 다른 관심사가 있을 수 있습니다.

기술 사용자를 위한#

• 코드 격리: <selected_code>, <git_diff>, <log>와 같은 태그는 모델이 제공한 코드나 콘텐츠에 엄격하게 집중하도록 유도하여 프롬프트 주입 위험을 줄이는 데 도움을 줍니다.
• 비밀 필터링: Gitleaks와 같은 도구는 코드 제안을 스캔하여 API 키나 비밀번호와 같은 민감한 데이터가 공유되지 않도록 방지합니다.
• 집중된 응답: GitLab Duo는 주제에 집중하여 도움이 되지 않거나 예상치 못한 결과로 이어질 수 있는 동작을 피하는 데 도움을 줍니다.
• 근본 원인 분석: 문제 해결 시 GitLab Duo는 제공된 것 외에 어떤 것에 대해서도 가정하지 않고 job 로그를 분석하는 것을 목표로 합니다.

감사자 및 컴플라이언스 팀을 위한#

• 규제 정렬: 시스템은 데이터 유출과 같은 위험을 줄이는 데 도움을 주어 조직이 GDPR과 같은 표준에 맞추는 데 도움을 줍니다.
• 투명성: 프롬프트와 컨텍스트가 구성되는 방식은 GitLab Duo 작업을 예측 가능하고 감사 가능하게 만드는 데 도움을 줍니다. 자세한 내용은 기능별 가드레일을 참조하세요.
• 콘텐츠 제어: 토론 요약 또는 취약점 해결과 같은 작업의 경우 GitLab Duo는 제공된 입력만 사용하여 오류나 의도하지 않은 출력의 가능성을 줄이는 데 도움을 줍니다.
• 악의적인 입력에 대한 보호: 필터와 태깅 메커니즘은 해롭거나 잘못 형식화된 사용자 콘텐츠로부터 시스템을 보호하는 데 도움을 줍니다.

의사결정자를 위한#

• 신뢰 구축: 안전 장치는 GitLab Duo가 책임감 있게 동작하도록 도와주며, 이는 새로운 도구에 대한 신뢰에 중요합니다.
• 정보에 입각한 결정: 보안 기능에 대한 명확한 문서는 조직에 대한 GitLab Duo의 적합성을 평가하는 데 필요한 정보를 제공합니다.
• 위험 감소: 민감한 데이터와 모델 동작에 관한 일반적인 우려 사항을 해결함으로써 GitLab Duo는 워크플로우에 AI를 통합하기 위한 안전하고 실용적인 솔루션을 제공합니다.

기능별 가드레일 {#guardrails-for-features}#

개별 기능에는 노출을 제한하는 데 도움을 주는 특정 프롬프트 지시가 포함됩니다. 프롬프트 지시는 다음 원칙을 따릅니다.

GitLab Duo Agent Platform#

신뢰할 수 없는 콘텐츠를 격리하여 프롬프트 주입을 방지하는 데 도움을 줍니다.

AI Gateway에서 프롬프트 주입 시도를 감지하고 기록하거나 차단합니다.

GitLab Duo Chat#

응답은 주제에 집중하고, 건설적이며, 비남용적이어야 합니다. 인격 전환, 역할극, 또는 악의적인 지시는 권장되지 않습니다. 사용자 제공 콘텐츠에 집중하면 주입 위험을 줄이는 데 도움이 됩니다.

토론 요약#

댓글이 요약되고 잠재적으로 악의적인 콘텐츠와의 상호 작용은 권장되지 않습니다. 사용자는 의심스러운 댓글을 공개하거나 복제하지 않고 경고를 받아야 합니다.

코드 설명, 테스트 생성, 코드 리팩토링, 코드 수정#

코드를 포함하고 모델의 집중을 제한하는 태그를 사용하여, 모델이 외부적으로 검증되지 않은 지시나 콘텐츠를 고려하지 못하도록 방지합니다.

CLI용 GitLab Duo#

자연어에서 Git 명령을 생성하는 것으로 작업을 구성하여 범위와 유해한 출력의 위험을 제한하는 데 도움을 줍니다.

머지 리퀘스트 요약#

코드를 격리하여 프롬프트 주입을 방지하는 데 도움을 줍니다.

코드 리뷰#

코드를 격리하여 프롬프트 주입을 방지하는 데 도움을 줍니다.

머지 커밋 메시지 생성#

태그를 사용하여 모델이 참조할 수 있는 콘텐츠를 격리하고 제한하는 데 도움을 줍니다.

근본 원인 분석#

태그를 사용하여 제공된 job 로그에만 엄격히 집중하고 주어진 데이터 이상의 가정을 방지하는 데 도움을 줍니다.

취약점 해결#

의도된 기능을 변경하지 않고 보안 문제를 해결하도록 권장합니다. 모델은 제공된 코드 diff에 집중하여 코드 변경을 방지하도록 지시됩니다.