에이전틱 시스템의 보안 위협

에이전틱 시스템의 보안 위협에 대해 설명합니다.

에이전틱 시스템은 일반적인 보안 위협의 영향을 받을 수 있습니다. 보안 수준을 높이려면 이러한 위협을 충분히 파악하고, 에이전트와 플로를 배포하고 사용할 때 보안 권장 사례를 따릅니다. GitLab은 다음 메커니즘의 내장 보호 장치와 보안 제어로 위험을 완화합니다: 복합 ID 로 GitLab Duo Agent Platform 액세스를 제한 하고, AI 워크플로의 감사 추적성을 높이 며, 장기 실행 원격 워크플로가 생성한 리소스를 에이전트 전용 서비스 계정에 귀속 합니다. 원격 실행 환경 샌드박스 . 통합 Visual Studio Code Dev Container 샌드박스. 도구 출력 정제 . 채팅 기반 GitLab Duo Agent Platform 세션에 대한 사람 개입 승인 . HiddenLayer 와 같은 통합 프롬프트 주입 탐지 도구. 프롬프트 주입 # 프롬프트 주입은 데이터에 숨겨진 악성 지시가 AI 에이전트로 하여금 원래 지시 대신 의도하지 않은 명령을 따르게 만드는 공격입니다. 일반적인 공격 경로 # 파일 콘텐츠: 에이전트가 읽는 파일에 악성 코드나 지시가 숨겨집니다. 사용자 입력: 공격자가 이슈, 댓글, 머지 리퀘스트 설명에 명령을 삽입합니다. 외부 데이터: 리포지터리, API, 서드파티 데이터 소스가 악성 입력으로 침해됩니다. 도구 출력: 외부 도구, 서비스, MCP 서버에서 신뢰할 수 없는 데이터가 반환됩니다. 발생 가능한 영향 # 인가되지 않은 작업: 에이전트가 리소스 생성·수정·삭제와 같이 의도하지 않은 작업을 실행할 수 있습니다. 데이터 노출: 민감한 정보가 추출되거나 유출될 수 있습니다. 권한 상승: 에이전트가 의도한 범위를 넘어서는 작업을 수행할 수 있습니다. 공급망 위험: 침해된 에이전트가 리포지터리나 배포에 악성 코드를 삽입할 수 있습니다. 치명적 트리펙타 # 치명적 트리펙타 는 프롬프트 주입 공격을 가장 위험하게 만드는 세 가지 요소를 설명합니다: 민감한 시스템 액세스: 에이전트가 비공개 데이터(GitLab 프로젝트, 파일, 자격 증명)를 읽거나 외부 시스템(로컬 환경, 원격 시스템, GitLab 엔터티)을 수정할 수 있습니다. 신뢰할 수 없는 콘텐츠 노출: 이슈와 머지 리퀘스트 설명, 코드 주석, 파일 콘텐츠처럼 사용자가 제어하는 경로를 통해 악성 지시가 에이전트에 전달됩니다. 승인 없는 자율 실행: 에이전트가 사람의 검토나 승인 없이 작업을 수행하며, 외부 통신으로 데이터를 탈취하거나 GitLab 인스턴스의 외부 시스템을 손상시키는 행위(이슈·머지 리퀘스트 삭제, 댓글 스팸)도 포함됩니다. 위험 요인 및 영향 # 다음 표는 GitLab Duo Agent Platform 실행 환경별 강점과 위험 요인을 보여 줍니다. 이 표는 에이전트와 플로가 사용 가능한 모든 도구에 액세스한다고 가정합니다. 트리펙타 요소 원격 플로(GitLab CI) 채팅 에이전트 (GitLab UI) 채팅 에이전트 및 플로(IDE 로컬 환경) 비공개 데이터 액세스 플로 세션을 시작한 사용자와 동일한 액세스 범위이며 최상위 그룹으로 제한