에이전트 컨텍스트 관리

Mattermost 에이전트가 LLM에 전송하는 컨텍스트를 관리하는 방법을 설명합니다. 직접 메시지, @멘션, 채널 메시지, 스레드 메시지에서의 컨텍스트 처리 방식과 내장 에이전트 기능을 안내합니다.

Mattermost 에이전트는 정확한 응답 생성을 위해 대형 언어 모델(LLM)에 필요한 정보만 전송되도록 컨텍스트를 효율적으로 처리하도록 설계되었습니다. 이 문서는 에이전트가 관련 컨텍스트를 처리하고 포함하는 방법을 설명합니다. 회사 이름, 서버 이름, 시간은 정확하고 컨텍스트와 관련된 응답을 보장하기 위해 항상 LLM에 전달됩니다. Note 데이터 개인 정보 보호 보장 엄격한 개인 정보 보호 요건을 가진 고객은 외부 LLM 호스팅 벤더와 개인 식별 정보(PII) 및 메시지 내용을 포함한 민감한 데이터가 공유되지 않도록 LLM을 로컬에서 실행하는 것을 권장합니다. 이를 통해 에이전트 기능을 활성화하면서 데이터 개인 정보를 보호할 수 있습니다. 에이전트 봇에 대한 직접 메시지 # 에이전트 봇에 직접 메시지를 보낼 때 LLM에 전송되는 컨텍스트에는 다음이 포함됩니다: 프롬프트를 보내는 사용자의 프로필 정보. 사용자와 봇 사이에 교환된 채팅 메시지. 직접 메시지의 추가 컨텍스트 기본적으로 일부 도구 사용이 활성화되어 JIRA와의 통합과 같은 기능을 허용하며, 다음을 포함하는 프롬프트에 따라 LLM에 추가 컨텍스트가 전송될 수 있습니다: Jira 티켓 (공개 티켓) 예시: 다음 Jira 티켓을 요약해 주세요: GitHub 이슈 예시: 다음 GitHub 이슈를 요약해 주세요: 사용자 데이터 예시: @Bob의 직책은 무엇입니까? 채널에서의 @멘션 # 채널에서 에이전트를 @멘션 하면 LLM에 전송되는 컨텍스트에는 다음이 포함됩니다: 독립 메시지 (채널에서의 @멘션) @멘션이 포함된 메시지(첨부 파일 포함). 채널 이름 및 표시 이름. 팀 이름 및 표시 이름. 프롬프트를 보내는 사용자의 프로필 정보. 스레드 메시지 (스레드에서의 @멘션) 독립 메시지 사용 시 전송되는 모든 정보. 스레드 내 메시지(관련된 사용자의 사용자 이름, 첨부 파일 및 파일 이름 포함). 독립 메시지와 스레드 메시지의 컨텍스트 차이: 독립 메시지에서의 @멘션의 경우 컨텍스트에는 멘션된 메시지만 포함됩니다. 스레드에서의 @멘션의 경우 스레드의 전체 메시지와 메시지 작성자의 사용자 이름이 포함됩니다. 에이전트를 트리거하는 내장 방법 # 일반 채팅 상호 작용 외에도 에이전트는 LLM에 추가 컨텍스트가 전송되는 특수 기능을 제공합니다. 각 기능은 수행되는 작업에 맞게 조정된 전문 컨텍스트를 제공합니다. 다음은 LLM에 추가 컨텍스트가 전송되는 시나리오입니다: 스레드 요약 : 스레드 메시지와 작성자의 사용자 이름을 포함합니다. 회의 요약 : 통화의 녹취록을 통합합니다. 마지막 방문 이후의 채널 요약 : 채널 게시물과 작성자를 사용하여 요약을 만듭니다. 작업 항목 및 미해결 질문 찾기 : 스레드 및 채널 메시지를 분석하여 작업 항목이나 미해결 질문을 식별합니다.