에이전트 컨텍스트 관리

Mattermost 에이전트가 LLM에 전달할 컨텍스트를 처리하는 방식을 설명합니다.

Mattermost 에이전트는 컨텍스트를 효율적으로 처리하도록 설계되어 있으며, 정확한 응답 생성을 위해 필요한 정보만 대형 언어 모델(LLM)에 전달합니다. 이 문서는 에이전트가 관련 컨텍스트를 처리하고 포함하는 방식을 설명합니다. 회사 이름, 서버 이름, 시간은 항상 LLM에 전달되어 정확하고 컨텍스트에 적합한 응답을 보장합니다. Note 데이터 개인 정보 보호 보장 엄격한 개인 정보 보호 요건을 가진 고객은 LLM을 로컬에서 실행하여 개인 식별 정보(PII) 및 메시지 내용을 포함한 민감한 데이터가 외부 LLM 호스팅 벤더와 공유되지 않도록 할 것을 권장합니다. 이를 통해 에이전트 기능을 유지하면서 데이터 개인 정보를 보호할 수 있습니다. 에이전트 봇에게 다이렉트 메시지 보내기 # 에이전트 봇에게 다이렉트 메시지를 보내면 LLM에 전달되는 컨텍스트에는 다음이 포함됩니다: 프롬프트를 보내는 사용자의 프로필 정보. 사용자와 봇 간에 교환된 채팅 메시지. 다이렉트 메시지의 추가 컨텍스트 기본적으로 일부 도구 사용이 활성화되어 JIRA 통합 등의 기능이 제공되며, 프롬프트에 따라 다음을 포함하는 추가 컨텍스트가 LLM에 전달될 수 있습니다: Jira 티켓 (공개 티켓) 예시: Summarize the Jira ticket: GitHub 이슈 예시: Summarize the GitHub issue: 사용자 데이터 예시: What is @Bob's position? 채널에서 @-멘션 # 채널에서 에이전트를 @멘션 하면 LLM에 전달되는 컨텍스트에는 다음이 포함됩니다: 독립 메시지 (채널에서의 @-멘션) @-멘션이 포함된 메시지 (첨부 파일 포함). 채널 이름 및 표시 이름. 팀 이름 및 표시 이름. 프롬프트를 보내는 사용자의 프로필 정보. 스레드 메시지 (스레드에서의 @-멘션) 독립 메시지에서 사용할 때 전달되는 모든 내용. 스레드 내 메시지 (관련 사용자 이름, 첨부 파일 및 파일 이름 포함). 독립 메시지와 스레드 메시지 간의 컨텍스트 차이: 독립 메시지에서의 @-멘션의 경우 컨텍스트에는 멘션된 메시지만 포함됩니다. 스레드에서의 @-멘션의 경우 스레드의 모든 메시지가 포함되며 메시지 작성자의 사용자 이름도 함께 포함됩니다. 에이전트 트리거 기본 방법 # 일반 채팅 상호 작용 외에도 에이전트는 LLM에 추가 컨텍스트가 전달되는 특수 기능을 제공합니다. 각 기능은 수행 중인 작업에 맞춘 특수 컨텍스트를 제공합니다. 다음은 LLM에 추가 컨텍스트가 전달되는 시나리오입니다: 스레드 요약 : 스레드 메시지 및 작성자 사용자 이름 포함 회의 요약 : 통화 전사 내용 통합 마지막 방문 이후 채널 요약 : 채널 게시물 및 작성자를 사용하여 요약 생성. 액션 항목 및 미해결 질문 찾기 : 스레드 및 채널 메시지를 분석하여 액션 항목 또는 미해결 질문 식별.