LLManager是什么？

LLManager 是一個(gè)基于 LangGraph 的智能審批工具，用于管理各種審批請(qǐng)求。它通過動(dòng)態(tài)提示生成和反射機(jī)制學(xué)習(xí)歷史決策，優(yōu)化未來的審批結(jié)果。用戶可以自定義審批和拒絕標(biāo)準(zhǔn)，并支持多種模型。它適用于企業(yè)審批、內(nèi)容審核和客戶服務(wù)等場(chǎng)景，比如人力資源審批，文字內(nèi)容審批等，而且它還可以通過反思和學(xué)習(xí)不斷改進(jìn)自己的決策能力。

LLManager功能特征

• 審批流程管理：LLManager是一個(gè)基于LangGraph的工作流，專門用于管理審批請(qǐng)求。它通過動(dòng)態(tài)提示組合和反射機(jī)制來處理各種審批請(qǐng)求，并能夠隨著時(shí)間推移學(xué)習(xí)和改進(jìn)。

• 自定義配置：用戶可以通過設(shè)置approvalCriteria（審批標(biāo)準(zhǔn)）和rejectionCriteria（拒絕標(biāo)準(zhǔn)）來自定義審批流程。此外，還可以指定使用的模型（modelId），默認(rèn)為anthropic/claude-3-7-sonnet-latest。

• 學(xué)習(xí)與改進(jìn)：LLManager通過反射機(jī)制學(xué)習(xí)過去的審批決策，生成新的提示以改進(jìn)未來的審批結(jié)果。

• 動(dòng)態(tài)提示生成：在審批過程中，LLManager會(huì)根據(jù)歷史數(shù)據(jù)和語(yǔ)義搜索結(jié)果動(dòng)態(tài)生成提示，幫助模型更好地理解當(dāng)前請(qǐng)求。

LLManager工作原理

收到請(qǐng)求后，先通過推理子圖生成是否批準(zhǔn)的“推理報(bào)告”，結(jié)合過往案例和反思提取動(dòng)態(tài)上下文。然后，基于推理報(bào)告和上下文，生成最終結(jié)論。之后進(jìn)入人工審核環(huán)節(jié)，由人工決定是否接受、修改或拒絕請(qǐng)求。如果人工修改了結(jié)論或解釋，系統(tǒng)會(huì)進(jìn)入反思子圖，生成新的反思存儲(chǔ)起來，用于優(yōu)化未來的審批決策。

LLManager應(yīng)用場(chǎng)景

• 企業(yè)審批流程：LLManager可用于企業(yè)內(nèi)部的各種審批流程，如費(fèi)用報(bào)銷、請(qǐng)假申請(qǐng)、項(xiàng)目審批等，通過自動(dòng)化和智能化的方式提高審批效率。

• 內(nèi)容審核：在內(nèi)容發(fā)布平臺(tái)中，LLManager可以用于審核用戶生成的內(nèi)容，確保其符合平臺(tái)規(guī)則。

• 客戶服務(wù)：在客戶服務(wù)場(chǎng)景中，LLManager可以用于處理客戶請(qǐng)求，自動(dòng)判斷請(qǐng)求是否符合服務(wù)標(biāo)準(zhǔn)，并生成相應(yīng)的處理建議。

LLManager使用方法

1. 配置環(huán)境：

• 克隆LLManager倉(cāng)庫(kù)：

git clone https://github.com/langchain-ai/llmanager.git

• 安裝依賴：

cd llmanager
yarn install

• 配置.env文件，填寫必要的API密鑰等信息。

2. 運(yùn)行開發(fā)服務(wù)器：

• 啟動(dòng)開發(fā)服務(wù)器：

yarn start

1. 這將啟動(dòng)一個(gè)內(nèi)存中的LangGraph服務(wù)器，通常運(yùn)行在http://localhost:2024。

3. 運(yùn)行評(píng)估：

• 運(yùn)行端到端評(píng)估：

yarn test:single evals/e2e.int.test.ts

• 記錄評(píng)估過程中生成的助理UUID，用于后續(xù)操作。

4. 使用Agent Inbox：

• 訪問dev.agentinbox.ai，添加新的收件箱。

• 輸入助理UUID、部署URL（如http://localhost:2024）和自定義名稱。

• 通過Agent Inbox查看和處理審批請(qǐng)求。

github倉(cāng)庫(kù)：https://github.com/langchain-ai/llmanager