提交您的產(chǎn)品 
Ai應(yīng)用
Ai資訊
AI生圖
AI生視頻
AI生PPT
AI數(shù)字人系統(tǒng)LettuceDetect：RAG系統(tǒng)幻覺檢測工具，速度快、成本低、精確定位。
LettuceDetect是什么？
LettuceDetect 是一個用于檢索增強生成（RAG）系統(tǒng)的幻覺檢測工具，它通過比較答案與上下文，識別答案中未被支持的部分，從而檢測幻覺內(nèi)容。
LettuceDetect核心特點
解決現(xiàn)有方法的局限性：LettuceDetect 解決了傳統(tǒng)編碼器方法的上下文窗口限制和基于大型語言模型（LLM）方法的計算效率低下的問題。
基于 ModernBERT：該工具利用 ModernBERT 的擴展上下文處理能力（支持最多 8192 個 token），能夠處理長文本。
高精度與高效性：它在 RAGTruth 數(shù)據(jù)集上表現(xiàn)出色，示例級別檢測的 F1 分?jǐn)?shù)達(dá)到 79.22%，比之前的最優(yōu)模型 Luna 提高了 14.8%。同時，它在單個 GPU 上每秒可處理 30 到 60 個樣本。
Token 級別檢測：LettuceDetect 是一個基于 Token 分類的模型，它將上下文、問題和答案作為輸入，逐個判斷答案中的 Token 是否由上下文支持。
優(yōu)化推理性能：采用更小的模型尺寸，實現(xiàn)更快的推理速度。
長上下文處理：該工具利用 ModernBERT 的擴展上下文處理能力（支持最多 8192 個 Token），能夠處理長文本，從而更準(zhǔn)確地判斷答案是否受上下文支持。
技術(shù)實現(xiàn)
訓(xùn)練和評估：LettuceDetect 在 RAGTruth 數(shù)據(jù)集上進(jìn)行訓(xùn)練和評估，利用 ModernBERT 進(jìn)行長上下文處理。
模型和代碼許可：提供 MIT 許可，模型和代碼可以自由使用，并已集成到 Hugging Face 中，可以通過一行代碼加載模型。
LettuceDetect 的應(yīng)用場景：
金融領(lǐng)域：檢測金融咨詢、財務(wù)分析中的錯誤信息，防止誤導(dǎo)用戶。
法律領(lǐng)域：保證法律咨詢、合同解讀準(zhǔn)確，降低法律風(fēng)險。
醫(yī)療健康：輔助醫(yī)療咨詢和診斷，避免因幻覺誤診。
客戶服務(wù)：提高企業(yè)客服機器人回答準(zhǔn)確性，增強用戶信任。
教育領(lǐng)域：確保智能輔導(dǎo)和在線學(xué)習(xí)內(nèi)容可靠。
企業(yè)知識管理：保障內(nèi)部知識管理系統(tǒng)輸出信息準(zhǔn)確。
高風(fēng)險行業(yè)：結(jié)合多種檢測方法，提升系統(tǒng)輸出可信度。
GitHub 倉庫：https://github.com/KRLabsOrg/LettuceDetect
