Kotaemon，一個能讓你與文檔進行對話的開源工具，基于 RAG 技術實現與文檔的交互式對話，支持多模態檢索，可以處理文本、圖表和表格等不同類型的數據。

Kotaemon主要特征：

• 托管您自己的文檔 QA (RAG) Web-UI 。支持多用戶登錄，在私人/公共收藏中組織您的文件，與他人協作并分享您最喜歡的聊天。

• 組織您的LLM和嵌入模型。支持本地LLMs和流行的 API 提供商（Openai、Azure、Ollama、Groq）。

• 混合 RAG 管道。 Sane 默認 RAG 管道具有混合（全文和矢量）檢索器 + 重新排名，以確保最佳檢索質量。

• 多模式質量保證支持。通過圖形和表格支持對多個文檔進行問答。支持多模式文檔解析（UI 上的可選選項）。

• 通過文檔預覽提前引用。默認情況下，系統會提供詳細的引文，以確保LLM答案的正確性。直接在瀏覽器內的 PDF 查看器中查看您的引文（包括相關分數）并突出顯示。當檢索管道返回低相關文章時發出警告。

• 支持復雜的推理方法。使用問題分解來回答復雜/多跳問題。支持使用 ReAct、ReWOO 和其他代理進行基于代理的推理。

• 可配置的設置用戶界面。您可以在 UI 上調整檢索和生成過程的最重要方面（包括提示）。

• 可擴展。基于 Gradio 構建，您可以根據需要自由定制/添加任何 UI 元素。此外，我們的目標是支持多種文檔索引和檢索策略。 GraphRAG索引管道作為示例提供。

Kotaemon應用：

kotaemon充當功能性 RAG UI，適用于想要對其文檔進行 QA 的最終用戶和想要構建自己的 RAG 管道的開發人員。

對于最終用戶：

• 用于基于 RAG 的 QA 的干凈簡約的 UI。

• 支持LLM API 提供商（OpenAI、AzureOpenAI、Cohere 等）和本地LLMs （通過ollama和llama-cpp-python ）。

• 簡單的安裝腳本。

對于開發人員：

• 用于構建您自己的基于 RAG 的文檔 QA 管道的框架。

• 使用提供的 UI（使用 Gradio 構建）自定義并查看 RAG 管道的運行情況。

Kotaemon提供簡潔易用的界面，并支持使用本地 LLM 或主流 LLM API 提供商，還可一鍵安裝使用。

Kotaemon GitHub：https://github.com/Cinnamon/kotaemon