
Open WebUI
Open WebUI簡介
Open WebUI,為大模型提供用戶友好界面,支持 Ollama 并兼容 Openai API。特色有直觀聊天界面、響應式設計。支持代碼高亮、Markdown、LaTeX、RAG 集成、網頁瀏覽、預設提示、RLHF 注釋、模型管理、多模型和多模態、歷史記錄管理、語音輸入、高級參數調整等。
Open WebUI功能特征:
直觀的界面:我們的聊天界面從 ChatGPT 中汲取靈感,確保用戶友好的體驗。
響應式設計:在桌面和移動設備上享受無縫體驗。
快速響應:享受快速響應的性能。
輕松設置:使用 Docker 或 Kubernetes(kubectl、kustomize 或 helm)無縫安裝,獲得輕松的體驗。
代碼語法高亮:使用我們的語法高亮功能增強代碼可讀性。
完整的 Markdown 和 LaTeX 支持:通過全面的 Markdown 和 LaTeX 功能提升您的 LLM 體驗,以豐富交互。
本地 RAG 集成:通過開創性的檢索增強生成 (RAG) 支持深入了解聊天交互的未來。此功能將文檔交互無縫集成到您的聊天體驗中。您可以將文檔直接加載到聊天中或將文件添加到文檔庫中,使用提示符中的命令輕松訪問它們。在 alpha 階段,當我們積極改進和增強此功能以確保最佳性能和可靠性時,可能會偶爾出現問題。#
網頁瀏覽功能:使用命令后跟 URL 將網站無縫集成到您的聊天體驗中。此功能允許您將 Web 內容直接合并到您的對話中,從而增強互動的豐富性和深度。#
提示預設支持:使用聊天輸入中的命令立即訪問預設提示。毫不費力地加載預定義的對話啟動器并加快您的交互速度。通過Open WebUI社區集成輕松導入提示。/
RLHF 注釋:通過豎起大拇指和豎起大拇指對消息進行評分來增強您的消息,從而促進創建用于人類反饋強化學習 (RLHF) 的數據集。利用您的消息來訓練或微調模型,同時確保本地保存數據的機密性。
對話標記:輕松分類和定位特定聊天,以便快速參考和簡化數據收集。
下載/刪除模型:直接從 Web UI 輕松下載或刪除模型。
文件模型創建:通過直接從 Web UI 上傳 GGUF 文件,輕松創建 Ollama 模型。簡化流程,可選擇從您的機器上傳或從 Hugging Face 下載 GGUF 文件。
多模式支持:在不同的聊天模式之間無縫切換,實現多樣化的互動。
多模態支持:與支持多模態交互的模型無縫交互,包括圖像(例如 LLava)。
模型文件生成器:通過 Web UI 輕松創建 Ollama 模型文件。創建和添加角色/代理,自定義聊天元素,并通過Open WebUI社區集成輕松導入模型文件。
多模型對話:毫不費力地同時與各種模型互動,利用它們的獨特優勢獲得最佳響應。通過并行利用一組不同的模型來增強您的體驗。
協作聊天:通過無縫編排群組對話,利用多個模型的集體智慧。使用該命令指定模型,從而在聊天界面中啟用動態和多樣化的對話。讓自己沉浸在編織在聊天環境中的集體智慧中。@
OpenAI API 集成:毫不費力地集成與 OpenAI 兼容的 API,以便與 Ollama 模型進行多功能對話。自定義 API 基本 URL 以鏈接到 LMStudio、Mistral、OpenRouter 等。
再生歷史訪問:輕松重新訪問和探索您的整個再生歷史。
聊天記錄:輕松訪問和管理您的對話記錄。
導入/導出聊天記錄:無縫地將您的聊天數據移入和移出平臺。
語音輸入支持:通過語音交互與您的模型互動;享受直接與模特交談的便利。此外,探索在靜音 3秒后自動發送語音輸入的選項,以獲得簡化的體驗。
使用高級參數進行微調控制:通過調整溫度等參數和定義系統提示來獲得更深層次的控制,以根據您的特定偏好和需求定制對話。
外部 Ollama 服務器連接:通過配置環境變量,無縫鏈接到托管在不同地址上的外部 Ollama 服務器。
基于角色的訪問控制 (RBAC):使用受限權限確保安全訪問;只有經過授權的個人才能訪問您的 Ollama,并且為管理員保留獨家模型創建/提取權限。
后端反向代理支持:通過Open WebUI后端和Ollama之間的直接通信來增強安全性。此關鍵功能消除了通過 LAN 公開 Ollama 的需要。從 Web UI 向“/ollama/api”路由發出的請求從后端無縫重定向到 Ollama,從而增強了整體系統的安全性。
持續更新:我們致力于通過定期更新和新功能來改進 Open WebUI。