
Open WebUI
Open WebUI簡(jiǎn)介
Open WebUI,為大模型提供用戶友好界面,支持 Ollama 并兼容 Openai API。特色有直觀聊天界面、響應(yīng)式設(shè)計(jì)。支持代碼高亮、Markdown、LaTeX、RAG 集成、網(wǎng)頁(yè)瀏覽、預(yù)設(shè)提示、RLHF 注釋、模型管理、多模型和多模態(tài)、歷史記錄管理、語(yǔ)音輸入、高級(jí)參數(shù)調(diào)整等。
Open WebUI功能特征:
直觀的界面:我們的聊天界面從 ChatGPT 中汲取靈感,確保用戶友好的體驗(yàn)。
響應(yīng)式設(shè)計(jì):在桌面和移動(dòng)設(shè)備上享受無(wú)縫體驗(yàn)。
快速響應(yīng):享受快速響應(yīng)的性能。
輕松設(shè)置:使用 Docker 或 Kubernetes(kubectl、kustomize 或 helm)無(wú)縫安裝,獲得輕松的體驗(yàn)。
代碼語(yǔ)法高亮:使用我們的語(yǔ)法高亮功能增強(qiáng)代碼可讀性。
完整的 Markdown 和 LaTeX 支持:通過(guò)全面的 Markdown 和 LaTeX 功能提升您的 LLM 體驗(yàn),以豐富交互。
本地 RAG 集成:通過(guò)開(kāi)創(chuàng)性的檢索增強(qiáng)生成 (RAG) 支持深入了解聊天交互的未來(lái)。此功能將文檔交互無(wú)縫集成到您的聊天體驗(yàn)中。您可以將文檔直接加載到聊天中或?qū)⑽募砑拥轿臋n庫(kù)中,使用提示符中的命令輕松訪問(wèn)它們。在 alpha 階段,當(dāng)我們積極改進(jìn)和增強(qiáng)此功能以確保最佳性能和可靠性時(shí),可能會(huì)偶爾出現(xiàn)問(wèn)題。#
網(wǎng)頁(yè)瀏覽功能:使用命令后跟 URL 將網(wǎng)站無(wú)縫集成到您的聊天體驗(yàn)中。此功能允許您將 Web 內(nèi)容直接合并到您的對(duì)話中,從而增強(qiáng)互動(dòng)的豐富性和深度。#
提示預(yù)設(shè)支持:使用聊天輸入中的命令立即訪問(wèn)預(yù)設(shè)提示。毫不費(fèi)力地加載預(yù)定義的對(duì)話啟動(dòng)器并加快您的交互速度。通過(guò)Open WebUI社區(qū)集成輕松導(dǎo)入提示。/
RLHF 注釋?zhuān)和ㄟ^(guò)豎起大拇指和豎起大拇指對(duì)消息進(jìn)行評(píng)分來(lái)增強(qiáng)您的消息,從而促進(jìn)創(chuàng)建用于人類(lèi)反饋強(qiáng)化學(xué)習(xí) (RLHF) 的數(shù)據(jù)集。利用您的消息來(lái)訓(xùn)練或微調(diào)模型,同時(shí)確保本地保存數(shù)據(jù)的機(jī)密性。
對(duì)話標(biāo)記:輕松分類(lèi)和定位特定聊天,以便快速參考和簡(jiǎn)化數(shù)據(jù)收集。
下載/刪除模型:直接從 Web UI 輕松下載或刪除模型。
文件模型創(chuàng)建:通過(guò)直接從 Web UI 上傳 GGUF 文件,輕松創(chuàng)建 Ollama 模型。簡(jiǎn)化流程,可選擇從您的機(jī)器上傳或從 Hugging Face 下載 GGUF 文件。
多模式支持:在不同的聊天模式之間無(wú)縫切換,實(shí)現(xiàn)多樣化的互動(dòng)。
多模態(tài)支持:與支持多模態(tài)交互的模型無(wú)縫交互,包括圖像(例如 LLava)。
模型文件生成器:通過(guò) Web UI 輕松創(chuàng)建 Ollama 模型文件。創(chuàng)建和添加角色/代理,自定義聊天元素,并通過(guò)Open WebUI社區(qū)集成輕松導(dǎo)入模型文件。
多模型對(duì)話:毫不費(fèi)力地同時(shí)與各種模型互動(dòng),利用它們的獨(dú)特優(yōu)勢(shì)獲得最佳響應(yīng)。通過(guò)并行利用一組不同的模型來(lái)增強(qiáng)您的體驗(yàn)。
協(xié)作聊天:通過(guò)無(wú)縫編排群組對(duì)話,利用多個(gè)模型的集體智慧。使用該命令指定模型,從而在聊天界面中啟用動(dòng)態(tài)和多樣化的對(duì)話。讓自己沉浸在編織在聊天環(huán)境中的集體智慧中。@
OpenAI API 集成:毫不費(fèi)力地集成與 OpenAI 兼容的 API,以便與 Ollama 模型進(jìn)行多功能對(duì)話。自定義 API 基本 URL 以鏈接到 LMStudio、Mistral、OpenRouter 等。
再生歷史訪問(wèn):輕松重新訪問(wèn)和探索您的整個(gè)再生歷史。
聊天記錄:輕松訪問(wèn)和管理您的對(duì)話記錄。
導(dǎo)入/導(dǎo)出聊天記錄:無(wú)縫地將您的聊天數(shù)據(jù)移入和移出平臺(tái)。
語(yǔ)音輸入支持:通過(guò)語(yǔ)音交互與您的模型互動(dòng);享受直接與模特交談的便利。此外,探索在靜音 3秒后自動(dòng)發(fā)送語(yǔ)音輸入的選項(xiàng),以獲得簡(jiǎn)化的體驗(yàn)。
使用高級(jí)參數(shù)進(jìn)行微調(diào)控制:通過(guò)調(diào)整溫度等參數(shù)和定義系統(tǒng)提示來(lái)獲得更深層次的控制,以根據(jù)您的特定偏好和需求定制對(duì)話。
外部 Ollama 服務(wù)器連接:通過(guò)配置環(huán)境變量,無(wú)縫鏈接到托管在不同地址上的外部 Ollama 服務(wù)器。
基于角色的訪問(wèn)控制 (RBAC):使用受限權(quán)限確保安全訪問(wèn);只有經(jīng)過(guò)授權(quán)的個(gè)人才能訪問(wèn)您的 Ollama,并且為管理員保留獨(dú)家模型創(chuàng)建/提取權(quán)限。
后端反向代理支持:通過(guò)Open WebUI后端和Ollama之間的直接通信來(lái)增強(qiáng)安全性。此關(guān)鍵功能消除了通過(guò) LAN 公開(kāi) Ollama 的需要。從 Web UI 向“/ollama/api”路由發(fā)出的請(qǐng)求從后端無(wú)縫重定向到 Ollama,從而增強(qiáng)了整體系統(tǒng)的安全性。
持續(xù)更新:我們致力于通過(guò)定期更新和新功能來(lái)改進(jìn) Open WebUI。