
Awesome-Ollama-Server
Awesome-Ollama-Server 簡介
Awesome-Ollama-Server 是什么?
Awesome-Ollama-Server 是個能監控和檢測Ollama服務可用性與性能的系統。它有現代化的Web界面,支持中、英雙語,可實時檢測并展示數據。這個系統能幫用戶有效管理多個Ollama實例,系統性能出問題時能及時察覺。對于需要批量檢測在線Ollama服務器狀態的用戶或者團隊來說,這個工具非常適用。
功能特點
服務檢測:支持批量檢測 Ollama 服務,并實時顯示檢測狀態和結果。
性能監控:提供對服務響應時間和 TPS(每秒事務數)的測試,展示可用模型列表,并進行性能數據可視化。
多語言界面:提供中文和英文兩種界面,用戶可以輕松切換語言。
高級篩選:允許用戶根據模型進行過濾,并可按 TPS 或更新時間進行排序,便于數據的快速查找和管理。
技術棧
Next.js:一個 React 框架,用于構建用戶界面。
TypeScript:用于確保代碼的類型安全。
Tailwind CSS:用于快速構建樣式。
next-intl:用于處理國際化。
響應式設計:確保在各種設備上的良好顯示。
Awesome-Ollama-Server 安裝步驟
1. 克隆代碼庫:
git clone git@github.com:forrany/Awesome-Ollama-Server.git cd Awesome-Ollama-Server
2. 安裝依賴:
npm install
3. 運行開發服務器:
npm run dev
4. 然后訪問 http://localhost:3000 查看應用。
如何使用Awesome-Ollama-Server
檢測服務:
打開應用后,點擊“檢測服務”按鈕,在彈出的對話框中輸入 Ollama 服務地址(每行一個)。
點擊“開始檢測”按鈕,等待檢測完成,然后查看結果,可以選擇下載檢測結果。
篩選和排序:
使用模型過濾器選擇特定模型,點擊 TPS 或更新時間進行排序,或使用搜索框快速查找模型。
語言切換:
點擊右上角的語言切換按鈕,選擇需要的語言進行界面切換。
相關資訊: