Awesome-Ollama-Server 是什么？

Awesome-Ollama-Server 是個(gè)能監(jiān)控和檢測Ollama服務(wù)可用性與性能的系統(tǒng)。它有現(xiàn)代化的Web界面，支持中、英雙語，可實(shí)時(shí)檢測并展示數(shù)據(jù)。這個(gè)系統(tǒng)能幫用戶有效管理多個(gè)Ollama實(shí)例，系統(tǒng)性能出問題時(shí)能及時(shí)察覺。對(duì)于需要批量檢測在線Ollama服務(wù)器狀態(tài)的用戶或者團(tuán)隊(duì)來說，這個(gè)工具非常適用。

功能特點(diǎn)

• 服務(wù)檢測：支持批量檢測 Ollama 服務(wù)，并實(shí)時(shí)顯示檢測狀態(tài)和結(jié)果。

• 性能監(jiān)控：提供對(duì)服務(wù)響應(yīng)時(shí)間和 TPS（每秒事務(wù)數(shù)）的測試，展示可用模型列表，并進(jìn)行性能數(shù)據(jù)可視化。

• 多語言界面：提供中文和英文兩種界面，用戶可以輕松切換語言。

• 高級(jí)篩選：允許用戶根據(jù)模型進(jìn)行過濾，并可按 TPS 或更新時(shí)間進(jìn)行排序，便于數(shù)據(jù)的快速查找和管理。

技術(shù)棧

• Next.js：一個(gè) React 框架，用于構(gòu)建用戶界面。

• TypeScript：用于確保代碼的類型安全。

• Tailwind CSS：用于快速構(gòu)建樣式。

• next-intl：用于處理國際化。

• 響應(yīng)式設(shè)計(jì)：確保在各種設(shè)備上的良好顯示。

Awesome-Ollama-Server 安裝步驟

1. 克隆代碼庫：

git clone git@github.com:forrany/Awesome-Ollama-Server.git
cd Awesome-Ollama-Server

2. 安裝依賴：

npm install

3. 運(yùn)行開發(fā)服務(wù)器：

npm run dev

4. 然后訪問 http://localhost:3000 查看應(yīng)用。

如何使用Awesome-Ollama-Server 

檢測服務(wù)：

• 打開應(yīng)用后，點(diǎn)擊“檢測服務(wù)”按鈕，在彈出的對(duì)話框中輸入 Ollama 服務(wù)地址（每行一個(gè)）。

• 點(diǎn)擊“開始檢測”按鈕，等待檢測完成，然后查看結(jié)果，可以選擇下載檢測結(jié)果。

篩選和排序：

• 使用模型過濾器選擇特定模型，點(diǎn)擊 TPS 或更新時(shí)間進(jìn)行排序，或使用搜索框快速查找模型。

語言切換：

• 點(diǎn)擊右上角的語言切換按鈕，選擇需要的語言進(jìn)行界面切換。

相關(guān)資訊：

如何用Ollama安裝DeepSeek？