FreeAskInternet 是一個(gè)完全免費(fèi)、私有且本地運(yùn)行的搜索聚合器，并使用 LLM 生成答案，無(wú)需 GPU。用戶可以提出問(wèn)題，系統(tǒng)將使用searxng進(jìn)行多引擎搜索，并將搜索結(jié)果合并到ChatGPT3.5 LLM中，并根據(jù)搜索結(jié)果生成答案。所有進(jìn)程都在本地運(yùn)行，不需要 GPU 或 Openai 或 Google API 密鑰。

FreeAskInternet特征：

• 完全免費(fèi)（不需要任何API密鑰）

• 完全本地化（無(wú)需GPU，任何計(jì)算機(jī)都可以運(yùn)行）

• 完全私有（所有內(nèi)容都在本地運(yùn)行，使用自定義 llm）

• 無(wú)需 LLM 硬件即可運(yùn)行（無(wú)需 GPU！）

• 使用免費(fèi)的 ChatGPT3.5 / Qwen / Kimi / ShipuAI(GLM) API（無(wú)需 API 密鑰！感謝 OpenAI）

• 自定義 LLM(ollama,llama.cpp) 支持，是的，我們喜歡 ollama！

• 使用 Docker Compose 快速輕松地部署

• Web 和移動(dòng)友好界面，專為 Web 搜索增強(qiáng)的 AI聊天而設(shè)計(jì)，允許從任何設(shè)備輕松訪問(wèn)。

FreeAskInternet怎么運(yùn)行的？

1、系統(tǒng)在FreeAskInternet UI界面（本地運(yùn)行）中獲取用戶輸入的問(wèn)題，并調(diào)用searxng（本地運(yùn)行）在多個(gè)搜索引擎上進(jìn)行搜索。

2、抓取搜索結(jié)果鏈接內(nèi)容并傳遞給ChatGPT3.5/Kimi/Qwen/ZhipuAI/ollama（使用自定義llm），要求LLM以此內(nèi)容為參考回答用戶問(wèn)題。

3、將答案?jìng)鬏數(shù)搅奶?UI。

4、我們支持自定義 LLM 設(shè)置，因此理論上無(wú)限的 llm 支持。