
Lepton Search
Lepton Search簡介
Lepton Search,一個開源的對話式ai搜索引擎,由前阿里巴巴技術副總裁賈揚清創立的Lepton AI推出,Lepton Search核心代碼僅用約500行Python編寫,支持與大型語言模型(LLM)和搜索引擎的集成。
Lepton Search主要功能
內置大語言模型支持:通過集成大型語言模型,如Mixtral-8x7b,Lepton Search能夠提供高質量的文本理解和生成能力,因此能給出更準確和深入的答案。
內置對搜索引擎的支持:結合了搜索引擎的能力,快速檢索網絡信息,有兩個默認支持的搜索引擎:Bing 和 Google。
用戶界面定制:可定制的漂亮 UI 界面。
可共享的緩存搜索結果:用戶可以輕松分享搜索結果,并且能夠保存這些結果,并通過緩存功能保存,減少重復搜索的需要。
多語言支持:支持包括中文、英語、法語、德語和日語在內的多種語言。
技術與實現
Lepton Search的背后技術包括使用自家云上的Mixtral-8x7b大模型,以及調用Bing搜索引擎API進行數據檢索。
數據存儲方面,Lepton Search依賴于Lepton AI的無服務器存儲解決方案Lepton KV。
Lepton Search的前端與后端設計使得開發者可以輕松部署和定制。
開源與部署
賈揚清在Twitter上宣布Lepton Search開源,采用Apache License授權,便于個人和企業自由使用。
部署方式有兩種:本地部署和基于Lepton云的部署。本地部署簡單快捷,通過幾個命令即可完成,包括克隆項目、安裝Lepton AI庫、設置Bing API密鑰、構建前端和運行服務器。
對于快速嘗試,用戶可以直接通過GitHub頁面點擊“Deploy”按鈕進行部署,設置搜索引擎API密鑰即可。
Lepton Search的使用方法
1.從GitHub上下載Lepton Search的源代碼,并按照官方文檔進行安裝和配置。
2.Lepton Search的搜索引擎采用了Bing的搜索API,用戶需要獲取Bing的API密鑰,設置Bing密鑰并構建前端網絡。
3.在配置完成后,啟動Lepton Search的后臺服務器,開始使用對話式搜索功能。
Lepton Search項目地址:https://github.com/leptonai/search_with_lepton