馬斯克旗下的ai公司xAI開發的Grok-1大型語言模型，在經歷幾個月的訓練和準備后，于2024年3月18日正式開源。Grok-1擁有高達3140億的參數，超過了OpenAI的GPT-3.5模型，成為迄今為止開源的參數量最大的大語言模型。這一動作遵照Apache 2.0協議進行，意味著開發者可以自由地下載、使用、修改并分發Grok-1的模型權重和架構。

Grok官網：https://grok.x.ai/

Grok開源GitHub源碼下載地址：https://github.com/xai-org/grok-1

Grok-1是基于大量文本數據訓練的基礎模型，未針對特定任務進行微調。它采用的是混合專家架構（Mixture-of-Experts, MOE），這是一種機器學習方法，通過結合多個子模型（專家）的輸出，提高模型處理任務的效率。Grok-1的源權重數據大小約為300GB，并在GitHub上開源。

馬斯克Grok為什么開源？

馬斯克此舉是在與OpenAI的關系緊張和對后者提出法律訴訟的背景下進行的，馬斯克與OpenAI的聯合創始人奧特曼之間存在著長期的矛盾。他公開批評OpenAI違背了其開源的初心，并將原本旨在對抗谷歌的機構轉變為一個與微軟合作的盈利性實體。因此，馬斯克決定通過開源Grok-1來展示其對AI領域開放共享的承諾。

另外，通過開源，馬斯克希望吸引更多的開發者和用戶，擴大其影響力，同時也為xAI帶來更多的數據資源，幫助其不斷完善和優化技術。

馬斯克Grok開源的意義

Grok-1的開源將直接推動AI技術的發展，促進競爭與多樣性。它為AI領域提供了新的發展動力，并可能引發新的技術革命。同時，這也是對AI領域現有商業化策略的一次挑戰，馬斯克試圖通過開源來改變AI技術的走向，使之更符合他個人的愿景。