
訊飛星辰MaaS
訊飛星辰MaaS簡介
訊飛星辰MaaS是什么?
訊飛星辰MaaS是由科大訊飛開發(fā)的一款一站式aiGC內(nèi)容運營平臺,主要面向開發(fā)者,提供大模型定制訓(xùn)練服務(wù),匯集了眾多優(yōu)質(zhì)模型,提供大模型全生命周期管理,具備數(shù)據(jù)工程能力強、微調(diào)體驗好等特點,且兼容 OpenAI 協(xié)議,覆蓋內(nèi)容創(chuàng)作、代碼、邏輯推理等多場景。
訊飛星辰 MaaS 平臺涵蓋多種功能,包括模型創(chuàng)建、模型集市、體驗中心、解決方案等。在模型處理方面,支持在線推理、批量推理、模型精調(diào)、模型蒸餾、模型托管、模型評估、模型管理等操作。同時設(shè)有數(shù)據(jù)管理板塊,涉及數(shù)據(jù)集、數(shù)據(jù)增強等。還有Prompt 工程、系統(tǒng)配置、計費管理等功能。
訊飛星辰MaaS功能特點
模型豐富:匯集了訊飛星火、Llama3、SD - XL 等 20 多種行業(yè)內(nèi)知名的優(yōu)質(zhì)模型,還新加入了 Spark Max、Spark Mini、Spark Tiny 等星火自研模型,同時引入書生系列、Qwen2.5 系列等多個開源模型的精調(diào),滿足多樣業(yè)務(wù)場景。
數(shù)據(jù)工程能力強:基于問答抽取、數(shù)據(jù)增強、prompt 工程等維度出發(fā),構(gòu)建全方位的數(shù)據(jù)工程能力,支持常見文本生成、語義理解、知識問答數(shù)據(jù)泛化,擴展數(shù)據(jù)集數(shù)量,支持混合訓(xùn)練,還實現(xiàn)了對幾乎所有行業(yè)主流數(shù)據(jù)集格式的支持,如 ShareGPT、Alpaca 格式數(shù)據(jù)集。
微調(diào)體驗好:提供靈活可用的全棧工具鏈,支持從訓(xùn)練集中拆分出一定比例進行驗證,最多支持 10 個模型同時在線批量推理,大大提高了數(shù)據(jù)處理的效率。
兼容 OpenAI 協(xié)議:方便開發(fā)者進行能力遷移,用戶之前用 OpenAI 的能力,可一鍵切換成星火的能力,實現(xiàn) “絲滑” 搬家。
支持 function_call 精調(diào)訓(xùn)練:讓模型能夠理解什么時候需要調(diào)用函數(shù)、調(diào)用哪種函數(shù),以及如何正確地傳遞參數(shù)給函數(shù),從而增強模型在實際應(yīng)用中的實用性,使其能夠更好地與外部工具或系統(tǒng)進行交互。
模型效果評估方便:支持 Loss 曲線展示和裁判員模型效果評估對比,在微調(diào)模態(tài)訓(xùn)練過程中即可通過精細化的數(shù)據(jù)配比和動態(tài)調(diào)整,在提升目標領(lǐng)域能力的同時,最大限度避免災(zāi)難性遺忘,保持模型的全面性能。
訊飛星辰MaaS應(yīng)用場景
內(nèi)容創(chuàng)作:如高端內(nèi)容創(chuàng)作、專業(yè)知識服務(wù)等場景,可使用 Spark Max 模型。
在線客服:如小型創(chuàng)業(yè)公司的在線客服系統(tǒng),可使用 Spark Tiny 模型,在滿足性能需求的同時節(jié)省成本。
行業(yè)定制:面向特定行業(yè)與場景,通過將特定數(shù)據(jù) “投喂” 給通用大模型,在保持 “通才” 優(yōu)勢的基礎(chǔ)上,微調(diào)大模型輕松兼容行業(yè) “專才” 的優(yōu)勢,滿足行業(yè)特定需求。
訊飛星辰MaaS使用方法
注冊和登錄:訪問訊飛星辰MaaS的官方網(wǎng)站,創(chuàng)建賬戶或用現(xiàn)有賬戶登錄。
選擇模型:根據(jù)業(yè)務(wù)需求選擇合適的預(yù)訓(xùn)練模型。
數(shù)據(jù)準備:準備或選擇適合的數(shù)據(jù)集進行微調(diào),平臺支持多種數(shù)據(jù)集格式。
模型微調(diào):使用平臺提供的工具對選定的模型進行微調(diào),包括上傳數(shù)據(jù)集、配置微調(diào)參數(shù)等步驟。
模型評估:使用評估工具對微調(diào)后的模型進行效果評估。
模型部署:將訓(xùn)練好的模型部署到實際應(yīng)用中。
API調(diào)用:基于訊飛星辰提供的API進行模型調(diào)用,實現(xiàn)模型服務(wù)的集成。
訊飛星辰MaaS適用人群
AI開發(fā)者:需要進行深度學(xué)習(xí)模型訓(xùn)練的開發(fā)者。
AI研究人員:需要進行模型定制化訓(xùn)練的研究人員。
企業(yè)用戶:需要定制化大模型以滿足特定業(yè)務(wù)需求的企業(yè)。
與訊飛星辰MaaS相關(guān)工具
- 用戶登錄