Mnn3dAvatar:阿里開源的3D數字人框架,直播帶貨新利器!
Mnn3DAvatar是什么?
Mnn3dAvatar是阿里巴巴開源的3D數字人架構,基于輕量級的MNN框架開發。可以實時捕捉人臉表情并映射到3D虛擬角色之上,從而使角色更加生動可感。其即便沒有復雜的建模經驗,開發者也可以快速制作出精美的3D數字人。
Mnn3dAvatar技術原理
Mnn3dAvatar為MNN框架上構建而成,結合3D高斯重建,以及ai聲紋驅動等技術。AI實現高精度的面部動作捕捉與實時渲染,語音、表情、手勢等多種驅動。
技術亮點
實時面捕:深度學習可以精準捕獲用戶表情,并快速映射到3D角色上,適用于直播、虛擬會議等場景。
輕量化部署:在MNN框架的優化驅動下,Mnn3dAvatar不需要高端硬件即可在眾多設備之間高效演算,大大降低了開發門檻。
多模態支持:除了面部捕捉,還支持文本生成、圖像生成等任務,為開發者帶來靈活的接口。
開源生態:作為阿里開源生態的一部分,包含豐富的API及工具,可以無縫嵌入安卓、iOS等平臺應用。
Mnn3dAvatar應用場景
帶貨直播:主播可在3D虛擬角色的狀態下直播,增加趣味性與互動性,降低真人出鏡率,適用于電商平臺打造差異化內容。
虛擬展示與娛樂:可實現虛擬偶像、游戲角色動畫、虛擬會議場景下的沉浸式視覺體驗。
教育培訓:教育機構可以通過它創建虛擬講師,提升在線授課的互動性和吸引力。
Mnn3dAvatar發布完善了MNN的生態。自2019年開源以來,MNN已經被大量應用于阿里巴巴內部,包括淘寶、天貓、釘釘等70多個業務場景。同時,阿里還開源了另一款3D數字人生成模型LAM(Live Avatar Model),可支持快速用一張圖像生成可交互的3D數字人。
開源地址:
https://github.com/alibaba/MNN/blob/master/apps/Android/Mnn3dAvatar/README_CN.md