首頁 > Ai資訊 > AI教程

如何在本地部署DeepSeek Janus Pro？

映技派于2025-01-29發布在AI教程

DeepSeek發布的Janus-Pro-7B是一款開源多模態大模型，支持圖像識別和生成，性能超越Openai的DALL·E 3。以下是 DeepSeek Janus Pro-7B 如何在本地部署的詳細步驟、技巧及注意事項：

一、環境準備

硬件要求

GPU：顯存 ≥24GB（推薦 NVIDIA RTX A6000 或更高性能顯卡）；若顯存不足，可嘗試低精度模式（model.half()）或減小生成參數。
存儲空間：≥30GB 可用空間（模型文件約 20GB+）。
操作系統：推薦 Ubuntu 20.04+ 或 Windows（需適配 CUDA）。
Python：3.8+，建議使用 Conda 管理虛擬環境。

軟件依賴

CUDA：11.7+（需與 PyTorch 版本匹配）。
PyTorch：指定版本 torch==2.0.1+cu117（需通過官方索引安裝）。
其他工具：Git、HuggingFace Hub 下載工具（huggingface-cli）。

二、部署步驟

1. 克隆代碼庫

git clone https://github.com/deepseek-ai/Janus.git
cd Janus

2. 創建虛擬環境

conda create -n janus python=3.8 -y
conda activate janus

3. 安裝依賴

pip install torch==2.0.1+cu117 --index-url https://download.pytorch.org/whl/cu117
pip install -r requirements.txt
pip install -e .[gradio]  # 安裝 Gradio 擴展

4. 下載模型

方法一：通過 huggingface-cli 下載完整模型（推薦國內用戶使用鏡像加速）：

HF_ENDPOINT=https://hf-mirror.com huggingface-cli download deepseek-ai/Janus-Pro-7B \
  --local-dir ./models/Janus-Pro-7B \
  --resume-download --cache-dir ./cache

方法二：手動從 HuggingFace 倉庫下載模型文件并解壓至 ./models/Janus-Pro-7B。

5. 啟動應用

文本交互界面：

python demo/app_text.py --model-path ./models/Janus-Pro-7B

多模態界面（支持圖像生成與問答）：

python demo/app_multimodal.py --model-path ./models/Janus-Pro-7B --port 7860

訪問 http://localhost:7860 或 http://127.0.0.1:7860 使用交互界面。

三、功能使用示例

文生圖（Text-to-Image）

from janus.utils import generate_image
generate_image(
    model_path="./models/Janus-Pro-7B",
    prompt="夕陽下的雪山，山腳下有藍色的湖泊",
    output_dir="./outputs",
    num_images=4  # 生成4張圖)

多模態問答（Visual QA）

from janus.models import MultiModalityCausalLM, VLChatProcessor
processor = VLChatProcessor.from_pretrained("./models/Janus-Pro-7B")
model = MultiModalityCausalLM.from_pretrained("./models/Janus-Pro-7B").to("cuda")
# 輸入對話與圖片路徑
conversation = [
    {"role": "", "content": "描述這張圖片的內容", "images": ["sample.jpg"]},
    {"role": "", "content": ""}
]
inputs = processor(conversations=conversation)
outputs = model.generate(**inputs)
print(processor.decode(outputs[0]))

四、常見問題與優化

顯存不足

減小生成參數：max_new_tokens=256。
啟用低精度模式：model = model.half()。

下載速度慢

使用國內鏡像源：HF_ENDPOINT=https://hf-mirror.com。
開啟多線程下載：--workers 8。

依賴沖突

嚴格安裝指定版本：

pip install transformers==4.33.2

圖像生成質量優化

調整 CFG 權重（5-7 范圍內）。
增加并行采樣數量：parallel_size=16。

這里也分享X上一位我關注的技術員的本地部署方法：

本地部署DeepSeek Janus Pro.webp

小技巧：

技巧1：如果你之前已經裝過conda的pytorch環境了，可以用 conda create --name myenv --clone base 直接克隆一個，不然每次重新下載pytorch很慢，浪費時間。
技巧2：一定要裝flash-attention，雖然不裝也能運行，但是顯存會爆，有A100的可以忽略。

通過以上的步驟，你就可在本地快速部署并體驗 Janus-Pro-7B 的多模態能力了。如需進一步優化或了解模型細節，可參考 GitHub倉庫和技術文檔。