手把手教你!DeepSeek 模型跑自家服務,Ubuntu 22.04 一鍵守護!

· DeepSeek 國際應用

嘿,各位技術同好!DeepSeek 這模型,性能好又開放,是不是已經讓你蠢蠢欲動了?對我們這些不想數據出門、又想省點雲服務費用的中小企來說,自己搭一套本地 DeepSeek 簡直是剛需啊!今天我就手把手帶大家,在穩定的 Ubuntu 22.04 LTS 環境下,從零開始把 DeepSeek 模型跑起來,還會教你用 Systemd 搞定後台自動守護,讓服務穩穩噹噹地跑,再也不用擔心它突然罷工了!

目錄

  • 前置準備
  • 步驟一:環境設定與模型下載
  • 步驟二:啟動 DeepSeek 模型與測試
  • 步驟三:配置 Systemd 後台守護
  • 常見問題
  • 總結

前置準備

動手前,先嘮叨幾句硬件的事兒。顯卡(GPU)絕對是重中之重,跑大模型,顯存不夠可真要命!我建議啊,至少得是 24GB 顯存的 NVIDIA 卡,比如 RTX 4090 或者 A100 這種級別的,這樣 DeepSeek-V2 這種大傢伙才能跑得順溜。要是顯存不夠,後面肯定會頭疼。系統嘛,就用 Ubuntu 22.04 LTS,這是我寫這篇教程時 DeepSeek-V2 最流行、最穩的版本了。其他的像 Git 和 Python 3.10+ 也得提前裝好。

sudo apt update
sudo apt install -y git python3.10 python3.10-venv python3-pip

步驟一:環境設定與模型下載

為了讓 DeepSeek 跑起來更順手,我們選用 text-generation-webui 這個神器。它能搞定 Hugging Face 上的各種模型,DeepSeek 當然也不在話下。

首先,把 text-generation-webui 項目克隆下來,然後跳進它的目錄:

git clone https://github.com/oobabooga/text-generation-webui.git
cd text-generation-webui

然後,跑一下啟動腳本,它會自動幫你搭好 Python 虛擬環境,把需要的依賴都裝好,省心:

python3.10 server.py --update-extensions --cuda

等腳本讓你輸模型名的時候,直接填 DeepSeek-V2 或者其他你想用的 DeepSeek 模型在 Hugging Face 上的 ID 就行。比如下載 DeepSeek-V2 的 Instruct 版本,就輸:

deepseek-ai/DeepSeek-V2

當然了,你也可以手動把模型文件下載到 text-generation-webui/models 目錄下。友情提示:DeepSeek-V2 這模型是個巨無霸,下載起來會比較慢,耐心點哈。

DeepSeek 模型伺服器硬件架構

步驟二:啟動 DeepSeek 模型與測試

模型搞定後,就能啟動 text-generation-webui 並載入 DeepSeek 模型了。執行這條指令:

python3.10 server.py --model deepseek-ai/DeepSeek-V2 --listen --model-menu --auto-devices --gpu-memory 20
  • --model deepseek-ai/DeepSeek-V2:告訴程序要載入哪個模型。
  • --listen:讓其他設備也能通過網絡訪問 WebUI。
  • --model-menu:WebUI 界面上會顯示模型選擇菜單。
  • --auto-devices:自動把模型分配到可用的顯卡設備上。
  • --gpu-memory 20:給顯卡預留 20GB 內存(這個數值記得根據你自己的顯卡來調)。

服務跑起來之後,你的終端會顯示一個本地 IP 地址和端口號,像 http://0.0.0.0:7860 這樣。在瀏覽器裡打開這個地址,就能看到 text-generation-webui 的界面了。選好 DeepSeek-V2 模型,載入後就可以開始對話測試。我上週親自測試時就發現,要是顯存不夠,模型載入那叫一個慢,甚至直接崩掉。所以,該給的資源,一定不能省!

步驟三:配置 Systemd 後台守護

為了讓 DeepSeek 服務在服務器重啟後能自動啟動,而且萬一崩潰了也能自動恢復,我們必須配置 Systemd 服務。對我們中小企來說,要業務跑得穩,這步可太關鍵了!

首先,來創建一個新的 Systemd 服務文件。假設你的 text-generation-webui 安裝在 /opt/text-generation-webui,並且你想用 deepseekuser 這個用戶來跑服務(別忘了換成你實際的用戶名哦):

sudo nano /etc/systemd/system/deepseek-webui.service

把下面這些內容粘貼進文件裡,然後根據你的實際路徑和用戶名做修改:

[Unit]
Description=DeepSeek Text Generation WebUI Service
After=network.target

[Service]
User=deepseekuser
Group=deepseekuser
WorkingDirectory=/opt/text-generation-webui
ExecStart=/usr/bin/python3.10 server.py --model deepseek-ai/DeepSeek-V2 --listen --model-menu --auto-devices --gpu-memory 20
Restart=always
RestartSec=5
StandardOutput=journal
StandardError=journal

[Install]
WantedBy=multi-user.target
  • UserGroup:小提示:最好用一個專門的普通用戶來跑服務,別用 root,安全第一嘛。
  • WorkingDirectory:你的 text-generation-webui 項目在哪兒,路徑就填哪兒。
  • ExecStart:啟動 text-generation-webui 的命令,別忘了加 --listen,不然外面訪問不了 WebUI。
  • Restart=always:服務掛了會自動重啟。
  • RestartSec=5:重啟前會等個 5 秒。

保存並退出文件(Ctrl+O, Ctrl+X)。接著,重載 Systemd 管理器,然後啟用並啟動這個新服務:

sudo systemctl daemon-reload
sudo systemctl enable deepseek-webui.service
sudo systemctl start deepseek-webui.service

最後,檢查一下服務狀態,確認它已經順利運行了:

sudo systemctl status deepseek-webui.service

DeepSeek 私有化部署網絡配置

常見問題

  • 服務啟動失敗或者載入模型時內存不夠? 趕緊檢查你的顯卡 VRAM!DeepSeek-V2 模型特別大,搞不好就得多給點內存。你可以試著載入小一點的 DeepSeek 模型(比如 7B 或 67B 版本),或者調整 server.py 啟動命令裡的 --gpu-memory 參數。同時,確認顯卡驅動都裝對了沒。

  • WebUI 網頁打不開? 首先確認服務是不是已經啟動了 (sudo systemctl status deepseek-webui.service)。再看看防火牆設定,確認 7860 端口是不是開著。如果是在公司內網,可能需要網絡管理員幫忙開一下端口。

  • Python 版本有問題? 這篇教程用的是 python3.10,如果你系統裡默認是別的版本,記得把指令裡的 python3.10 換成你自己的,或者建個軟連結也行。

總結

大功告成!現在你的 Ubuntu 22.04 服務器上,DeepSeek 模型已經妥妥地跑起來了,Systemd 後台守護也給你安排上了!這不光給你公司提供了一個私密、安全的大模型方案,也為你後續玩轉提示詞、開發各種應用打下了超堅實的基礎。希望這篇教程能幫到各位港澳台(或者任何地方)的中小企兄弟們,一起用 AI 把業務搞得風生水起!

最新教程

查看全部文章 »