嘿,各位技術同好!DeepSeek 這模型,性能好又開放,是不是已經讓你蠢蠢欲動了?對我們這些不想數據出門、又想省點雲服務費用的中小企來說,自己搭一套本地 DeepSeek 簡直是剛需啊!今天我就手把手帶大家,在穩定的 Ubuntu 22.04 LTS 環境下,從零開始把 DeepSeek 模型跑起來,還會教你用 Systemd 搞定後台自動守護,讓服務穩穩噹噹地跑,再也不用擔心它突然罷工了!
目錄
- 前置準備
- 步驟一:環境設定與模型下載
- 步驟二:啟動 DeepSeek 模型與測試
- 步驟三:配置 Systemd 後台守護
- 常見問題
- 總結
前置準備
動手前,先嘮叨幾句硬件的事兒。顯卡(GPU)絕對是重中之重,跑大模型,顯存不夠可真要命!我建議啊,至少得是 24GB 顯存的 NVIDIA 卡,比如 RTX 4090 或者 A100 這種級別的,這樣 DeepSeek-V2 這種大傢伙才能跑得順溜。要是顯存不夠,後面肯定會頭疼。系統嘛,就用 Ubuntu 22.04 LTS,這是我寫這篇教程時 DeepSeek-V2 最流行、最穩的版本了。其他的像 Git 和 Python 3.10+ 也得提前裝好。
sudo apt update
sudo apt install -y git python3.10 python3.10-venv python3-pip
步驟一:環境設定與模型下載
為了讓 DeepSeek 跑起來更順手,我們選用 text-generation-webui 這個神器。它能搞定 Hugging Face 上的各種模型,DeepSeek 當然也不在話下。
首先,把 text-generation-webui 項目克隆下來,然後跳進它的目錄:
git clone https://github.com/oobabooga/text-generation-webui.git
cd text-generation-webui
然後,跑一下啟動腳本,它會自動幫你搭好 Python 虛擬環境,把需要的依賴都裝好,省心:
python3.10 server.py --update-extensions --cuda
等腳本讓你輸模型名的時候,直接填 DeepSeek-V2 或者其他你想用的 DeepSeek 模型在 Hugging Face 上的 ID 就行。比如下載 DeepSeek-V2 的 Instruct 版本,就輸:
deepseek-ai/DeepSeek-V2
當然了,你也可以手動把模型文件下載到 text-generation-webui/models 目錄下。友情提示:DeepSeek-V2 這模型是個巨無霸,下載起來會比較慢,耐心點哈。
步驟二:啟動 DeepSeek 模型與測試
模型搞定後,就能啟動 text-generation-webui 並載入 DeepSeek 模型了。執行這條指令:
python3.10 server.py --model deepseek-ai/DeepSeek-V2 --listen --model-menu --auto-devices --gpu-memory 20
--model deepseek-ai/DeepSeek-V2:告訴程序要載入哪個模型。--listen:讓其他設備也能通過網絡訪問 WebUI。--model-menu:WebUI 界面上會顯示模型選擇菜單。--auto-devices:自動把模型分配到可用的顯卡設備上。--gpu-memory 20:給顯卡預留 20GB 內存(這個數值記得根據你自己的顯卡來調)。
服務跑起來之後,你的終端會顯示一個本地 IP 地址和端口號,像 http://0.0.0.0:7860 這樣。在瀏覽器裡打開這個地址,就能看到 text-generation-webui 的界面了。選好 DeepSeek-V2 模型,載入後就可以開始對話測試。我上週親自測試時就發現,要是顯存不夠,模型載入那叫一個慢,甚至直接崩掉。所以,該給的資源,一定不能省!
步驟三:配置 Systemd 後台守護
為了讓 DeepSeek 服務在服務器重啟後能自動啟動,而且萬一崩潰了也能自動恢復,我們必須配置 Systemd 服務。對我們中小企來說,要業務跑得穩,這步可太關鍵了!
首先,來創建一個新的 Systemd 服務文件。假設你的 text-generation-webui 安裝在 /opt/text-generation-webui,並且你想用 deepseekuser 這個用戶來跑服務(別忘了換成你實際的用戶名哦):
sudo nano /etc/systemd/system/deepseek-webui.service
把下面這些內容粘貼進文件裡,然後根據你的實際路徑和用戶名做修改:
[Unit]
Description=DeepSeek Text Generation WebUI Service
After=network.target
[Service]
User=deepseekuser
Group=deepseekuser
WorkingDirectory=/opt/text-generation-webui
ExecStart=/usr/bin/python3.10 server.py --model deepseek-ai/DeepSeek-V2 --listen --model-menu --auto-devices --gpu-memory 20
Restart=always
RestartSec=5
StandardOutput=journal
StandardError=journal
[Install]
WantedBy=multi-user.target
User和Group:小提示:最好用一個專門的普通用戶來跑服務,別用 root,安全第一嘛。WorkingDirectory:你的text-generation-webui項目在哪兒,路徑就填哪兒。ExecStart:啟動text-generation-webui的命令,別忘了加--listen,不然外面訪問不了 WebUI。Restart=always:服務掛了會自動重啟。RestartSec=5:重啟前會等個 5 秒。
保存並退出文件(Ctrl+O, Ctrl+X)。接著,重載 Systemd 管理器,然後啟用並啟動這個新服務:
sudo systemctl daemon-reload
sudo systemctl enable deepseek-webui.service
sudo systemctl start deepseek-webui.service
最後,檢查一下服務狀態,確認它已經順利運行了:
sudo systemctl status deepseek-webui.service
常見問題
-
服務啟動失敗或者載入模型時內存不夠? 趕緊檢查你的顯卡 VRAM!DeepSeek-V2 模型特別大,搞不好就得多給點內存。你可以試著載入小一點的 DeepSeek 模型(比如 7B 或 67B 版本),或者調整
server.py啟動命令裡的--gpu-memory參數。同時,確認顯卡驅動都裝對了沒。 -
WebUI 網頁打不開? 首先確認服務是不是已經啟動了 (
sudo systemctl status deepseek-webui.service)。再看看防火牆設定,確認 7860 端口是不是開著。如果是在公司內網,可能需要網絡管理員幫忙開一下端口。 -
Python 版本有問題? 這篇教程用的是
python3.10,如果你系統裡默認是別的版本,記得把指令裡的python3.10換成你自己的,或者建個軟連結也行。
總結
大功告成!現在你的 Ubuntu 22.04 服務器上,DeepSeek 模型已經妥妥地跑起來了,Systemd 後台守護也給你安排上了!這不光給你公司提供了一個私密、安全的大模型方案,也為你後續玩轉提示詞、開發各種應用打下了超堅實的基礎。希望這篇教程能幫到各位港澳台(或者任何地方)的中小企兄弟們,一起用 AI 把業務搞得風生水起!