Copyright 2017-2024 微學堂 版權所有 京ICP備18049689號-30
本地部署的原因
選擇本地部署AI大模型DeeSeek主要有以下幾點原因：
數據隱私與合規性保障： 本地部署允許控制數據的收集、存儲和使用，確保符合相關法律法規，保護用戶和企業的隱私信息不被泄露或濫用。
高效資源管理： 避免了云服務帶來的計算資源分配不均和延遲問題，可以根據實際需求靈活調整資源，提高處理效率。
成本控制： 自有服務器的資源使用更為靈活，降低了運營成本，避免了因云服務產生的額外費用，如帶寬、存儲和計算資源的高支出。
快速響應與創新： 本地部署能夠更快地進行模型優化和迭代，適應市場需求的變化，促進技術進步和服務質量的提升。
綜上所述，本地部署AI大模型DeeSeek是經過權衡后的一個明智選擇，能夠在數據安全、資源管理、成本控制等方面為未來發展奠定良好基礎。
開始部署
注：部署耗時約30分鐘。
分為3步：
下載并安裝ollama
下載開源大模型deepseek
下載并安裝開源webUI
下載并安裝ollama
下載地址：https://ollama.com/
安裝ollama
安裝好后啟動ollama，系統右下角會出現ollama圖標：
下載deepseek模型
我們找到阿里的deepseek大模型，選擇7b的：
復制上面這段代碼
ollama run deepseek-r1
在電腦上，按：窗口鍵+R，打開運行窗口，如下圖：
輸入：cmd后按回車鍵，打開命令提示符窗口，如下圖所示：
將下面的代碼塊，復制粘貼到，命令提示符窗口中，按回車
ollama run deepseek-r1
等待幾秒鐘后，顯示如下內容，即安裝成功了。