在快速發(fā)展的人工智能領(lǐng)域，2025 年 1 月， DeepSeek 正式推出了備受矚目的 DeepSeek-R1 推理大模型。這款模型憑借其低廉的成本和卓越的性能，一經(jīng)發(fā)布便迅速在 AI 行業(yè)掀起波瀾，吸引了眾多研究者、開發(fā)者以及企業(yè)的廣泛關(guān)注。
DeepSeek-R1 之所以能夠在競爭激烈的 AI 市場中脫穎而出，其性價(jià)比優(yōu)勢功不可沒。相較于其他同類型的大模型，它在保證出色性能的同時(shí)，大大降低了使用成本，這使得更多的個(gè)人開發(fā)者、科研團(tuán)隊(duì)以及預(yù)算有限的企業(yè)能夠輕松應(yīng)用，為推動(dòng) AI 技術(shù)的普及和發(fā)展提供了新的契機(jī)。
DeepSeek 充分考慮到不同用戶的多樣化需求和使用場景，提供了多種靈活的使用方式。其中，本地部署方式具有諸多顯著優(yōu)勢。在數(shù)據(jù)安全方面，將模型部署在本地，用戶的數(shù)據(jù)無需上傳至云端，極大地降低了數(shù)據(jù)泄露的風(fēng)險(xiǎn)，尤其適用于對數(shù)據(jù)保密性要求較高的行業(yè)和領(lǐng)域，如醫(yī)療、金融等。在性能上，本地部署可以根據(jù)本地硬件配置進(jìn)行優(yōu)化，減少網(wǎng)絡(luò)延遲，實(shí)現(xiàn)更快速的響應(yīng)。對于有定制化需求的用戶，能夠在本地對模型進(jìn)行個(gè)性化調(diào)整和訓(xùn)練，以滿足特定的業(yè)務(wù)需求。從成本角度來看，長期使用本地部署可能會(huì)比依賴云端服務(wù)更具成本效益，特別是對于大規(guī)模應(yīng)用的場景。此外，本地部署還確保了離線可用性，即使在沒有網(wǎng)絡(luò)連接的情況下，依然能夠正常運(yùn)行。對于追求技術(shù)自主性的用戶和團(tuán)隊(duì)來說，本地部署讓他們能夠更好地掌控模型的運(yùn)行和維護(hù)，減少對外部服務(wù)的依賴。
對于廣大開發(fā)者以及習(xí)慣使用命令行操作的技術(shù)愛好者而言，在電腦上部署 Deepseek 其實(shí)并非難事。整個(gè)過程只需準(zhǔn)備安裝一款名為Ollama的軟件，以下是詳細(xì)的安裝步驟：
一、下載 Ollama 安裝程序 Ollama官方網(wǎng)站：https:///
打開常用的瀏覽器，如 Chrome、Firefox 或 Edge。 在官網(wǎng)的下載頁面，找到適用于 Windows 系統(tǒng)的安裝包，通常為.exe 格式。根據(jù)你的系統(tǒng)是 32 位還是 64 位，選擇對應(yīng)的版本進(jìn)行下載。下載完成后，文件會(huì)保存在你瀏覽器設(shè)置的默認(rèn)下載路徑中，或者你在下載時(shí)指定的保存位置。 同樣使用 Safari、Chrome 等瀏覽器，訪問 Ollama 官方網(wǎng)站。
在下載頁面，找到 macOS 版本的安裝文件，一般為.dmg 格式。點(diǎn)擊下載，下載完成后，在 “訪達(dá)” 的 “下載” 文件夾中可以找到該文件。
打開終端。對于基于 Debian 或 Ubuntu 的系統(tǒng)，在終端中輸入命令：sudo apt-get install -y wget && wget <Ollama官方下載鏈接>，這里的<Ollama官方下載鏈接>需要替換為官網(wǎng)提供的實(shí)際下載鏈接。下載完成后，文件會(huì)保存在當(dāng)前工作目錄。
對于基于 Red Hat 或 CentOS 的系統(tǒng)，在終端輸入：sudo yum install -y wget && wget <Ollama官方下載鏈接> ，同樣替換為實(shí)際下載鏈接。
二、安裝 Ollama 找到下載好的 Ollama 安裝文件（.exe 格式），雙擊運(yùn)行。
安裝向?qū)?dòng)后，首先會(huì)彈出用戶賬戶控制窗口，詢問是否允許該程序?qū)δ愕脑O(shè)備進(jìn)行更改，點(diǎn)擊 “是”。
在安裝界面，按照提示逐步操作。一般會(huì)先顯示許可協(xié)議，仔細(xì)閱讀后勾選 “我接受協(xié)議”，然后點(diǎn)擊 “下一步”。
選擇安裝路徑，你可以使用默認(rèn)路徑，也可以點(diǎn)擊 “瀏覽” 選擇其他磁盤位置進(jìn)行安裝，確定路徑后點(diǎn)擊 “下一步”。
接著可以選擇是否創(chuàng)建桌面快捷方式等附加任務(wù)，根據(jù)個(gè)人需求勾選或取消，之后點(diǎn)擊 “安裝”。
安裝過程中會(huì)顯示進(jìn)度條，等待安裝完成，安裝完成后點(diǎn)擊 “完成” 即可。
打開 “訪達(dá)”，找到下載的 Ollama 安裝文件（.dmg 格式），雙擊打開。
會(huì)彈出一個(gè)包含 Ollama 圖標(biāo)和應(yīng)用程序文件夾圖標(biāo)的窗口，將 Ollama 圖標(biāo)拖動(dòng)到應(yīng)用程序文件夾圖標(biāo)上，即可完成安裝。安裝完成后，你可以在 “應(yīng)用程序” 文件夾中找到 Ollama。
對于基于 Debian 或 Ubuntu 的系統(tǒng)，下載完成后，在終端中輸入命令：sudo dpkg -i <Ollama安裝包文件名>，這里的<Ollama安裝包文件名>替換為你實(shí)際下載的文件名。如果安裝過程中提示缺少依賴包，根據(jù)提示使用sudo apt - get install命令安裝相應(yīng)依賴后，再次運(yùn)行安裝命令。
對于基于 Red Hat 或 CentOS 的系統(tǒng)，在終端輸入：sudo rpm -ivh <Ollama安裝包文件名>，同樣替換為實(shí)際文件名。若提示依賴問題，按照提示安裝依賴后重新安裝。
需要注意的是，Ollama沒有直觀的用戶界面，它在后臺(tái)默默運(yùn)行。
三、驗(yàn)證 Ollama 是否成功安裝 安裝完成后，打開瀏覽器，在地址欄中輸入 “ http://localhost:11434/ ” 。
如果頁面顯示 “Ollama is running”，則表明Ollama已經(jīng)成功啟動(dòng)并正在運(yùn)行。若顯示無法訪問或其他錯(cuò)誤信息，可能是端口被占用，需要檢查系統(tǒng)中占用 11434 端口的程序并進(jìn)行處理，或者重新配置 Ollama 的運(yùn)行端口。
四、了解 ollama 命令用法 打開一個(gè)命令行終端。在 Windows 系統(tǒng)中，可以通過搜索 “命令提示符” 或 “PowerShell” 打開；在 macOS 系統(tǒng)中，打開 “終端” 應(yīng)用；在 Linux 系統(tǒng)中，本身就在終端環(huán)境下操作。
在終端中輸入ollama命令，此時(shí)會(huì)顯示詳細(xì)的命令用法，這些用法為后續(xù)的操作提供了重要的指導(dǎo)。例如，顯示的命令可能包括ollama run（用于運(yùn)行模型）、ollama pull（用于下載模型）等基本命令及其參數(shù)說明。
五、下載 DeepSeek-R1 模型 通過 ollama 客戶端命令，我們可以輕松下載所需的模型。它支持的模型種類豐富，具體的模型和對應(yīng)的下載命令，可以在官網(wǎng)進(jìn)行查詢。
打開瀏覽器，訪問 Ollama 官網(wǎng)，切換到官網(wǎng)的 “Models” 頁面。
在 Models 頁面中，找到 DeepSeek-R1 模型?？梢钥吹剿鼡碛卸喾N參數(shù)可供選擇，通常情況下，對于使用 macOS 系統(tǒng)的用戶，選擇 7b、8b 參數(shù)即可滿足日常使用需求。需要注意的是，參數(shù)越大，對顯卡和內(nèi)存的要求也就越高。如果你的電腦配備了 3090 顯卡、4090 顯卡等高性能硬件，那么可以嘗試選擇 32b、70b 等更大的參數(shù)。一般來說，參數(shù)越大，模型的效果越好，性能也越強(qiáng)大，但同時(shí)也需要更多的存儲(chǔ)和計(jì)算資源來支持其運(yùn)行。例如，1.5b 模型的參數(shù)規(guī)模為 15 億，占用存儲(chǔ)空間約 1.1GB；7b 模型的參數(shù)約為 70 億，占用空間約 4.7GB；14b 模型的參數(shù)約為 140 億，占用空間約 9GB。
根據(jù)自己的硬件條件和需求，選擇對應(yīng)的蒸餾模型，將官網(wǎng)提供的對應(yīng)的下載命令復(fù)制到 ollama 控制臺(tái)。例如，如果選擇 7b 參數(shù)的 DeepSeek-R1 模型，復(fù)制對應(yīng)的ollama pull deepseek-r1:7b命令到終端，然后按回車鍵即可開始本地安裝。
六、安裝過程及等待 輸入下載命令后，終端會(huì)顯示下載進(jìn)度，包括已下載的字節(jié)數(shù)、下載速度以及預(yù)計(jì)剩余時(shí)間等信息。
下載過程中，可能會(huì)因?yàn)榫W(wǎng)絡(luò)波動(dòng)等原因出現(xiàn)下載中斷的情況。如果出現(xiàn)這種情況，可以重新輸入下載命令，Ollama 通常會(huì)支持?jǐn)帱c(diǎn)續(xù)傳，繼續(xù)從上次中斷的位置開始下載。
下載完成后，Ollama 會(huì)自動(dòng)進(jìn)行模型的安裝和配置，這個(gè)過程可能需要一些時(shí)間，根據(jù)硬件性能不同，時(shí)間長短會(huì)有所差異。在安裝配置過程中，終端會(huì)顯示相關(guān)的日志信息，如模型文件的解壓、依賴項(xiàng)的檢查等。
七、開啟對話 當(dāng)安裝完成的那一刻，你就可以開啟與 DeepSeek-R1 的對話之旅。在命令行終端中輸入ollama run deepseek - r1:7b（這里的參數(shù)根據(jù)你實(shí)際下載的模型參數(shù)而定），然后輸入你想要詢問的問題或指令，即可體驗(yàn)它強(qiáng)大的語言處理能力和智能交互功能，探索無限的 AI 應(yīng)用可能。
