近日，解放軍總醫院聯合華為公司，基于昇騰硬件及MindIE推理平臺完成DeepSeek-R1模型的本地部署，并通過MaxKB工具完成本地知識庫構建。在滿足“數據不出院”的要求下，為醫院提供了DeepSeek-R1推理模型的高效應用體驗。

　　本文將DeepSeek模型在局域網中本地化部署遇到的一些問題進行詳細闡述，希望對廣大同行有所啟發。部署分幾個步驟，包括準備環境、創建容器、配置啟動MindIE、使用WebUI等。部署之后，我們也進行了本地知識庫構建和Java編程接入。

一 準備環境

　　第一步是驅動固件安裝?，這里需要特別注意操作系統版本與驅動版本是否匹配，建議參考官方文檔進行驅動安裝;使用Smart Kit升級BMC、BIOS、CPLD;升級Smart Provisioning;升級網卡、RAID卡、NPU固件等;如遇兼容性問題，嘗試升級操作系統或更換驅動版本;另外要檢查系統日志，根據錯誤提示進行針對性解決。

　　第二步是操作系統安裝。提前確認操作系統版本，根據我們了解，可選擇的系統版本包括Kylin V10(SP1、SP2、SP3)、CTyunOS 22.06、Ubuntu 24.04、CULinux 3.0、openEuler 23.03、BC-Linux 21.10等。如果遇到操作系統反復安裝不上的問題，建議采用如下方法：

　　(1)RAID陣列及狀態??檢查：陣列是否處于"Degraded"(降級)、"Rebuilding"(重建)、"Failed"(故障)狀態;

　　(2)同步/重建進度??檢查項?：重建進度百分比、預計完成時間、是否存在中斷風險(如硬盤性能不足);

　　(3)配置一致性??檢查：RAID級別、硬盤數量、熱備盤配置是否與預期一致。?此環節存在誤移除硬盤或配置錯誤導致冗余失效的風險;

　　(4)安裝介質問題??驗證?：重新制作啟動盤(推薦 Rufus 或 Ventoy)。

　　第三步是Docker安裝?。不同操作系統安裝Docker的方法有所不同，可以在網上找到各個操作系統下安裝Docker的方法，在此不再贅述。不過需要注意的是：Docker安裝后，其默認IP一般為172.17.0.1，如果局域網內有設備使用和Docker默認IP地址相同的網段，則可能會發生IP地址沖突，導致Docker無法訪問，此時需要修改Docker默認IP地址，修改方法如下：

　　(1)進入/etc/docker目錄，查看是否存在daemon.json，若不存在則新建一個。

　　(2)vim daemon.json編輯文件內容，修改網段為規劃網段并保存(此處以 192.168.0.1/24 網段為例)，cat daemon.json確認修改正確。

　　(3)service docker restart重啟Docker服務。

圖1 修改Docker默認IP地址

二 創建容器

　　為了簡化DeepSeek安裝過程，MindIE鏡像包集成了DeepSeek模型運行所需的依賴環境，包括操作系統、深度學習框架以及配置腳本等，基于該鏡像包技術人員只需要通過簡單的命令即可完成環境搭建，無需手動配置繁瑣的軟件和依賴，避免了因環境配置不當而導致的部署失敗問題。該鏡像包可在昇騰社區上拉取，部署不同版本的DeepSeek使用不同的鏡像包，具體的版本說明以及鏡像拉取指導可參考昇騰社區官方指導：https://www.hiascend.cn/developer/ascendhub/detail/af85b724a7e5469ebd7ea13c3439d48f?。

　　MindIE鏡像包預置了DeepSeek模型推理腳本，無需再額外下載模型適配代碼，直接新建容器即可。以下給出容器啟動的一個實例：

　　其中：path-to-weights為權重路徑，mindie:1.0.0-800I-A2-py311-openeuler24.03-lts為使用的鏡像，需要根據實際的權重路徑和使用的鏡像進行修改。

三 配置啟動MindIE

　　容器創建成功后，進入容器，需要對配置進行修改，要修改的配置文件為：/usr/local/Ascend/mindie/latest/mindie-service/conf/config.json。一般主要涉及修改的配置有：NPU DeviceIds參數表示啟用哪幾張卡，如配置[[0,1,2,3]]表示使用前4張卡，同時需要將WorldSize配置為4;modelWeightPath配置模型權重路徑;IP Address配置主節點的服務器IP地址;Port配置服務端口號。部署完成服務啟動后，如果出現模型回答顯示不全等問題，可以通過修改MindIE的配置參數進行調測，關于MindIE配置的更多信息請參考https://www.hiascend.com/document/detail/zh/mindie/100/mindieservice/servicedev/mindie_service0001.html。如果仍無法解決問題，可在昇騰社區論壇中求助。配置好MindIE服務參數后，即可執行以下命令拉起服務。

四 使用WebUI

　　在ChatBox、Open-WebUI軟件中配置API時，經常會遇到這樣那樣的問題，第一類是無法連接到MindIE服務。建議檢查這幾個方面：確認API域名和端口號正確無誤，且與MindIE服務配置的IP和端口一致;檢查操作系統防火墻設置，確保MindIE服務的端口已開放給ChatBox 、Open-WebUI軟件訪問;如遇網絡問題，嘗試重啟MindIE服務和ChatBox軟件，或檢查網絡連接狀態。第二類是選擇Model的時候遇到因為參數問題連接不上，這個時候可以通過請求開放的OpenAPI接口，例如：瀏覽器請求 http://192.168.0.1/v1/models可以獲取已經部署的模型列表，根據需要選擇所要接入的模型。

　　用戶交互方面，可以獨立開發一套前端問答界面接入DeepSeek的Api實現簡單問答頁面，為了便于擴展，建議還是選擇使用開源的MaxKB知識庫問答系統。

　　MaxKB支持一鍵部署，代碼在GitHub開源，它可以生成公共UI接口進行問答界面的展示。利用IFrame標簽將MaxKB生成的UI頁面嵌入到第三方應用程序中，支持配置嵌入白名單設置。

圖2 嵌入頁面展示

五 關于建立本地知識庫與Java編程接入

　　按照平臺格式要求進行知識庫信息的導入，支持Word、Excel等多種文件上傳，如下是知識庫實現效果。

圖3 建立本地知識庫

圖4 建立本地知識庫

　　如何實現在開發工具中直接接入OpenApi協助開發。我們可以在IDEA中添加插件，例如CodeGPT、Continue等許多開源插件，這里以Continue為例接入本地DeepSeek-R1模型，實現模型調用。

圖5 編程接入DeepSeek模型

　　在調用模型時，如果提示卡數不匹配或算子不支持。看看這幾個方面：確認調用的卡數與模型要求的卡數一致，遵循{1,2,4,8}的規則;檢查模型是否支持當前調用的算子，如需支持可嘗試升級MindIE版本或更換模型;如遇資源沖突問題，嘗試調整NPU資源的分配或使用其它空閑的卡進行模型調用。

　　在DeepSeek部署過程中，或許還會遇到一些其他問題，比如無法查看NPU的使用情況或信息不準確、無法停止模型或停止后服務仍占用資源等，這些我們都遇到過，也都有相應解決的辦法。當遇到問題時，可以在昇騰社區的論壇中搜索問題的解決方案，或者我們一起探索。

　　作者簡介

　　任皓，碩士研究生，解放軍總醫院信息科高級工程師，中國老年保健醫學研究會數據分析分會委員。主要研究領域：醫院網絡建設及規劃、網絡安全管理等相關工作。參與多項省部級課題研究，信息化建設方案編制，發表統計源核心期刊10余篇。2021年在“新華三杯”醫療新基建網絡技能大賽中獲得二等獎。