微云全息（NASDAQ: HOLO）解鎖 LLMs 安全計(jì)算密碼：TDX 賦能 DeepSeek 模型高效部署

在數(shù)字化浪潮奔涌的當(dāng)下，云環(huán)境已成為技術(shù)創(chuàng)新與應(yīng)用拓展的關(guān)鍵陣地。大型語言模型（LLMs）憑借其強(qiáng)大的語言理解與生成能力，在云環(huán)境中得到了越來越廣泛的應(yīng)用，從智能客服的高效交互到內(nèi)容創(chuàng)作的智能輔助，從智能翻譯的精準(zhǔn)輸出到數(shù)據(jù)分析的智能洞察，LLMs 正深刻改變著各行各業(yè)的運(yùn)營模式與服務(wù)體驗(yàn)。然而，隨著 LLMs 應(yīng)用的深度與廣度不斷拓展，一系列嚴(yán)峻的安全問題也隨之浮出水面，尤其是模型機(jī)密性和數(shù)據(jù)隱私方面的隱患，如同一把高懸的達(dá)摩克利斯之劍，給行業(yè)的健康發(fā)展帶來了巨大挑戰(zhàn)。

現(xiàn)有基于 CPU 的 TEE 實(shí)現(xiàn)，在面對(duì) LLMs 推理和訓(xùn)練時(shí)卻顯得力不從心。LLMs 的推理和訓(xùn)練過程涉及海量數(shù)據(jù)的處理與復(fù)雜運(yùn)算，對(duì)計(jì)算資源的需求呈指數(shù)級(jí)增長。傳統(tǒng)基于 CPU 的 TEE，由于其計(jì)算能力的局限，難以滿足如此高強(qiáng)度的資源需求，在處理速度和效率上無法達(dá)到理想狀態(tài)，這在一定程度上限制了 LLMs 在安全環(huán)境下的廣泛應(yīng)用與進(jìn)一步發(fā)展。

面對(duì)這一困境，微云全息（NASDAQ: HOLO）憑借其敏銳的技術(shù)洞察力與勇于探索的創(chuàng)新精神，開展了一項(xiàng)具有開創(chuàng)性的研究工作。首次在支持 TEE 的機(jī)密計(jì)算環(huán)境中對(duì) DeepSeek 模型進(jìn)行全面評(píng)估，特別引入了 Intel Trust Domain Extensions（TDX）技術(shù)，為解決問題開辟了新的路徑。

在研究過程中，微云全息對(duì) DeepSeek 模型在純 CPU、CPU - GPU 混合和基于 TEE 的不同實(shí)現(xiàn)方式下的性能，展開了嚴(yán)謹(jǐn)且全面的基準(zhǔn)測試。測試結(jié)果令人振奮：對(duì)于較小的參數(shù)集，如 DeepSeek - R1 - 1.5B，基于 TDX 的實(shí)現(xiàn)在安全環(huán)境中執(zhí)行計(jì)算時(shí)，性能表現(xiàn)顯著優(yōu)于傳統(tǒng)的 CPU 版本。這一發(fā)現(xiàn)意義非凡，它充分證明了即使在資源受限的系統(tǒng)中，借助 TDX 技術(shù)，依然能夠在保障數(shù)據(jù)安全與模型機(jī)密性的同時(shí)，高效地部署 LLM 模型，為那些對(duì)安全性要求極高且資源有限的應(yīng)用場景帶來了新的希望。

通過進(jìn)一步深入分析不同模型大小下的性能數(shù)據(jù)，微云全息發(fā)現(xiàn) GPU 與 CPU 的整體性能比平均達(dá)到 12，并且較小的模型呈現(xiàn)出相對(duì)較低的比率。這一精準(zhǔn)的數(shù)據(jù)為優(yōu)化計(jì)算資源的配置提供了關(guān)鍵依據(jù)，有助于開發(fā)者在實(shí)際應(yīng)用中，根據(jù)不同模型的特點(diǎn)，更加科學(xué)合理地分配 CPU 和 GPU 資源，從而顯著提升計(jì)算效率，降低計(jì)算成本。

此外，微云全息的研究并不僅限于性能測試，還深入到優(yōu)化 CPU - GPU 機(jī)密計(jì)算解決方案的層面，為實(shí)現(xiàn)可擴(kuò)展和安全的 AI 部署提供了寶貴的基礎(chǔ)見解和指導(dǎo)。這些見解和指導(dǎo)涵蓋了從硬件資源的巧妙搭配，到軟 件算法的精細(xì)優(yōu)化，再到系統(tǒng)架構(gòu)的合理設(shè)計(jì)等多個(gè)關(guān)鍵方面，為構(gòu)建高效、安全且可擴(kuò)展的 AI 計(jì)算環(huán)境提供了一套全面且系統(tǒng)的思路。

微云全息（NASDAQ: HOLO）通過在機(jī)密計(jì)算環(huán)境中對(duì) DeepSeek 模型的深入研究與實(shí)踐，為在同樣環(huán)境下進(jìn)行高效和安全的 LLMs 推理奠定了堅(jiān)實(shí)基礎(chǔ)。未來，有望在更多領(lǐng)域?qū)崿F(xiàn)安全與效率并重的 AI 部署，助力各行業(yè)在嚴(yán)守?cái)?shù)據(jù)隱私和模型機(jī)密的前提下，充分釋放 LLMs 的巨大潛力，推動(dòng)行業(yè)向智能化、安全化的方向加速邁進(jìn)。