首頁|必讀|視頻|專訪|運營|制造|監(jiān)管|芯片|物聯(lián)網(wǎng)|量子|低空經(jīng)濟|智能汽車|特約記者
手機|互聯(lián)網(wǎng)|IT|5G|光通信|人工智能|云計算|大數(shù)據(jù)|報告|智慧城市|移動互聯(lián)網(wǎng)|會展
首頁 >> 新聞速遞 >> 正文

中國信通院標準所聯(lián)合發(fā)布《基于智能IP廣域網(wǎng)(AI WAN)的存算分離與云邊協(xié)同訓(xùn)推技術(shù)研究報告(2025年)》

2025年9月25日 16:14  CCTIME飛象網(wǎng)  

智能時代加速到來,企業(yè)模型訓(xùn)練、推理算力需求爆炸式增長。對于企業(yè)來說,采用第三方云上智算資源是降低資本支出的最佳選擇,但在數(shù)據(jù)入算、模型微調(diào)、推理輸出等過程中可能面臨數(shù)據(jù)、模型泄漏的問題。對于企業(yè)和行業(yè)用戶來說,一方面要降低算力成本,同時又要保障訓(xùn)練、推理過程中的數(shù)據(jù)安全、用算安全。在此背景下,開展基于智能IP廣域網(wǎng)(AI WAN)的存算分離與云邊協(xié)同訓(xùn)推技術(shù)研究具有重要意義。

2025年9月24日,中國信息通信研究院(簡稱“中國信通院”)技術(shù)與標準研究所聯(lián)合華為技術(shù)有限公司在“2025中國國際信息通信展覽會”的新質(zhì)互聯(lián)網(wǎng)-AI WAN產(chǎn)業(yè)研討會上發(fā)布了《基于智能IP廣域網(wǎng)(AI WAN)的存算分離與云邊協(xié)同訓(xùn)推技術(shù)研究報告(2025年)》,中國信通院技術(shù)與標準研究所互聯(lián)網(wǎng)中心主任高巍對報告進行了深入解讀。

報告研究面向政企模型微調(diào)訓(xùn)練、推理等業(yè)務(wù)場景,圍繞企業(yè)安全用算需求,基于智能IP廣域網(wǎng)(AI WAN)研究并提出了存算分離與云邊協(xié)同訓(xùn)推技術(shù)方案,滿足企業(yè)原始數(shù)據(jù)不出域、安全租用云端算力、降低企業(yè)用算成本的需求。在存算分離模型微調(diào)訓(xùn)練場景下,針對企業(yè)敏感數(shù)據(jù)園區(qū)外“不落盤”需求,可保障拉遠100KM、400KM達到97%以上高算效。在云邊協(xié)同推理場景下,可實現(xiàn)推理性能95%以上高算效,滿足企業(yè)推理數(shù)據(jù)不出域的安全推理訴求。

報告主要內(nèi)容

1. 分析大模型微調(diào)訓(xùn)推場景面臨的挑戰(zhàn)。當前企業(yè)在AI模型微調(diào)訓(xùn)練、推理等場景中面臨安全和成本兩重挑戰(zhàn)。在企業(yè)訓(xùn)推過程中,一方面明確數(shù)據(jù)需在原始產(chǎn)生域內(nèi)處理,以規(guī)避跨域流動中網(wǎng)絡(luò)攻擊、惡意篡改等安全威脅。另一方面若企業(yè)自行搭建、維護算力資源,成本壓力過大;若轉(zhuǎn)向網(wǎng)絡(luò)租賃,又會因計算效率明顯降低,間接導(dǎo)致用算成本增加。

2. 提出基于智能IP廣域網(wǎng)(AI WAN)的存算分離與云邊協(xié)同訓(xùn)推技術(shù)方案。存算分離與云邊協(xié)同訓(xùn)推技術(shù)方案在存算分離模型微調(diào)訓(xùn)練與云邊協(xié)同推理兩大場景中,分別從資源調(diào)度、數(shù)據(jù)安全管理、算力分配等維度提供針對性技術(shù)方案,兼顧用算安全與成本,幫助破解行業(yè)痛點問題,為突破AI應(yīng)用瓶頸提供了核心支撐。支撐存算分離與云邊協(xié)同訓(xùn)推技術(shù)方案的核心技術(shù)包括模型拆分學(xué)習(xí)技術(shù)、精準流控技術(shù)和自動流級調(diào)度技術(shù)。

                                                                                                                                                    來源:中國信通院

3. 深度總結(jié)存算分離與云邊協(xié)同訓(xùn)推的三大核心技術(shù)。模型拆分學(xué)習(xí)技術(shù)通過將模型與數(shù)據(jù)按安全等級、處理需求拆分部署,從根源上避免了原始數(shù)據(jù)泄露的風(fēng)險。同時,解決算力獲取、數(shù)據(jù)保護與成本控制的矛盾。精準流控技術(shù)與SRv6切片功能結(jié)合,通過整網(wǎng)路徑部署對應(yīng)的切片,在滿足不同業(yè)務(wù)對網(wǎng)絡(luò)帶寬、時延、抖動等差異化SLA需求的情況下實現(xiàn)逐級反壓。從而保障企業(yè)用算的算效穩(wěn)定性,降低企業(yè)用算成本。自動流級調(diào)度技術(shù)通過控制器納管智能IP廣域網(wǎng)設(shè)備,基于優(yōu)化算法以網(wǎng)絡(luò)帶寬利用率最大為目標進行路徑規(guī)劃,實現(xiàn)網(wǎng)絡(luò)運力最大化,進一步為企業(yè)用算提高效率,可有效降低企業(yè)用算成本。

4. 關(guān)鍵技術(shù)典型場景實驗驗證。在實驗室針對大模型存算分離、云邊協(xié)同訓(xùn)推、訓(xùn)推安全等方面進行了系統(tǒng)性研究與多輪次驗證。實驗數(shù)據(jù)有效驗證了模型拆分學(xué)習(xí)技術(shù)的安全性,同時驗證了精準流控技術(shù)與自動流級調(diào)度技術(shù)對智能IP廣域網(wǎng)絡(luò)的無損與算效保障,在LLAMA2-13B、Qwen2.5vl-32B、CV類模型RESNET、DeepSeek等大模型100KM和400KM存算拉遠場景下,算效劣化低于3%,Qwen 32B模型在200KM云邊協(xié)同推理場景下,劣化不超過5%。

報告目錄

一、概述

(一)背景

(二)AI大模型訓(xùn)練與推理技術(shù)應(yīng)用

二、大模型微調(diào)訓(xùn)推場景面臨的挑戰(zhàn)

三、基于智能IP廣域網(wǎng)(AI WAN)的存算分離與云邊協(xié)同訓(xùn)推技術(shù)方案

(一)方案總體架構(gòu)

(二)模型拆分學(xué)習(xí)技術(shù)

(三)精準流控技術(shù)

(四)自動流級調(diào)度技術(shù)

四、關(guān)鍵技術(shù)典型場景實驗

(一)存算分離拉遠算效

(二)云邊協(xié)同推理安全性

(三)云邊協(xié)同算力資源配置優(yōu)化

五、總結(jié)展望

主要專家簡介

中國信通院技術(shù)與標準研究所互聯(lián)網(wǎng)中心主任,高級工程師

高巍

中國通信標準化協(xié)會TC3WG3組長,網(wǎng)絡(luò)5.0技術(shù)和產(chǎn)業(yè)創(chuàng)新聯(lián)盟秘書長。長期從事數(shù)據(jù)通信、云計算、工業(yè)互聯(lián)網(wǎng)等領(lǐng)域的研究,負責2項國家標準和20余項行業(yè)標準的制訂,在國內(nèi)外公開發(fā)表論文20余篇,參編專著1部,獲得專利授權(quán)3項。

中國信通院技術(shù)與標準研究所工程師

陳云柯

長期從事數(shù)據(jù)通信、智算廣域網(wǎng)等領(lǐng)域研究工作,負責1項國家標準和4項行業(yè)標準的制訂,在國內(nèi)外公開發(fā)表論文6篇,獲得國家發(fā)明專利4項。

版權(quán)聲明:本報告版權(quán)屬于中國信息通信研究院、華為技術(shù)有限公司,并受法律保護。轉(zhuǎn)載、摘編或利用其它方式使用本報告文字或者觀點的,應(yīng)注明“來源:中國信息通信研究院、華為技術(shù)有限公司”。

編 輯:孫秀杰
飛象網(wǎng)版權(quán)及免責聲明:
1.本網(wǎng)刊載內(nèi)容,凡注明來源為“飛象網(wǎng)”和“飛象原創(chuàng)”皆屬飛象網(wǎng)版權(quán)所有,未經(jīng)允許禁止轉(zhuǎn)載、摘編及鏡像,違者必究。對于經(jīng)過授權(quán)可以轉(zhuǎn)載,請必須保持轉(zhuǎn)載文章、圖像、音視頻的完整性,并完整標注作者信息和飛象網(wǎng)來源。
2.凡注明“來源:XXXX”的作品,均轉(zhuǎn)載自其它媒體,在于傳播更多行業(yè)信息,并不代表本網(wǎng)贊同其觀點和對其真實性負責。
3.如因作品內(nèi)容、版權(quán)和其它問題,請在相關(guān)作品刊發(fā)之日起30日內(nèi)與本網(wǎng)聯(lián)系,我們將第一時間予以處理。
本站聯(lián)系電話為86-010-87765777,郵件后綴為cctime.com,冒充本站員工以任何其他聯(lián)系方式,進行的“內(nèi)容核實”、“商務(wù)聯(lián)系”等行為,均不能代表本站。本站擁有對此聲明的最終解釋權(quán)。
推薦新聞              
 
人物
中國移動黃宇紅:量通智融合創(chuàng)新的探索、實踐與思考
精彩視頻
你少做,它多做,在2025驍龍峰會 中國站找尋下一場終端變革的神秘元素
中國信科集團精彩亮相2025通信展丨空天地一體,全域智聯(lián)未來
中國信科集團精彩亮相2025通信展丨全棧算力解決方案支撐多行業(yè)智能化轉(zhuǎn)型
中國信科集團精彩亮相2025通信展丨C-V2X“智“新方案 助力智能交通升級
精彩專題
2025中國國際信息通信展覽會
中國信科精彩亮相2025中國國際信息通信展
第26屆中國國際光電博覽會
2025中國算力大會
關(guān)于我們 | 廣告報價 | 聯(lián)系我們 | 隱私聲明 | 本站地圖
CCTIME飛象網(wǎng) CopyRight © 2007-2025 By CCTIME.COM
京ICP備08004280號-1  電信與信息服務(wù)業(yè)務(wù)經(jīng)營許可證080234號 京公網(wǎng)安備110105000771號
公司名稱: 北京飛象互動文化傳媒有限公司
未經(jīng)書面許可,禁止轉(zhuǎn)載、摘編、復(fù)制、鏡像