8月22日-24日,以“算網(wǎng)筑基 智引未來”為主題的2025中國(guó)算力大會(huì)在山西大同盛大舉行。浪潮云海作為云計(jì)算領(lǐng)域的領(lǐng)軍者,重磅發(fā)布浪潮云海AI云基礎(chǔ)設(shè)施平臺(tái)InCloud AIOS。該平臺(tái)以 “融合型AI底座”的精準(zhǔn)定位,一經(jīng)亮相便引發(fā)了行業(yè)的廣泛關(guān)注。
AI趨勢(shì)明晰,云成為AI最佳載體
當(dāng)下,人工智能技術(shù)在各行業(yè)加速滲透,建設(shè)趨勢(shì)愈發(fā)鮮明:在業(yè)務(wù)形態(tài)上,企業(yè)AI應(yīng)用正在從單模“助手”向多!爸悄芤妗鄙(jí);在資源布局上,AI基礎(chǔ)設(shè)施由正由傳統(tǒng)煙囪模式向云化模式轉(zhuǎn)變。而云憑借強(qiáng)大的算力調(diào)度能力、靈活的資源擴(kuò)展特性以及高效的協(xié)同管理優(yōu)勢(shì),成為承載 AI 的最佳載體。
以可演進(jìn)智能云為設(shè)計(jì)理念,直擊AI落地痛點(diǎn)
InCloud AIOS作為AI云基礎(chǔ)設(shè)施平臺(tái),是一款面向政企智能化轉(zhuǎn)型的 “融合型AI底座”,以“開放兼容、平滑演進(jìn)、簡(jiǎn)化運(yùn)維、極致性能”為核心,直擊客戶在AI落地中面臨的“AI建設(shè)成本高、異構(gòu)算力協(xié)同難、大模型運(yùn)維門檻高、性能與安全難平衡”等痛點(diǎn),為客戶提供的純軟或軟硬一體化AI私有化解決方案其設(shè)計(jì)理念為可演進(jìn)的私有云,縱向?qū)崿F(xiàn)各分層解耦,均支持可繼承、可演進(jìn);橫向則讓服務(wù)組件能根據(jù)需求靈活選配,致力于幫助企業(yè)以低成本、高效率接入AI能力,實(shí)現(xiàn)從傳統(tǒng)IT到智能IT的無縫銜接。
突破核心技術(shù) 助力企業(yè)AI 轉(zhuǎn)型
*云智共生,平滑演進(jìn):InCloud AIOS支持企業(yè)小成本開啟AI建設(shè),具備多芯多模的特點(diǎn),可靈活擴(kuò)展。“一云多算” 通過分層解耦與開放接口,兼容多種主流GPU,屏蔽底層算力差異,讓企業(yè)無需擔(dān)心硬件選型限制,實(shí)現(xiàn)多元異構(gòu)算力的統(tǒng)一管理與高效協(xié)同。傳統(tǒng)數(shù)據(jù)中心無需改造,在保證推理精度和性能前提下,降低大模型起步成本,擴(kuò)展單GPU節(jié)點(diǎn)即可使用DeepSeek滿血大模型。
*AI first,運(yùn)維先行:提供GPU、大模型、智能體統(tǒng)一運(yùn)維,實(shí)現(xiàn)多架構(gòu)GPU混合部署,模型業(yè)務(wù)跨架構(gòu)無感知調(diào)度,智能體像運(yùn)維虛擬機(jī)一樣簡(jiǎn)單。統(tǒng)一門戶可視化運(yùn)維,確保算力用好、管好、可持續(xù),讓每一份算力物盡其用。對(duì)大模型對(duì)話內(nèi)容進(jìn)行實(shí)時(shí)監(jiān)測(cè)與審核,實(shí)現(xiàn)對(duì)話內(nèi)容合法合規(guī),保障在各類場(chǎng)景中安全可靠的運(yùn)用。
*軟硬協(xié)同,極致性能:基于自研AI引擎,與GPU廠商深度合作,全面加速推理性能,通過使用KV專用分布式存儲(chǔ)、KV壓縮、KVCache感知路由、RadixTree檢索優(yōu)化等多種技術(shù)優(yōu)化手段,,長(zhǎng)文本推理 KVCache 命中率提升13倍;通過DirectStorage技術(shù),模型直接從磁盤到顯存加載,繞過CPU中轉(zhuǎn),加載速度提升30倍;自研InLLM推理框架通過PD分離與動(dòng)態(tài)流量調(diào)度,模型吞吐提升6倍;模型自動(dòng)化彈性伸縮,高并發(fā)下自動(dòng)調(diào)度效率提升26倍,讓算力 “算盡其能”。
云圖計(jì)劃再度升級(jí)
InCloud AIOS 浪潮云海 AI 云基礎(chǔ)設(shè)施平臺(tái),為行業(yè)提供20+開箱即用的AI智能體。目前,平臺(tái)已在多個(gè)領(lǐng)域成功應(yīng)用。某大型科技公司用其承載辦公、財(cái)務(wù)等系統(tǒng),提升了數(shù)字化水平和效率;某頭部征信公司借助它增強(qiáng)了業(yè)務(wù)處理敏捷性和數(shù)字資產(chǎn)價(jià)值挖掘能力;某國(guó)際保險(xiǎn)公司依靠它支撐全流程數(shù)字化運(yùn)營(yíng),滿足業(yè)務(wù)發(fā)展需求。
本次大會(huì),浪潮云海宣布云圖生態(tài)產(chǎn)業(yè)聯(lián)盟將再上新臺(tái)階,成立云上智能體聯(lián)合計(jì)劃,計(jì)劃發(fā)展100+智能體應(yīng)用伙伴,產(chǎn)業(yè)鏈上下游協(xié)同配合,打造標(biāo)準(zhǔn)、垂直一體化方案,為行業(yè)發(fā)展注入新動(dòng)力。
浪潮云海 AI 云基礎(chǔ)設(shè)施平臺(tái)InCloud AIOS的發(fā)布,為政企智能化轉(zhuǎn)型提供了強(qiáng)有力的支撐,助力突破 AI 落地瓶頸,為算力產(chǎn)業(yè)發(fā)展增添新活力,推動(dòng)其邁向更高質(zhì)量發(fā)展階段。