隨著人工智能、大模型等技術(shù)的蓬勃發(fā)展，生成式AI應(yīng)用全面爆發(fā)。在此背景下，服務(wù)機(jī)器人作為大模型技術(shù)在端側(cè)落地的關(guān)鍵場景，迎來了前所未有的發(fā)展機(jī)遇。
作為與用戶直接交互的智能設(shè)備，服務(wù)機(jī)器人需要應(yīng)對復(fù)雜場景下的感知、決策和控制任務(wù)，這對其實(shí)時數(shù)據(jù)處理的能力提出了嚴(yán)苛要求。通過在端側(cè)集成AI大模型，服務(wù)機(jī)器人能夠在本地進(jìn)行數(shù)據(jù)處理，顯著降低了數(shù)據(jù)延遲，提高了響應(yīng)速度，可為用戶提供更加流暢、智能、高效的服務(wù)體驗(yàn)。
移遠(yuǎn)通信作為全球領(lǐng)先的物聯(lián)網(wǎng)整體解決方案供應(yīng)商，在推動大模型技術(shù)的應(yīng)用方面不斷開拓，其端側(cè)大模型解決方案融合前沿的LLM（大語言模型）、RAG（檢索增強(qiáng)生成）與Agent（智能體）等業(yè)界主流技術(shù)，可助力實(shí)現(xiàn) “情景理解、知識融合、智能交互、自主決策、任務(wù)執(zhí)行”等多種功能，目前已在服務(wù)機(jī)器人等領(lǐng)域加速落地。
該方案基于移遠(yuǎn)邊緣計(jì)算智能模組SG885G-WF，搭載高通QCS8550平臺，具備高達(dá)48 TOPS的綜合算力，可為方案功能的實(shí)現(xiàn)提供充足的算力支持。在移遠(yuǎn)大模型解決方案的助力下，服務(wù)機(jī)器人可實(shí)現(xiàn)1s以內(nèi)的意圖識別，解碼速率超過15 tokens/s，為用戶帶來更自然的語音交互以及更加個性化的服務(wù)體驗(yàn)。
移遠(yuǎn)大模型解決方案可實(shí)現(xiàn)AI模型的端側(cè)部署，不僅提升了響應(yīng)的實(shí)時性，還確保了隱私安全，并能在無網(wǎng)環(huán)境下正常工作，大大降低了推理成本。憑借卓越的性能以及高靈活性、高安全性、高性價比等優(yōu)勢，該方案在服務(wù)機(jī)器人的多種形態(tài)中展現(xiàn)出了強(qiáng)大的應(yīng)用價值，可賦能多個實(shí)際場景的智能升級，例如：
醫(yī)療康養(yǎng)：大模型加持的機(jī)器人可以處理預(yù)約、咨詢等日常任務(wù)，減輕醫(yī)務(wù)人員的工作負(fù)擔(dān)。同時，還能為患者提供情感上的陪伴和支持，有助于緩解患者的焦慮和壓力；
智能客服：依托大模型的自然語言處理和理解能力，智能客服機(jī)器人能夠快速、準(zhǔn)確地理解用戶的問題和需求，高效處理各種咨詢、投訴和售后服務(wù)場景，顯著提升服務(wù)的效率和質(zhì)量；
接待導(dǎo)覽：深度融合大模型能力的接待機(jī)器人和導(dǎo)覽機(jī)器人，不僅能夠?qū)崿F(xiàn)智能迎賓、智能帶路、智能問答、遠(yuǎn)程操控等功能，還可根據(jù)用戶的興趣和需求，提供定制化的游覽路線和講解內(nèi)容，廣泛應(yīng)用于企業(yè)展廳、博物館、旅游景點(diǎn)、醫(yī)療機(jī)構(gòu)等場合；
零售導(dǎo)購：在大模型技術(shù)的加持下，零售導(dǎo)購機(jī)器人不僅能回答消費(fèi)者關(guān)于商品、價格、促銷活動等問題，還可根據(jù)用戶購物歷史和偏好分析，提供個性化的商品推薦和搭配建議，同時提供便捷的店內(nèi)導(dǎo)航服務(wù)，幫助客戶快速找到商品，讓購物變得更加輕松愉悅。
值得一提的是，移遠(yuǎn)通信大模型解決方案還具備全方位的工程化服務(wù)，能夠從感知、規(guī)劃、決策、執(zhí)行等階段，全面解決客戶項(xiàng)目中的各種工程化問題，如針對應(yīng)用場景對模型進(jìn)行微調(diào)、多個模型的合理調(diào)度等，使得大模型方案以更快速度、更低成本、更完善的服務(wù)體驗(yàn)應(yīng)用實(shí)踐。
當(dāng)前，大模型技術(shù)日新月異，移遠(yuǎn)大模型解決方案緊跟技術(shù)演進(jìn)以及模型迭代，成功集成了通義千問、DeepSeek等業(yè)界主流大模型，為服務(wù)機(jī)器人等產(chǎn)業(yè)的智能化發(fā)展注入了強(qiáng)勁動力。展望未來，移遠(yuǎn)將繼續(xù)攜手廣大合作伙伴，共同推動端側(cè)AI規(guī)模商用，為千行百業(yè)的智能化進(jìn)程貢獻(xiàn)更多價值。
