華為:AI推理創(chuàng)新技術(shù)UCM將于今年9月正式開源

新浪科技訊 8月12日晚間消息,推理在2025金融AI推理應(yīng)用落地與發(fā)展論壇上,創(chuàng)新中國銀聯(lián)執(zhí)行副總裁涂曉軍、技術(shù)華為數(shù)字金融軍團(tuán)CEO曹沖出席并發(fā)表致辭。于今論壇上,年月華為公司副總裁、正式數(shù)據(jù)存儲產(chǎn)品線總裁周躍峰發(fā)布AI推理創(chuàng)新技術(shù)——UCM推理記憶數(shù)據(jù)管理器,開源旨在推動AI推理體驗升級,推理提升推理性價比,創(chuàng)新加速AI商業(yè)正循環(huán)。技術(shù)同時,于今華為攜手中國銀聯(lián)率先在金融典型場景開展UCM技術(shù)試點(diǎn)應(yīng)用,年月并聯(lián)合發(fā)布智慧金融AI推理加速方案應(yīng)用成果。正式
周躍峰在論壇上強(qiáng)調(diào):“AI時代,開源模型訓(xùn)練、推理推理效率與體驗的量綱都以Token數(shù)為表征,Token經(jīng)濟(jì)已經(jīng)到來”。為保障流暢的推理體驗,企業(yè)需持續(xù)加大算力投入,但如何在推理效率與成本之間找到最佳平衡點(diǎn),成為了全行業(yè)亟待解決的重要課題。
為此,華為推出UCM推理記憶數(shù)據(jù)管理器,包括對接不同引擎與算力的推理引擎插件(Connector)、支持多級KV Cache管理及加速算法的功能庫(Accelerator)、高性能KV Cache存取適配器(Adapter)三大組件,通過推理框架、算力、存儲三層協(xié)同,實現(xiàn)AI推理“更優(yōu)體驗、更低成本”。
在與中國銀聯(lián)的聯(lián)合創(chuàng)新技術(shù)試點(diǎn)中,UCM的技術(shù)價值得到驗證。在中國銀聯(lián)“客戶之聲”業(yè)務(wù)場景下,借助UCM技術(shù)及工程化手段,大模型推理速度提升125倍,僅需10秒即可精準(zhǔn)識別客戶高頻問題,促進(jìn)服務(wù)質(zhì)量提升。未來,中國銀聯(lián)將依托國家人工智能應(yīng)用中試基地,聯(lián)合華為等生態(tài)伙伴共建“AI+金融”示范應(yīng)用,推動技術(shù)成果從“實驗室驗證”走向“規(guī)?;瘧?yīng)用”。
論壇現(xiàn)場,華為正式公布了UCM開源計劃。UCM通過開放統(tǒng)一的南北向接口,可適配多類型推理引擎框架、算力及存儲系統(tǒng)。今年9月,UCM將正式開源,后續(xù)逐步貢獻(xiàn)給業(yè)界主流推理引擎社區(qū),攜手全產(chǎn)業(yè)共同推動AI推理生態(tài)的繁榮發(fā)展。
海量資訊、精準(zhǔn)解讀,盡在新浪財經(jīng)APP 責(zé)任編輯:何俊熹
相關(guān)文章
- 種種跡象表明,美國真要動手了。對委內(nèi)瑞拉馬杜羅政權(quán)動手。頭條新聞,必須特朗普先發(fā)推宣布,這是現(xiàn)在美國政壇的慣例,也是國際新聞界的常識。11月29日,特朗普在自己“真實社交”平臺突然發(fā)文:“致所有航空公2025-12-01

臺州頂龍出征!兩隊將為城市榮譽(yù)而戰(zhàn),期待精彩對決!
在這個激情四溢的夏季,臺州市的籃球愛好者們無不期待著一場盛大的籃球盛宴。8月13日,隨著“浙BA,臺州頂龍”的吶喊響徹體育館,臺州市為即將出征2025“浙BA”城市爭霸賽的兩支勁旅——臺州隊與臺州灣新2025-12-01
穆斯卡特:海港新戰(zhàn)術(shù)初見成效?能否主場擊退河南隊?
上海海港與河南隊的對決,無疑是中超聯(lián)賽第21輪的一場焦點(diǎn)戰(zhàn)役。 8月14日,上海海港主教練穆斯卡特出席了賽前新聞發(fā)布會,為這場即將到來的對決預(yù)熱。 雙方歷史交鋒戰(zhàn)績、近期球隊狀態(tài),都讓這場比賽充滿了看2025-12-01
熱愛可抵歲月漫長!校園女足“榮耀與傳承”的2025女乙征程!
markdown2025女乙聯(lián)賽烽煙再起:校園足球的“傳承”與“熱愛”2025年8月,全國女子足球乙級聯(lián)賽的戰(zhàn)火再度燃起。當(dāng)許多職業(yè)球隊為了晉級、為了榮譽(yù)拼搏時,一支來自濟(jì)南歷城二中的校園女足隊伍,卻2025-12-01委內(nèi)瑞拉領(lǐng)空“被關(guān)閉”,是威脅還是戰(zhàn)事一觸即發(fā)?
當(dāng)?shù)貢r間11月29日,美國總統(tǒng)特朗普在社交媒體發(fā)文稱,委內(nèi)瑞拉上空及周邊空域“被視為全面關(guān)閉”。委內(nèi)瑞拉政府就此發(fā)表公報,強(qiáng)烈譴責(zé)美國政府威脅其領(lǐng)空主權(quán)的行徑,稱此舉是“殖民主義威脅”和“非法侵略”。2025-12-01
在德甲聯(lián)賽的舞臺上,轉(zhuǎn)折與機(jī)遇總是相伴而生。8月14日,勒沃庫森官方宣布安德里希成為新任隊長。這位30歲的中場球員將肩負(fù)起更重的責(zé)任,帶領(lǐng)球隊迎接新的挑戰(zhàn)。安德里希自2021年夏窗加盟勒沃庫森,至今已2025-12-01

最新評論