不久前，杭州電子科技大學在讀博士生王超創(chuàng)立的曠維炬銳有限公司成功獲得千萬級天使融資。投資方十分看好這家2022年成立的高科技公司在端側(cè)AI領域的巨大潛力。

“2024年，我們憑借‘曠維炬銳——行業(yè)領先的端側(cè) AI 開發(fā)平臺與解決方案供應商’項目，斬獲中國國際大學生創(chuàng)新大賽高教主賽道金獎。沒想到這么快，部分設想就變成了現(xiàn)實。DeepSeek 等大模型的興起，加速了人工智能時代的到來，這對我們創(chuàng)業(yè)者而言，是最大的利好。”“95后”小伙王超感慨道。

據(jù)了解，王超從本科時期就專注于AI與硬件的協(xié)同優(yōu)化，其博士課題“面向邊緣計算的輕量化 AI 模型部署”直擊行業(yè)痛點，為他的創(chuàng)業(yè)之路奠定了堅實的理論基礎。

王超創(chuàng)立的曠維炬銳團隊，致力于攻克AI在終端設備高效部署的難題。傳統(tǒng)云端大模型依賴高算力服務器，不僅延遲高，還存在較大的隱私風險。端側(cè)AI將模型部署在本地設備，實現(xiàn)實時響應的同時，保障了數(shù)據(jù)安全。但在算力受限的終端設備，如手機、IoT 設備上運行復雜模型，一直是行業(yè)難以突破的瓶頸。王超形象地比喻：“端側(cè)場景下的算力容易受重量、能耗等因素制約，就像機器狗不可能扛著服務器運行。”

曠維炬銳團隊依托華為等國產(chǎn)解決方案，深度參與昇騰 AI 應用創(chuàng)新與開發(fā)者生態(tài)，為解決上述難題提供了核心方案。華為AI生態(tài)旨在打造“全棧全場景”解決方案，曠維炬銳的端側(cè)技術(shù)正好完善了生態(tài)鏈的關(guān)鍵環(huán)節(jié)。2024年，王超團隊正式加入華為昇騰萬里伙伴計劃，其開發(fā)平臺被納入華為ISV伙伴體系，助力開發(fā)者快速將大模型適配到端側(cè)設備。

王超和團隊致力于打造數(shù)量眾多的“中國產(chǎn)算力適配”體系，推動國產(chǎn)算力替代國外算力。當下，國產(chǎn)化算力解決方案是必然趨勢，目前多數(shù)國產(chǎn)算力已能在其團隊平臺上逐步替代國外算力。

在邊緣計算領域，曠維炬銳成果顯著。在智慧農(nóng)業(yè)方面，團隊依托曠樞平臺和適配的華為昇騰 Atlas 200系列設備，研發(fā)出基于光譜和視覺的多模態(tài)非接觸草莓分級方案。草莓集散中心的操作人員借助平臺提供的零代碼數(shù)據(jù)標注和一站式訓練工具鏈，基于 MindSpore 框架訓練多模態(tài)模型，將草莓四類綜合分級準確率提升至95.8%。昇騰的高性能邊緣計算能力，將單果分析速度控制在30毫秒以內(nèi)，實現(xiàn)本地實時精準分析，日均分揀數(shù)量提升到8萬果，人工分揀成本降低70%以上。該系統(tǒng)已在建德某草莓園試運行。

在產(chǎn)線質(zhì)檢領域，曠維炬銳構(gòu)建了大小模型協(xié)同的可自演進質(zhì)檢系統(tǒng)。通過在曠樞平臺私有化部署 Qwen2.5-VL 多模態(tài)大模型，對 52類零件的缺陷進行自動分析和標注，并利用標注后的缺陷圖像構(gòu)建增量訓練數(shù)據(jù)集，實現(xiàn)視覺質(zhì)檢精度的自我迭代和新零件的自動適配。“大模型小模型協(xié)同，端側(cè)AI發(fā)力，生產(chǎn)端質(zhì)檢的安全性、精確性、迅速響應性，都有了大幅度提升。”王超表示。

此外，王超團隊還與校友企業(yè)謙貞數(shù)科合作，建設了融合大語言模型的全鏈路企業(yè)數(shù)字化服務平臺。通過 20萬條產(chǎn)業(yè)政策語料微調(diào)訓練和大模型私有化部署，政策解讀準確率達 92%。該平臺支持混合推理，可處理復雜問題，實現(xiàn)全棧國產(chǎn)化適配，目前一期平臺已上線。

“我們希望借助 AI 模型推動各行業(yè)數(shù)智化轉(zhuǎn)型，降低企業(yè) AI 接入和開發(fā)成本。以端側(cè) AI 為切入點，推動國產(chǎn)算力替代，構(gòu)建國產(chǎn)人工智能生態(tài)，雖然任重道遠，但我們有信心做到。”王超堅定地說。