終端側生成式AI解決方案將查詢和推理轉移到PC和手機等邊緣終端,讓開發(fā)者和云服務提供商能夠打造更加經濟可靠,且隱私性更高的生成式AI。
(資料圖片)
高通和微軟確認達成合作關系,將面向消費級和企業(yè)級終端、以及工業(yè)設備,規(guī)?;瘮U展AI能力,為用戶帶來行業(yè)領先的AI體驗。
2023年5月23日,西雅圖——在Microsoft Build2023開發(fā)者大會期間,高通技術公司展示了公司最新的終端側AI創(chuàng)新,包括在驍龍®計算平臺上運行生成式AI,以及開發(fā)者在采用驍龍平臺的Windows11 PC上創(chuàng)建應用的新路徑。
高通技術公司產品管理高級副總裁ZiadAsghar表示:“為了讓生成式AI真正為更多人所接受和使用,許多推理工作需要在邊緣終端上處理。我們擁有行業(yè)領先的AI硬件和軟件,可以賦能開發(fā)者充分利用我們強大的AI能力,在搭載驍龍平臺的筆記本電腦、手機和其他終端上打造令人驚艷的全新用戶體驗?!?/p>
AI的未來既需要終端側AI,也需要云端AI。在終端側運行AI應用可提升成本效益、增強隱私性、個性化并降低時延。與僅在CPU或GPU上進行AI工作負載處理比較,驍龍平臺集成專用的高通AI引擎,處理AI工作負載可以更加高效,讓小巧輕薄的設備也能支持終端側AI。
在Microsoft Build期間,高通技術公司將帶來技術演示,并帶來能夠支持在下一代Windows11 PC上開發(fā)生成式AI的工具。StableDiffusion作為一款文本生成圖像的生成式AI模型,參數(shù)超過10億,目前已經能夠完全在終端側運行。高通技術公司表示,未來幾個月內,包括大語言模型(LLM)在內的參數(shù)高達100億的模型將有望在終端側運行。為了增強高通AI軟件棧并幫助開發(fā)者打造下一代終端側AI體驗,高通AI引擎DirectSDK將在Microsoft Build上首次面向公眾推出。借助ONNXRuntime和高通AI軟件棧,如今用戶在使用5G版SurfacePro 9和聯(lián)想ThinkPadx13s的時候就可以在其搭載的第三代驍龍8cx平臺上的AI引擎運行AI工作負載。
微軟Windows芯片和系統(tǒng)集成公司副總裁PavanDavuluri表示:“為了在廣泛的終端和應用領域擴展AI,云端和終端側處理缺一不可。通過將微軟在云端AI上的領先優(yōu)勢以及Windows平臺的能力與高通技術公司的終端側AI專長相結合,我們將加速由生成式AI體驗所帶來的發(fā)展機遇?!?/p>
高通技術公司還將在大會期間展示為驍龍平臺原生編譯熱門應用可帶來的顯著性能提升,并上線全新的開發(fā)者門戶網站,便于從統(tǒng)一的入口集中獲取驍龍本開發(fā)所需的關鍵工具、資源和支持。
小米 13 8GB+128GB 黑色
進入購買
關鍵詞:
關于我們 廣告服務 手機版 投訴文章:435 226 40@qq.com
Copyright (C) 1999-2020 www.w4vfr.cn 愛好者日報網 版權所有 聯(lián)系網站:435 226 40@qq.com