中關(guān)村在線消息,在OpenVINO工具套件發(fā)布五周年之際,英特爾開展OpenVINO DevCon中國系列工作坊2023活動(dòng),旨在通過每月一次的工作坊,持續(xù)助力開發(fā)者系統(tǒng)學(xué)習(xí)、穩(wěn)步提升?;诖耍⑻貭柍晒εe辦了首期以“煥然五周年·瞰見新特性”為主題的OpenVINO DevCon 2023系列活動(dòng),并在此次活動(dòng)上發(fā)布了功能更加強(qiáng)大的全新英特爾OpenVINO 2023.0版本,以期在更大程度上幫助AI 開發(fā)者簡(jiǎn)化工作流程,提升部署效率。
(資料圖片僅供參考)
英特爾中國區(qū)網(wǎng)絡(luò)與邊緣事業(yè)部首席技術(shù)官、英特爾高級(jí)首席AI工程師張宇博士表示:“AI技術(shù)的每一次創(chuàng)新突破都會(huì)為開發(fā)者帶來全新機(jī)遇與挑戰(zhàn)。在AIGC的浪潮中,英特爾持續(xù)為開發(fā)者賦能,通過打造和迭代以O(shè)penVINO工具套件為代表的創(chuàng)新產(chǎn)品,化解各種AI應(yīng)用場(chǎng)景下的開發(fā)難題,優(yōu)化開發(fā)體驗(yàn),充分釋放開發(fā)者的創(chuàng)新活力?!?/p>
作為一款深度學(xué)習(xí)推理工具,OpenVINO已幫助數(shù)十萬開發(fā)者大幅提升了AI推理性能,使其僅憑借幾行代碼即可實(shí)現(xiàn)高性能“一次編寫,任意部署”,并自動(dòng)為開發(fā)者選擇最佳硬件配置,提升開發(fā)效率。由于OpenVINO能夠使訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)模型在不同硬件平臺(tái)上進(jìn)行高效且準(zhǔn)確的推理,這項(xiàng)技術(shù)已被廣泛應(yīng)用于教育、零售、醫(yī)療和工業(yè)等各個(gè)領(lǐng)域,為行業(yè)客戶提供了高效的深度學(xué)習(xí)推理技術(shù),帶來了巨大價(jià)值。例如,在試卷批改場(chǎng)景中,學(xué)生和老師在鋪有點(diǎn)碼試卷上書寫的筆跡可通過智慧筆進(jìn)行實(shí)時(shí)搜集,隨后分別被上傳到云端服務(wù)器上。云端渲染服務(wù)器會(huì)將筆跡渲染成圖像,并進(jìn)一步通過目標(biāo)檢測(cè)模型和OCR模型檢測(cè)識(shí)別,將書寫內(nèi)容轉(zhuǎn)換為文本,最后將識(shí)別結(jié)果與題庫進(jìn)行綜合整理,生成作業(yè)報(bào)告。老師可以基于作業(yè)報(bào)告,針對(duì)學(xué)生進(jìn)行個(gè)性化教學(xué)。在此過程中,通過OpenVINO精度感知而量化出的模型推理速度相比于浮點(diǎn)模型有十幾倍的提升,且量化模型的召回率和準(zhǔn)確率與浮點(diǎn)模型相當(dāng),在滿足精度要求的情況下,達(dá)到了推理實(shí)時(shí)性的要求。
自2018 年首發(fā)OpenVINO工具套件以來,英特爾密切關(guān)注市場(chǎng)需求,著眼未來發(fā)展趨勢(shì),持續(xù)迭代更新,將其對(duì)模型的支持從計(jì)算機(jī)視覺擴(kuò)展到自然語言處理,不斷賦予其更高性能,使其更加易用、更加靈活、更加開放和更加全面。英特爾基于此次活動(dòng)發(fā)布的OpenVINO 2023.0 版本在以往的基礎(chǔ)上,新增了以下優(yōu)勢(shì):
更多的集成, 最大限度減少代碼變更:OpenVINO 2023.0使從訓(xùn)練模型轉(zhuǎn)移到部署的過程變得更加輕松。在優(yōu)化模型時(shí),開發(fā)者無需離線轉(zhuǎn)換TensorFlow模型,而是可以自動(dòng)進(jìn)行。開發(fā)者可采用標(biāo)準(zhǔn)的TensorFlow模型,并將其直接加載到OpenVINO™ Runtime或OpenVINO™ Model Server中。當(dāng)需要最大性能時(shí),仍然鼓勵(lì)離線轉(zhuǎn)換為OpenVINO™格式。
更廣泛的模型支持:OpenVINO 2023.0具備更廣泛的生成式AI模型(CLIP BLIP、Stable Diffusion 2.0等)、文本處理模型(GPT、Transformer模型等)及其他關(guān)鍵模型(Detectron2、PaddleSlim、RNN-T等)的支持。開發(fā)者在利用GPU(CPU于2022年啟用)時(shí)不再需要更改為靜態(tài)輸入,這使其在編碼方面具有更大靈活性。與此同時(shí),神經(jīng)網(wǎng)絡(luò)壓縮框架(NNCF)成為量化工具的一種選擇。通過壓縮模型中的數(shù)據(jù),可以更輕松地實(shí)現(xiàn)大幅模型性能改進(jìn)。
出色的可移植性和性能:CPU設(shè)備插件現(xiàn)在在英特爾第12代酷睿處理器及以上版本上提供線程調(diào)度,開發(fā)者可根據(jù)應(yīng)用程序的優(yōu)先級(jí)選擇在E核、P核或兩者上運(yùn)行推理,根據(jù)需要優(yōu)化性能或節(jié)能。此外,無論開發(fā)者使用哪種插件,OpenVINO都將默認(rèn)提供最佳性能格式。同時(shí),OpenVINO 2023.0還通過更高效的模型加載/編譯改進(jìn)了GPU上的模型緩存。
除了針對(duì)OpenVINO的持續(xù)更新迭代,英特爾還于近期發(fā)布了“英特爾Developer Cloud for the Edge”平臺(tái)公眾測(cè)試版。該平臺(tái)可滿足開發(fā)者訪問英特爾最新架構(gòu)CPU、GPU、VPU和FPGA等硬件資源的需要,無需配置即可調(diào)用英特爾最新OpenVINO工具套件等其他軟件資源。同時(shí),該平臺(tái)還支持容器化和裸機(jī)應(yīng)用部署,可確保開發(fā)者獲得真實(shí)性能數(shù)據(jù),加速人工智能方案開發(fā)、驗(yàn)證與部署落地過程,提高應(yīng)用開發(fā)效率和產(chǎn)品選型優(yōu)化?!坝⑻貭朌eveloper Cloud for the Edge”平臺(tái)將持續(xù)優(yōu)化中國區(qū)用戶體驗(yàn),引入本地參考實(shí)現(xiàn)和相關(guān)邊緣設(shè)備,擴(kuò)建基礎(chǔ)服務(wù)硬件以支撐更多用戶訪問,滿足不同用戶對(duì)測(cè)試設(shè)備多樣性的需求。
在創(chuàng)新產(chǎn)品的加持下,英特爾還正在與產(chǎn)業(yè)生態(tài)伙伴緊密協(xié)作,積極貢獻(xiàn)于標(biāo)準(zhǔn)化組織和開源組織工作。英特爾網(wǎng)絡(luò)與邊緣事業(yè)部OpenVINO亞太區(qū)產(chǎn)品營銷及開發(fā)者生態(tài)總監(jiān)王珅表示:“在國內(nèi),英特爾推動(dòng)了多個(gè)開源項(xiàng)目,其中包括OpenVINO、oneAPI等,這些項(xiàng)目為本土開發(fā)者和企業(yè)提供了更多選擇和支持。與此同時(shí),我們還與國內(nèi)廠商、創(chuàng)新企業(yè)和研究機(jī)構(gòu)進(jìn)行深入合作,共同探索和實(shí)踐網(wǎng)絡(luò)與邊緣計(jì)算的應(yīng)用和創(chuàng)新,并積極參與各種開發(fā)者活動(dòng)和技術(shù)峰會(huì),為開發(fā)者提供更多技術(shù)交流和學(xué)習(xí)的機(jī)會(huì)?!?/p>
英特爾始終相信開發(fā)者是推動(dòng)AI產(chǎn)業(yè)創(chuàng)新發(fā)展的核心動(dòng)力。未來,英特爾將繼續(xù)秉承“水利萬物而不爭(zhēng)”的生態(tài)理念,擁抱開放、開源的力量,助力開發(fā)者在邊緣端基于英特爾軟硬件產(chǎn)品進(jìn)行創(chuàng)新,予力AI規(guī)?;涞?,推動(dòng)千行百業(yè)數(shù)智化升級(jí)。
英特爾(Intel) i5-13400F 13代 酷睿 處理器 10核16線程 睿頻至高可達(dá)4.6Ghz 20M三級(jí)緩存 臺(tái)式機(jī)CPU
進(jìn)入購買
關(guān)鍵詞:
關(guān)于我們 廣告服務(wù) 手機(jī)版 投訴文章:435 226 40@qq.com
Copyright (C) 1999-2020 www.w4vfr.cn 愛好者日?qǐng)?bào)網(wǎng) 版權(quán)所有 聯(lián)系網(wǎng)站:435 226 40@qq.com