目前中國人工智能正處于由局域智能向全域智能轉(zhuǎn)變的階段?,F(xiàn)階段,在大家都沉浸在 AI 的研究和突破中時(shí),卻鮮有企業(yè)能注意到構(gòu)建人工智能生態(tài)系統(tǒng)的重要性。然而生態(tài)系統(tǒng)才是決定 AI 是否可以成功賦能行業(yè)、產(chǎn)業(yè)的關(guān)鍵因素。
那么,什么是人工智能的生態(tài)系統(tǒng)呢?
目前中國 AI 生態(tài)系統(tǒng)包括了大型互聯(lián)網(wǎng)公司以及新興 AI 垂直公司。從整個(gè)產(chǎn)業(yè)鏈來看,AI 行業(yè)可大體分為芯片和硬件、AI 基礎(chǔ)服務(wù)和算法框架、技術(shù)層以及應(yīng)用層。當(dāng)然,構(gòu)建人工智能生態(tài)系統(tǒng)從來都不是單靠一個(gè)企業(yè)的力量就可以完成的,需要靠 AI 相關(guān)的企業(yè)間的共同合作、需要集合業(yè)內(nèi)的一線開發(fā)者以及業(yè)內(nèi)專家的力量才能實(shí)現(xiàn)破局。
基于此,華為于 6 月 20 日在杭州舉辦了 DevRun 開發(fā)者沙龍 - 昇騰學(xué)院技術(shù)開放日,在為大家全面解讀華為昇騰 AI 生態(tài)系統(tǒng)的同時(shí),也邀請(qǐng)行業(yè)各界的開發(fā)者和合作企業(yè)一起來進(jìn)行 AI 生態(tài)系統(tǒng)的共建,讓 AI 更好的去賦能行業(yè)和產(chǎn)業(yè)。
AI 生態(tài)系統(tǒng)—硬件部分
Part1:馬太能源:基于 Atlas 200 的電力輸電線路智慧監(jiān)測(cè)系統(tǒng)
輸電線路的智能是解決當(dāng)前運(yùn)檢工作挑戰(zhàn)和矛盾的最終手段,輸電線路智能化包括在線監(jiān)測(cè)與預(yù)警,智能巡檢、狀態(tài)評(píng)估和檢修這四個(gè)部分。但由于輸電線路規(guī)模增長快,且巡檢人員數(shù)量短缺的問題,進(jìn)一步加大了人工巡檢的壓力。
華為 Atlas 人工智能解決方案可全面助力智能巡檢和智慧線路的開發(fā),華為 Atlas 的產(chǎn)品也可以應(yīng)用在很多電力系統(tǒng)產(chǎn)品當(dāng)中,比較典型的就是智慧線路精靈和通道可視化系列產(chǎn)品,利用華為的 Atlas 200 低功耗、高性能的特點(diǎn),進(jìn)行機(jī)械人臉識(shí)別、目標(biāo)識(shí)別等一系列智能識(shí)別,助力智慧線路的開發(fā)。
這里以智慧線路精靈中的觀冰精靈為例,上圖是在現(xiàn)場(chǎng)拍攝的一些產(chǎn)品在現(xiàn)場(chǎng)運(yùn)行的照片,可以看到照片都非常清晰,利用 Atlas 200 AI 加速模塊的超低功耗和極致性能的優(yōu)勢(shì)實(shí)時(shí)計(jì)算冰的厚度和形狀,冰的厚度一旦達(dá)到預(yù)警線,或者覆冰不均時(shí),監(jiān)控中心就會(huì)進(jìn)行報(bào)警并采取必要的措施,保障輸電的安全。
Part2:基于 Atlas 200 工業(yè)邊緣計(jì)算網(wǎng)關(guān)的硬件實(shí)踐硬功館基于 Atlas 200 做了一個(gè)邊緣計(jì)算的網(wǎng)關(guān),并在工業(yè)物聯(lián)網(wǎng)方面做了一系列的網(wǎng)關(guān)的產(chǎn)品,其中利用 Atlas 200 的計(jì)算能力,實(shí)現(xiàn) 16 路 1080P 30 FPS 的視頻接入,并支持多種規(guī)格的視頻編解碼,從而滿足用戶不同的視頻處理需求。
AI 生態(tài)系統(tǒng)—AI 基礎(chǔ)服務(wù)
Part1:昇騰工具鏈之模型小型化工具介紹
通常來說,神經(jīng)網(wǎng)絡(luò)在通過高精度訓(xùn)練之后的部署過程中,免不了就會(huì)碰到一個(gè)算力比較小、內(nèi)存有限,各種資源都很有限的場(chǎng)景。這個(gè)時(shí)候模型壓縮或者模型小型化就是一個(gè)必要的動(dòng)作。而昇騰模型小型化工具其實(shí)就是這樣一個(gè)自動(dòng)高效地去優(yōu)化用戶模型的工具,使其能夠適應(yīng)昇騰處理器的達(dá)芬奇架構(gòu),來幫助用戶提升最終的業(yè)務(wù)性能。
工具功能包含了兩大塊,一個(gè)是模型壓縮,一個(gè)是模型尋優(yōu),壓縮是通常說的量化、稀疏、蒸餾,尋優(yōu)通常包括結(jié)構(gòu)尋優(yōu)、超算尋優(yōu)等等。這里以量化為例來說明整個(gè)工具的整體的架構(gòu),整個(gè)架構(gòu)分為左右兩塊,左邊是用戶的環(huán)境,所謂用戶環(huán)境就是你現(xiàn)在通常在做訓(xùn)練的環(huán)境,在用戶環(huán)境中的模型小型化工具,可以作為插件或者第三方的工具提供一個(gè)模型小型化量化的功能。
在最終拿到量化以后的 Int8 模型后,可以通過 ATC 部署到昇騰處理器上,即把昇騰處理器的 Int8 能力發(fā)揮出來。通過 ATC 的編譯或者部署的過程,把量化、反量化融合成一個(gè)重量化的優(yōu)化過程,使得你的業(yè)務(wù)在昇騰處理器上能達(dá)到更好的性能。
Part2:初識(shí) TBE 算子開發(fā)TBE 是華為基于昇騰 AI 處理器自定義算子的開發(fā)工具,是針對(duì)自研 NPU 的一個(gè)自定義開發(fā)工具。主要功能有三個(gè),最基礎(chǔ)的就是為需要使用擴(kuò)展算子的開發(fā)者提供便利,比如在將網(wǎng)絡(luò)去轉(zhuǎn)成達(dá)芬奇上運(yùn)行的一個(gè)模型時(shí),中間會(huì)遇到我們不知道的算子,這個(gè)時(shí)候就可以用 TBE 算子工具來開發(fā)。
針對(duì)高級(jí)開發(fā)者來說還會(huì)有兩個(gè)應(yīng)用場(chǎng)景,第一個(gè)是開發(fā)者用自己開發(fā)的算子來替代華為已提供的算子,針對(duì)不同網(wǎng)絡(luò)做一些定制的優(yōu)化。第二修改現(xiàn)有算子的邏輯,使其更滿足于自己的需求。
那一個(gè)完整的算子開發(fā)流程是什么樣的呢,首先是分析階段,需要確定分析算子的作用是什么,更適合哪種方式來開發(fā)的算子,是采用 DSL 還是采用 TIK。在分析之后使用華為提供的開發(fā)工具,上面可以創(chuàng)建算子工程,算子工程開發(fā)完之后,去實(shí)現(xiàn)算子,這里面包括四部分,算子的代碼、插件相關(guān)的代碼、算子實(shí)現(xiàn)完之后的驗(yàn)證過程,怎么確保我寫的算子功能正確的測(cè)試過程。在測(cè)試完成之后,還需要把算子集成到網(wǎng)絡(luò)里面,進(jìn)行網(wǎng)絡(luò)集成驗(yàn)證的過程??偟膩碚f算子開發(fā)包括三部分,一部分是算子文件的實(shí)現(xiàn),一部分是單算子的測(cè)試驗(yàn)證,最后一部分是網(wǎng)絡(luò)集成的測(cè)試驗(yàn)證。
華為針對(duì)算子開發(fā)提供了一站式的算子開發(fā)環(huán)境 Mindstudio,大家可以在昇騰社區(qū)進(jìn)行試用。在算法開發(fā)的板塊里面還提供了論壇,供大家提問,同時(shí)還有算子開發(fā)的一些相關(guān)的課程,入門課程跟高階課程都有,感興趣的可以去看看。
AI 生態(tài)系統(tǒng)—算法框架
Part1:基于全場(chǎng)景 AI 計(jì)算框架 MindSpore 進(jìn)行模型開發(fā)實(shí)踐
MindSpore 是一個(gè)支持端邊云獨(dú)立的或者按需協(xié)同進(jìn)行開發(fā)的分布式架構(gòu),在華為的 AI 架構(gòu)中屬于計(jì)算框架層。MindSpore 主要是提供一個(gè)全場(chǎng)景統(tǒng)一的 API,開發(fā)者們可以使用 MindSpore 來構(gòu)建自己的網(wǎng)絡(luò)。
MindSpore 的亮點(diǎn)有自動(dòng)微分、自動(dòng)并行,自動(dòng)調(diào)優(yōu)等,助力開發(fā)者更加便捷的開發(fā)。這三個(gè)功能主要是為了增強(qiáng) MindSpore 的應(yīng)用性,讓開發(fā)者使用 MindSpore 進(jìn)行模型開發(fā)時(shí)可減少大量工作量。除此之外,MindSpore 的圖 / 算子編譯加速以及神經(jīng)網(wǎng)絡(luò)的并行執(zhí)行都使模型訓(xùn)練更加高效。
MindSpore 已于 3 月開源,諸多特性正不斷增強(qiáng),如差分隱私、二階優(yōu)化、PyTorch 一鍵轉(zhuǎn)化等等,如果想要了解更多可以登錄 MindSpore 官網(wǎng),官網(wǎng)上有很多詳細(xì)講解的視頻,感興趣的朋友可自行去學(xué)習(xí)。
寫在最后華為自 18 年發(fā)布昇騰系列產(chǎn)品正式宣布入局 AI,到現(xiàn)在昇騰 AI 生態(tài)系統(tǒng)初步成型,華為在這短短兩年內(nèi)就能在 AI 領(lǐng)域闖出自己的一片領(lǐng)域著實(shí)令人驚嘆。目前來看 AI 行業(yè)還沒有一個(gè)開發(fā)生態(tài)形成絕對(duì)主導(dǎo)之勢(shì),按照目前華為的發(fā)展趨勢(shì)來看,相信假以時(shí)日,華為構(gòu)建的 AI 生態(tài)一定會(huì)從眾多生態(tài)中脫穎而出!
聯(lián)系客服