在 2016 年世界經(jīng)濟(jì)論壇(WEF)達(dá)沃斯年會上,全球菁英聚焦在一項(xiàng)“下一件大事”的議題:“第四次工業(yè)革命”即將到來!推動(dòng)第四次工業(yè)革命的主要?jiǎng)恿褪侨斯ぶ悄埽ˋI)。此后至今, AI 兩個(gè)大字鋪天蓋地而來,不論是在科研圈還是行業(yè)里都成了一門顯學(xué),大眾也實(shí)際體驗(yàn)到 AI 帶來的不可思議。
隨著世界各國、行業(yè)巨擘、初創(chuàng)公司積極擁抱 AI ,掀起了資料科學(xué)家、機(jī)器學(xué)習(xí)專家等人才的流動(dòng)潮,尤其是不少重量級人物的異動(dòng),透露出大企業(yè)正在進(jìn)行激烈的搶人大作戰(zhàn),去年,有“蘋果 Swift 語言之父”美譽(yù)的 Chris Lattner,離開蘋果加入特斯拉協(xié)助開發(fā)自動(dòng)駕駛軟體,待了半年隨即加入 Google Brain 團(tuán)隊(duì)。
今年 2 月底,亞馬遜 Alexa AI 負(fù)責(zé)人 Ashwin Ram 跳槽谷歌,成為谷歌云部門 AI 技術(shù)總監(jiān)。4 月,曾任 Google 人工智慧暨搜尋部門負(fù)責(zé)人的 John Giannandrea 宣布離職投入蘋果麾下,擔(dān)任蘋果機(jī)器學(xué)習(xí)及 AI 戰(zhàn)略總監(jiān)。8月,前特斯拉首席工程師、負(fù)責(zé) Model 3 生產(chǎn)的 Doug Field,重回蘋果懷抱,參與研發(fā)自駕車 Project Titan 計(jì)劃,外電甚至爆出,2017年至今特斯拉已有多達(dá) 46 位特斯拉員工跳槽到蘋果,讓特斯拉創(chuàng)辦人馬斯克感到痛苦。
在國內(nèi)高階人才跳槽的情況也不惶多讓,前亞馬遜資深主任科學(xué)家任小楓在去年跳槽阿里巴巴,擔(dān)任人工智慧核心團(tuán)隊(duì) iDST 首席科學(xué)家和副院長,另外張潼從百度轉(zhuǎn)戰(zhàn)騰訊擔(dān)任 AI Lab 主任,以及百度不少 AI 相關(guān)技術(shù)的高管或?qū)<译x職選擇自行創(chuàng)業(yè)。近期,則有一則 AI 大明星的異動(dòng)同樣受到關(guān)注,那就是新任 NVIDIA 機(jī)器學(xué)習(xí)研究總監(jiān)的 Anima Anandkumar。
最閃亮的 AI 明星
過去Anima Anandkumar在市值一度突破萬億美元的亞馬遜擔(dān)任 AWS 深度學(xué)習(xí)主任科學(xué)家,是什么原因讓她從以軟件、網(wǎng)絡(luò)服務(wù)為主的公司,轉(zhuǎn)而加入硬件公司英偉達(dá)?
“我的任務(wù)是帶領(lǐng)英偉達(dá)的研究范圍進(jìn)一步擴(kuò)大及成長,同時(shí)與大學(xué)建立伙伴關(guān)系,” Anima Anandkumar 接受 DT 君專訪透露她新工作的內(nèi)容及方向。
過去產(chǎn)業(yè)對 AI 投入的關(guān)注較少,因此近年 AI 再度興起后,許多公司都是從科研領(lǐng)域?qū)ふ腋呤?,?亞馬遜成為 Anima Anandkumar 第一個(gè)進(jìn)到行業(yè)里的工作之前,她是加利福尼亞大學(xué)爾灣分校(UC Irvine)電機(jī)工程與資訊科學(xué)系(EECS Department)的助理教授,研究興趣包括大規(guī)模機(jī)器學(xué)習(xí)、非凸優(yōu)化(non-convex optimization)和高維統(tǒng)計(jì)。
2010 年左右是大數(shù)據(jù)革命的開始,大家試圖找出能夠大規(guī)模處理數(shù)據(jù)的算法,做出有用的推論,她開始研究潛在變數(shù)(latent variables),“當(dāng)資訊不夠多的時(shí)候,我們就無法發(fā)現(xiàn)一些被隱藏的因素,但是如果只是受限于運(yùn)算能力的話,其實(shí)是可以被辨識出來的”。而張量(tensor)研究領(lǐng)域就成了一個(gè)解法,“如果考慮一對變量之間的關(guān)系,這是成對的相關(guān)性,但是如果想考慮 3 倍或更高倍數(shù)之間的關(guān)系,這就需要張量,”她說。
圖 | Animashree Anandkumar
“我的目標(biāo)是讓世界上每個(gè)人都可以使用機(jī)器學(xué)習(xí),不必是機(jī)器學(xué)習(xí)、應(yīng)用領(lǐng)域或編程方面的專家,縮小從制定理論到技術(shù)落地的鴻溝”。因此,讓技術(shù)易用、而且可以實(shí)際落地就成了她的使命,她在 AWS 期間一直領(lǐng)導(dǎo)張量算法的開發(fā)和分析,加速那些執(zhí)行在 AWS 上的應(yīng)用、服務(wù)的效率,并且開發(fā)多模態(tài)處理算法,可以同時(shí)處理文本、圖像和其他大規(guī)模模態(tài),為 Apache MXNet 提高了可編程性和易用性。
她心中的英偉達(dá)是做什么的公司?
眾所皆知,亞馬遜無疑是 AI 技術(shù)最領(lǐng)先的公司之一,英偉達(dá)更是因 AI 而咸魚翻生,世界上眾多的 AI 模型背后都是仰賴 GPU 強(qiáng)勁的算力來運(yùn)作,因此被喻為是“提供 AI 軍火的彈藥商”,論技術(shù)實(shí)力同樣是位在 AI 領(lǐng)先群里,只不過軟硬件公司的企業(yè)文化向來很不同,兩家公司的商業(yè)模式也差異頗大。
“為什么會在這個(gè)時(shí)刻加入英偉達(dá)?對你來說,英偉達(dá)是一家什么樣的公司?”DT 君提問。
“NVIDIA是一家非常具有創(chuàng)新精神的公司。如果你看它的軌跡,從一個(gè)以圖形加速器為根基的公司,掀起了高性能計(jì)算的革命,再到現(xiàn)在的人工智能,于深度學(xué)習(xí)起了關(guān)鍵作用,這真是太神奇了!唯有當(dāng)一家公司具備創(chuàng)新的DNA,才有可能實(shí)現(xiàn)這一點(diǎn),”她自信的說。
她也指出,英偉達(dá)不僅僅是一家硬件公司,“CUDA 函式庫(library)的開發(fā)一直是擴(kuò)展深度學(xué)習(xí)的關(guān)鍵。CUDA primitives 也與我的張量研究有關(guān)?!睅啄昵?,Anima Anandkumar 與英偉達(dá)研究人員 Cris Cecka 一起為張量縮并(tensor contraction)的操作構(gòu)建了擴(kuò)展的 BLAS 內(nèi)核。加入新東家之後,她期許為 CUDA 中的張量代數(shù)(tensor algebraic)運(yùn)算提供更多支持,藉此能夠創(chuàng)造更高效的張量神經(jīng)網(wǎng)絡(luò)架構(gòu)。
到英偉達(dá)之后要做什么?
由于英偉達(dá)目前的重心除了 AI 之外,就是自動(dòng)駕駛,因此讓人好奇她是否會參與自動(dòng)駕駛方案開發(fā),張量研究也能應(yīng)用在自動(dòng)駕駛領(lǐng)域嗎?面對 DT 君的提問,她回答:張量可以廣泛適用,因此許多機(jī)器學(xué)習(xí)框架都以張量來命名,像是谷歌的 TensorFlow、英偉達(dá)的 Tensor Cores 等。簡單來說,張量是多維陣列,但從數(shù)學(xué)上講,它們遠(yuǎn)不止于此,相較于矩陣,張量可以用更豐富的方式操作,例如矩陣運(yùn)算只能在兩個(gè)方向上:左乘或右乘,但是你可以用無數(shù)的方式縮并張量。
圖丨NVIDIA DRIVE Constellation(來源:NVIDIA )
她進(jìn)一步指出,我們現(xiàn)今運(yùn)行的神經(jīng)網(wǎng)絡(luò)類別只要它只涉及矩陣運(yùn)算,豐富的張量運(yùn)算就可以擴(kuò)展到其中?!拔业难芯勘砻髟谟?jì)算機(jī)視覺和時(shí)間序列預(yù)測等各種領(lǐng)域,張量化的神經(jīng)網(wǎng)絡(luò)更加結(jié)實(shí)、緊湊,并且可以更通用。我期待在 NVIDIA 進(jìn)一步開展有關(guān)張量和其他主題的研究?!?br>
從張量算法到機(jī)器人,她都很拿手
現(xiàn)在的她,除了NVIDIA 機(jī)器學(xué)習(xí)研究總監(jiān),還有另一個(gè)身份—加州理工學(xué)院(Caltech)計(jì)算和數(shù)學(xué)科學(xué)系的資助講座教授(endowed chair professorship),并深度參與 Caltech 旗下自動(dòng)化系統(tǒng)與科技中心(CAST)和 AI4science 計(jì)劃項(xiàng)目。
她正在參與 CAST 的一個(gè)研發(fā)項(xiàng)目也十分有趣,就是機(jī)器人, CAST 希望打造五大類別 AI 機(jī)器人,分別是探險(xiǎn)者、守護(hù)者、變形者、運(yùn)輸者以及伙伴型機(jī)器人。她用一句知名的拉丁文諺語來比喻—Mens sana in corpore sano,中文的意思是“有健全的身體才有健全的精神”,CAST 將 AI 機(jī)器人分為活動(dòng)的軀體、感知與思考的心智兩部分,而她則是要教導(dǎo)機(jī)器人思考。
她進(jìn)一步指出,假設(shè)你想要一個(gè)機(jī)器人能自主行走,現(xiàn)在的做法是必須靠手動(dòng)輸入?yún)?shù),比如在每一種地形上機(jī)器人應(yīng)該要怎么行走的參數(shù),這個(gè)部分就是我們需要強(qiáng)化學(xué)習(xí)的地方,也是我正在研究的領(lǐng)域,因?yàn)闄C(jī)器人在行走時(shí)會不斷記錄數(shù)據(jù),處理大規(guī)模數(shù)據(jù)正是她的強(qiáng)項(xiàng)。基于此,機(jī)器人就可以非??焖俚剡m應(yīng)環(huán)境,不只是為了避免跌倒,而且還要制定一個(gè)良好的導(dǎo)航策略,“這是我的立即性目標(biāo)之一:教導(dǎo)機(jī)器人隨著環(huán)境的變化即時(shí)學(xué)習(xí),并相應(yīng)地改變它們的策略。”
其實(shí),機(jī)器人可說是 Anima Anandkumar 一直很感興趣的領(lǐng)域,少女時(shí)期有一個(gè)往事,當(dāng)她在就讀印度理工學(xué)院馬德拉斯分校(IIT Madras)電機(jī)工程系時(shí),就跟同學(xué)一起向老師請?jiān)?,希望成立機(jī)器人社團(tuán),她認(rèn)為大學(xué)社團(tuán)不僅應(yīng)該幫助學(xué)生放松身心,還能讓他們獲得更多動(dòng)手做的技術(shù)知識。
她活潑好動(dòng)、追求自我突破的性格自小延續(xù)至今,從三歲就開始學(xué)印度傳統(tǒng)舞 Bharatnatyam 的她,曾經(jīng)想當(dāng)一個(gè)舞者,“舞蹈和數(shù)學(xué)給我一樣的感覺,都是許多細(xì)節(jié)及韻律的整合,舞蹈透過編排組合達(dá)到優(yōu)雅及美麗,就跟數(shù)學(xué)一樣,我們利用基礎(chǔ)原理開發(fā)出新的算法,我在里頭看到了優(yōu)雅,”她說。
圖丨Anima Anandkumar從小學(xué)舞
而且喜愛冒險(xiǎn)活動(dòng),她曾在南美洲的巴塔哥尼亞(Patagonia)的大草原上騎馬,在智利的百內(nèi)國家公園(Torres del Paine)登山,甚至還在冰川湖泊中游泳,從嗜好到工作,從張量算法,讓機(jī)器學(xué)習(xí)模型可以更快、更有效率、更準(zhǔn)確地運(yùn)作,到投入機(jī)器人領(lǐng)域,教導(dǎo)機(jī)器人學(xué)習(xí)思考,她始終與艱深的理論為伍,總是喜歡選擇“難行門”來挑戰(zhàn)自我。
Anima Anandkumar 說:我始終對一件事很感興趣:我想知道我們?nèi)绾胃?、更?zhǔn)確地訓(xùn)練機(jī)器學(xué)習(xí)模型,有些理論家抱持比較悲觀態(tài)度,因?yàn)榭偸菚霈F(xiàn)失敗的情況,難度很高,“但這就是我愛修煉者的原因,他們采用最基本的算法,運(yùn)行它,通過足夠的調(diào)整就可以獲得實(shí)際的效益?!?/span>
除了要在機(jī)器人領(lǐng)域挑戰(zhàn)“難行門”以外,她在英偉達(dá)還有另一個(gè)使命。她對DT君說道“縮小產(chǎn)業(yè)界和學(xué)術(shù)界之間的差距非常重要,我們越早采用理論并實(shí)際部署它,創(chuàng)新的速度就會越快,影響就越大”,因此,她在英偉達(dá)的另一個(gè)使命就是持續(xù)憑藉與科研領(lǐng)域強(qiáng)大的互動(dòng)及人脈,替英偉達(dá)與學(xué)術(shù)圈建立強(qiáng)大的合作伙伴關(guān)系,通過互補(bǔ)及協(xié)作,實(shí)現(xiàn)機(jī)器學(xué)習(xí)的創(chuàng)新。“繼續(xù)在學(xué)術(shù)界和工業(yè)界之間、理論與實(shí)踐之間架起橋梁”。讓學(xué)術(shù)界的最新理論能夠在工業(yè)界得到實(shí)踐,加快AI發(fā)展。
10月27日,由《麻省理工科技評論》、DeepTech深科技聯(lián)合主辦,梅賽德斯-奔馳特別呈現(xiàn)的“全球科技青年論壇——Meet 35” 將在北京嘉里大酒店舉行。會上設(shè)置了“科技大跨界”版塊,屆時(shí),Anima Anandkumar 將會受邀出席。她是如何積極倡議科技圈兩性平等、推動(dòng)STEM教育?又準(zhǔn)備為英偉達(dá)帶來哪些改變?在此次盛會現(xiàn)場,Anima Anandkumar將會為我們一一解答。
聯(lián)系客服