來自雷鋒網(wǎng)(leiphone-sz)的報(bào)道
雷鋒網(wǎng)消息,2018年9月13日,NVIDIA在GTC 2018日本站上介紹了該公司在AI方面的最新進(jìn)展,CEO黃仁勛公布了NVIDIA TensorRT超大規(guī)模平臺、NVIDIA Drive AGX Xavier開發(fā)套件以及Jetson AGX Xavier開發(fā)套件等新品,并補(bǔ)充了Quadro RTX和Geforce RTX的新消息。
TensorRT超大規(guī)模平臺是一整套硬件和軟件產(chǎn)品,這些產(chǎn)品針對強(qiáng)大、高效的推理進(jìn)行了優(yōu)化,整套系統(tǒng)的關(guān)鍵要素包括基于Turing架構(gòu)的Tesla T4專業(yè)計(jì)算卡、TensorRT 5和TensorRT推理服務(wù)器。
Tesla T4是一款獨(dú)特的GPU產(chǎn)品,專為AI推理工作負(fù)載而設(shè)計(jì),如處理視頻,語音,搜索引擎和圖像的神經(jīng)網(wǎng)絡(luò)。Tesla T4配備16GB GDDR6,GPU中集成320個Turing Tensor Core和2560個Turing CUDA Core,這款全新GPU具有突破性的性能,以及FP32/FP16/INT8/INT4等多種精度的運(yùn)算能力,F(xiàn)P16的峰值性能為65T,INT8為130T,INT4為260T。
作為上一代Tesla P4的繼任者,Tesla T4采用高能效的75瓦小型PCIe封裝,可輕松適用于大多數(shù)服務(wù)器。NVIDIA稱其可在相同的功率范圍內(nèi)提供高達(dá)12倍的性能提升,可能為推理工作負(fù)載的功效設(shè)定了新的標(biāo)準(zhǔn)。
Tesla T4還具有針對AI視頻應(yīng)用的優(yōu)化功能,此功能由硬件轉(zhuǎn)碼引擎提供動力,提供兩倍于Tesla P4的性能。NVIDIA表示Tesla T4可以同時(shí)解碼多達(dá)38個全高清視頻流。
圍繞Tesla T4的一系列技術(shù),NVIDIA公布了TensorRT Hyperscale平臺。該平臺支持PyTorch、TensorFlow、MXNet和Caffee2等所有主要的深度學(xué)習(xí)框架,NVIDIA還為其配套提供了推理優(yōu)化器和運(yùn)行時(shí)引擎TensorRT 5,這是Nvidia深度學(xué)習(xí)推理優(yōu)化器和運(yùn)行時(shí)引擎的新版本,支持Turing Tensor Core,并對適用于多精度工作負(fù)載的神經(jīng)網(wǎng)絡(luò)優(yōu)化集進(jìn)行了擴(kuò)展。此外還公布了為Turing優(yōu)化的CUDA 10,其中包括優(yōu)化的庫、編程模型和圖形API互操作性。
而TensorRT推理服務(wù)器這一容器化的微服務(wù)軟件使應(yīng)用能夠在數(shù)據(jù)中心生產(chǎn)中采用AI模型,其在NVIDIA GPU Cloud容器注冊中免費(fèi)提供,可實(shí)現(xiàn)數(shù)據(jù)中心吞吐量和GPU利用率的最大化,支持所有常用AI模型和框架,并集成了Kubernetes和Docker。
會上,NVIDIA還公布了其AGX陣容,這是其基于Xavier的產(chǎn)品系列的新名稱,產(chǎn)品陣容包括Drive Xavier和新推出的Drive Pegasus,此次主要介紹的是Drive AGX Xavier開發(fā)套件,這是一個用于構(gòu)建自動駕駛系統(tǒng)的平臺。這種開放、可擴(kuò)展的軟件和硬件解決方案使公司能夠無縫地開發(fā)和測試定制的自動駕駛技術(shù),簡化生產(chǎn)。NVIDIA還提供類似的Clara平臺,專為醫(yī)療應(yīng)用而設(shè)計(jì),作為疾病早期檢測、診斷和治療的新工具。
而作為AGX陣容的另外一部分,NVIDIA還推出了Jetson AGX Xavier開發(fā)套件,部分日本的工業(yè)和制造商率先開始使用該新系統(tǒng)。
作為世界上第一臺為人工智能、機(jī)器人和邊緣計(jì)算而創(chuàng)建的計(jì)算機(jī),Jetson AGX Xavier的大規(guī)模計(jì)算性能可以處理對下一代機(jī)器人至關(guān)重要的測距、定位、測繪、視覺和感知以及路徑規(guī)劃。同時(shí)黃仁勛在今天GTC大會上介紹到,雅馬哈汽車公司將選擇NVIDIA Jetson AGX Xavier作為開發(fā)系統(tǒng),為其即將推出的自動機(jī)器系列提供動力。
據(jù)雷鋒網(wǎng)了解,NVIDIA預(yù)計(jì)未來五年內(nèi)人工智能推理的總體有效市場將增長至200億美元,將成為NVIDIA、Intel和AMD之間激烈爭奪的戰(zhàn)場,因此專注于提升人工智能推理性能可以看做是一項(xiàng)戰(zhàn)略舉措。
Intel憑借其服務(wù)器處理器市場在這一爭奪中具有初始優(yōu)勢,然而像Tesla T4這樣低成本和低功耗的推理加速器,正在憑借其優(yōu)異的每瓦特性能對傳統(tǒng)CPU計(jì)算市場構(gòu)成巨大威脅。
聯(lián)系客服