為何英偉達（NVIDIA）、AMD、英特爾（Intel）只要推出新品，搭上AI都會引起熱議，唯NVIDIA獨尊的GPU魅力又在哪里？

NVIDIA 強調(diào)自家產(chǎn)品擁有可以加快處理AI訓(xùn)練及推論 ，有望讓AI技術(shù)運用更為普及。 對千禧世代的人來說，AI就如同生活的一部份，我們知道電腦可以是AI、機器人是AI，連電影里都在講AI，盡管在現(xiàn)在的生活中，我們已經(jīng)頻繁的接觸它，但它仍然是既熟悉又陌生的一項技術(shù)。

AI（人工智能; Artificial Intelligence ）指的是由人制造出來的機器所表現(xiàn)出來的智能（通常指機器人或計算機），通過電腦程序來呈現(xiàn)人類智能的技術(shù)，達成或模仿人類的思考邏輯、行為模式和決策能力，并具備感知、學(xué)習(xí)、邏輯推理、統(tǒng)計機率、修補校正甚至是做出行為動作等概念。

當(dāng)AI搭上服務(wù)器，引爆未來式熱潮

“你在哪個服務(wù)器？” 在游戲中常問的，對我們來說再熟悉不過的一句話，同時也大概把服務(wù)器（Server）給解釋完了，舉游戲服務(wù)器為例，服務(wù)器提供玩家等特定用戶，進行游玩等服務(wù)的企業(yè)級計算機 ，除了擁有高效能、高安全性、高穩(wěn)定性等優(yōu)勢之外，會再根據(jù)用戶的需求而有不同功能。

此外，服務(wù)器內(nèi)仍有主板、處理器、內(nèi)存等硬件（Hardware），為了加快處理效率與運算速度，與一般電腦不同的是，服務(wù)器會將大量主板排列裝設(shè)在一起，所以體積通常較龐大，又分為體積大的直立式服務(wù)器（Pedestal server）、空間利用率較好的機架服務(wù)器（Rack server），以及小而精簡的刀鋒服務(wù)器（Blade server）。

至于軟件（Software）部分，則需要有像臺式電腦使用的 Windows Server 一樣的操作系統(tǒng)。 但性能要更好，才能順利同時多人連線、開啟多個應(yīng)用程序。

AI服務(wù)器（AI Server ）

而AI服務(wù)器，言下之意就是將AI技術(shù)運用在服務(wù)器上，為了增加計算速度和效率， AI服務(wù)器多采用「異質(zhì)架構(gòu)形式」（指在計算系統(tǒng)中，使用多種不同類型的處理器，或計算組件結(jié)合在一起，以滿足不同工作負載的需求）的服務(wù)器，因為AI工作負載通常需要大量的數(shù)值計算和并行運算。

如傳統(tǒng)CPU在通用計算上表現(xiàn)出色，但對于深度學(xué)習(xí)等需要大量矩陣計算的任務(wù)，效能可能就會不足。 這時，若再組合上GPU、TPU等異質(zhì)處理器（指在同一個計算系統(tǒng)或芯片中集成了不同類型的處理器核心或計算單元），可以更好地滿足AI任務(wù)的需求，提供更高效的運算能力，同時還有擴展其能力以判讀更多人事物的能力。

隨著AI運用逐步普及，推升需求，據(jù)調(diào)研機構(gòu)TrendForce預(yù)估，2023年AI服務(wù)器（包含搭載GPU、FPGA、ASIC等）出貨量可逼近120萬臺，年增38.4%，占整體服務(wù)器出貨量近9%，至2026年占比更可達15%， TrendForce 同步上修2022~2026年AI服務(wù)器出貨量，年復(fù)合成長率可達22%。

不過，由于CoWoS封裝制程產(chǎn)能不足，造成AI服務(wù)器的GPU供不應(yīng)求，身為CoWoS主力的臺積電，相關(guān)產(chǎn)線近期處于嚴重供不應(yīng)求狀態(tài)，加上市場上AI需求快速成長，遂決定在中科與南科提前啟動CoWoS封裝制程的擴產(chǎn)，并連帶快速對設(shè)備商追加采購訂單。

AI服務(wù)器核心，芯片處理器有哪些？

當(dāng)AI服務(wù)器大行其道，其內(nèi)部的芯片處理器更是關(guān)鍵中的關(guān)鍵，甚至可說是引爆了新的芯片戰(zhàn)爭，英特爾主攻CPU、AMD強打CPU、APU，并逐步布局GPU市場、英偉達則是以自家超強GPU獨大，各家大廠有其拿手項目，盼能站穩(wěn)AI市場，而相關(guān)處理器介紹如下：

CPU（Central Processing Unit）：

做為計算機主要的組件，CPU 用于處理電腦的信息和控制運作，負責(zé)執(zhí)行計算機系統(tǒng)指令及操作數(shù)據(jù)，系統(tǒng)指令來自電腦操作系統(tǒng)、應(yīng)用程序或用戶程序。 若一臺電腦沒有CPU，將連最基本的開機都無法達成。

GPU（Graphics Processing Unit）：

作為計算機或服務(wù)器內(nèi)的處理器，GPU 類似于 CPU，但其扮演的功能不同，CPU 架構(gòu)比較復(fù)雜，功能比較泛用，而 GPU 采用的平行計算（指許多指令得以同時進行的計算模式 ）架構(gòu)比較單純、核心數(shù)量較多，適合處理大規(guī)模且高度并行的任務(wù)，同時專注于大量的數(shù)據(jù) 。GPU 的應(yīng)用范圍已擴展到許多其他領(lǐng)域，包括科學(xué)計算、人工智能、機器學(xué)習(xí)和加密貨幣挖礦等。

顯卡（display card）：

顯卡（也稱為繪圖卡或視頻卡）是一個裝置，用于連接顯示器并將圖形或影像數(shù)據(jù)轉(zhuǎn)換成可視的圖像。 顯卡通過其上的 GPU 來處理和加速這些圖像計算，并將處理后的圖像傳送到連接的顯示器上，讓用戶能夠看到圖形、視頻和游戲等。

顯卡的核心部分是GPU通常是顯卡中最重要的組件，它負責(zé)處理所有與影像和圖形相關(guān)的計算。 而顯卡又分為下列兩種。

1.集成顯卡（簡稱：內(nèi)顯; iGPU；Integrated Graphics Processing Unit ） ：

內(nèi)顯是整合在主處理器（CPU）或系統(tǒng)芯片組中的一個顯示核心，并且共享系統(tǒng)內(nèi)存（RAM）。 它不是獨立的硬件設(shè)備，而是隨著CPU或芯片組一同出售的一部分，因此受到內(nèi)存帶寬和CPU性能的限制。 它性能較低，通常適合處理一般的圖形工作、視頻播放和輕量級游戲。

2.獨立顯卡（簡稱：獨顯; Discrete Graphics Card）：

獨顯是一個獨立的硬件設(shè)備，有時候也被稱作 GPU，通常插入主板的插槽中。 它與 CPU 是分離的單元，擁有自己的專用顯示內(nèi)存（VRAM）。 它通常具有較高的圖形處理性能，特別是在處理圖形密集型應(yīng)用程序（例如游戲、3D建模等）時。 但同時也需要消耗更多的電源并產(chǎn)生更多的熱量。 因此，使用獨立顯卡的電腦可能需要更好的散熱系統(tǒng)和更高的功耗。

3.加速處理器單元（APU; Accelerated Processing Unit）:

APU 概念有點像是功能的整合，舉AMD APU 為例，APU 的基本概念就是 CPU +顯卡（GPU），而此概念需要多個散熱裝置，因此，APU 將其整合，既能減少電腦體積，也增加空間流通的散熱性，不過性能并不一定比 GPU 來的好。

4.張量處理單元（TPU; Tensor Processing Unit）：

作為補充，TPU 是由 Google 開發(fā)的一種特殊用途的處理器，專門用于加速人工智能（AI）的計算任務(wù)。TPU 主要針對機器學(xué)習(xí)和深度學(xué)習(xí)等 AI 應(yīng)用進行優(yōu)化，與 CPU、GPU 和 APU 等「通用處理器」不同。

AI服務(wù)器不僅要有深度，還要比速度

當(dāng)有了好的芯片處理器，我們有能力解決大量的數(shù)據(jù)運算，但還需要搭配有效率的運算成果，我們才有「辦法」處理這些資料，以網(wǎng)絡(luò)、運算、儲存三個主要組件模式比喻，若要以最高效能運作，每個組件都必須跟上其他組件的速度，反之則會受到影響。

高性能運算（HPC; High Performance Computing ）：

根據(jù)技嘉科技網(wǎng)站解釋，HPC 指的是能夠高速處理數(shù)據(jù)或執(zhí)行指令的運算能力，為達成此目標，則須集結(jié)大量的 CPU 或 GPU 處理進行。

算力：

常用 TOPS（Tera Operations Per Second）或者 TFLOPS（Tera Floating point Operations Per Second）做為衡量單位，分別表示每秒芯片能完成多少次的定點運算和浮點運算，數(shù)字越大，代表運算速度也就越快。NVIDIA 創(chuàng)辦人黃仁勛先前就號稱，自家產(chǎn)品可以達成 EXAFLOPS 級次的算力。

GPU重要性增加，CPU未來恐乏人問津？

NVIDIA 產(chǎn)品推陳出新，且都是專注在GPU產(chǎn)品，先前執(zhí)行長黃仁勛也曾指出，AI世代已經(jīng)到來，以GPU 為首的加速算力也取代了CPU，并且結(jié)合生成式AI，讓世界進入新的運算時代。 他說，“過去每幾年，CPU 運算速度就可快上5-10倍，但這樣的趨勢已經(jīng)告終了，GPU 正是新的解決方案?！?/span>

無獨有偶，AMD 近年也積極發(fā)展 GPU，今年6月15日數(shù)據(jù)中心和 AI 技術(shù)發(fā)布會，就端出高端 GPU Instinct MI300X，以及號稱全球第一個為AI與 HPC 應(yīng)用而開發(fā)的 APU 加速器Instinct MI300A，與 GPU 霸主 NVIDIA 的較勁意味濃厚，但除了比運算速度外，GPU 好像成了兵家必爭之地，CPU 的存在感更為低落。

簡單比喻，CPU 就好比人類大腦，處理大大小小的事情，為通才型處理器 ，卻在處理速度和運算效率上，難敵大量瑣碎工作; 同樣的狀況，GPU 則可以同時大量處理簡易工作，更適合 AI 應(yīng)用情境，是為專才型處理器 。