什麼是 GPU？
圖形處理單元 (GPU) 是一種可高速執行數學計算的電子電路。圖形轉譯、機器學習 (ML) 和視訊編輯等運算任務，需要在大型資料集上運用類似的數學運算。GPU 的設計可讓它平行地對多個資料值執行相同的操作。這可提高其對許多運算密集型任務的處理效率。
為什麼 GPU 如此重要？
GPU 非常擅長執行通用平行處理，但從歷史上看，情況並非總是如此。顧名思義，GPU 最初是為一項特定任務而設計的：控制影像顯示。
GPU 的起源
在 GPU 問世之前，我們採用點陣螢幕，它們於 20 世紀 40 年代和 50 年代發佈。向量和點陣式顯示器之後發布，然後第一批視訊遊戲機和 PC 面世。當時，稱為圖形控制器的非可程式設計裝置協調螢幕上顯示的內容。傳統上，圖形控制器依賴 CPU 進行處理，儘管有些控制器包括片上處理器。
大約在同一時間，三維成像專案涉及使用單個處理器在螢幕上產生單個圖元。目標是在短時間內產生結合許多圖元的影像。據我們所知，此專案就是 GPU 的起源。
直到 20 世紀 90 年代末，第一款 GPU 才問世。它們面向遊戲和電腦輔助設計 (CAD) 市場。GPU 將以前基於軟體的算圖引擎、轉換和照明引擎與圖形控制器全部整合在可程式設計晶片上。
GPU 技術的演變
1999 年，Nvidia 率先推出單晶片 GeForce 256 GPU。21 世紀 00 年代和 10 年代標誌著一個成長時代，期間 GPU 融入了光線追蹤、網格陰影和硬體曲面細分等功能。這推進了影像產生的處理，同時提升了圖形效能。
2007 年，Nvidia 發佈了 CUDA，這是在 GPU 上提供平行處理的軟體層。大約在此期間，顯而易見的是，GPU 在執行高度特定的任務方面非常高效。具體而言，它們擅長完成需要大量處理能力才能實現特定結果的任務。
當 Nvidia 發佈 CUDA 時，它向更廣泛的受眾開放 GPU 程式設計。然後，開發人員可以為各種不同的運算密集型實際應用程式設計 GPU 技術。GPU 運算開始變得更加主流化。
GPU 是區塊鏈和其他新興應用的熱門晶片。它們越來越多地用於人工智慧和機器學習 (AI/ML)。
GPU 有哪些實際應用？
GPU 可用於各種運算密集型應用程式，包括大型金融、國防應用程式和研究活動。以下是當今 GPU 的一些最常見用途。
遊戲
除大型企業和政府視覺化應用程式之外，GPU 的首要應用領域是個人遊戲。它們曾在 20 世紀 80 年代的遊戲機中使用，至今仍用於 PC 和目前的遊戲機中。GPU 對於複雜的圖形算圖至關重要。
專業視覺化
GPU 用於專業應用程式，例如 CAD 繪圖、視訊編輯、產品演練和互動性、醫學影像和地震成像。它們還適用於其他複雜的影像和視訊編輯以及視覺化應用程式。瀏覽器式應用程式甚至可以透過諸如 WebGL 之類的程式庫來利用 GPU。
機器學習
訓練機器學習 (ML) 模型需要大量的運算能力。它們現在可以在 GPU 上執行以更快得到結果。在自己購買的硬體上訓練模型可能需要很長時間，而使用雲端 GPU 可以快速獲得結果。
區塊鏈
加密貨幣建立在區塊鏈上。特殊類型的區塊鏈 (工作證明) 通常嚴重依賴 GPU 進行操作。特殊應用積體電路 (ASIC) 是一種類似但不同的晶片，現在已成為區塊鏈 GPU 處理的常見替代品。
權益證明區塊鏈演算法證明不再需要大量運算能力，但工作證明仍然無處不在。
模擬
分子動力學、天氣預報和天體物理學中使用的進階模擬應用程式都可以透過 GPU 來完成。GPU 還支援汽車和大型車輛設計中的許多應用，包括流體動力學。
GPU 如何運作？
現代 GPU 通常包含多個多處理器。每個多處理器都有一個共用的記憶體區塊，加上數個處理器和相應的暫存器。GPU 本身具有恆定記憶體，加上它所在主機板上的裝置記憶體。
依據其用途、製造商、芯片的細節和用於協調 GPU 的軟體，每個 GPU 的運作方式略有不同。例如，Nvidia 的 CUDA 平行處理軟體可讓開發人員在考慮幾乎所有通用平行處理應用程式的情況下對 GPU 進行專門程式設計。
GPU 可以是獨立晶片，稱為離散式 GPU，或與其他運算硬體集成，稱為整合式 GPU (iGPU)。
離散式 GPU
離散式 GPU 以完全專用於手頭任務的晶片形式存在。雖然該任務傳統上是圖形，但現在離散式 GPU 可用作機器學習或複雜模擬等任務的專用處理器。
用於處理圖形時，GPU 通常位於插入主機板的圖形卡上。在其他任務中，GPU 可能位於主機板本身的另一張卡或槽上。
整合式 GPU
在 21 世紀 10 年代初，我們開始看到離散式 GPU 的轉變。製造商在稱為 iGPU 的晶片上引入 CPU 和 GPU 的組合。這些用於 PC 的首批 iGPU 是 Intel 的 Celeron、Pentium 和 Core 系列。它們在筆記型電腦和 PC 中仍然廣泛使用。
另一種類型的 iGPU 是系統晶片 (SoC)，它包含 CPU、GPU、記憶體和網路等元件。這些是智慧手機中常見的晶片類型。
虛擬
與其他類型的運算硬體基礎設施一樣，GPU 也可以虛擬化。虛擬化 GPU 是以軟體為基礎的 GPU 表示形式，它與雲端伺服器執行個體上的其他虛擬 GPU 共用空間。可以使用虛擬化 GPU 來執行工作負載，而不必擔心基礎硬體的維護。
GPU 和 CPU 之間有何區別？
CPU 和 GPU 之間的主要區別在於它們在電腦系統中的用途。依據系統，它們發揮不同的作用。例如，它們在手持式遊戲裝置、PC 和帶有多個伺服器機櫃的超級電腦中用於不同的目的。
一般來說，CPU 處理完整的系統控制以及管理和一般用途任務。相反，GPU 處理運算密集型任務，例如視訊編輯或機器學習。
更具體地說，CPU 已針對執行以下任務進行最佳化：
- 系統管理
- 跨不同應用程式的多任務處理
- 輸入和輸出操作
- 網路功能
- 周邊設備的控制
- 記憶體和儲存系統多任務處理
GPU 和圖形卡之間有什麼區別？
圖形處理單元和圖形卡名稱通常可互換使用，但它們並不相同。
圖形卡是一種附加板 (AIB)，可插入電腦主機板上的某個位置。圖形卡不是內建在電腦本身中，它們是可互換的卡。圖形卡隨附 GPU。
GPU 是圖形卡的主要元件。它與其他元件一起存在，例如視訊 RAM (VRAM)、連接埠 (例如 HDMI 或 DisplayPort) 和冷卻元件。但是，GPU 也可以直接內建到主機板中，或者將 GPU 作為一體化芯片與其他元件一起整合。
AWS 如何協助滿足您的 GPU 要求？
Amazon Web Services (AWS) 提供 Amazon Elastic Compute Cloud (Amazon EC2)，這是最廣泛和最深入的運算平台。
Amazon EC2 擁有超過 500 個執行個體，您可以選擇最新的處理器、儲存裝置、網路、作業系統和購買模型。它可以輕鬆滿足您的工作負載需求。
藉助 Amazon EC2，您可以輕鬆在雲端中租用和執行 GPU。利用 GPU 的處理能力來進行視訊編輯、圖形呈現、人工智慧 (AI) 和其他平行處理功能。
Amazon EC2 執行個體幾乎適用於任何類型的工作負載：
- P2 執行個體旨在用於一般用途 GPU 運算應用程式。
- Amazon EC2 P5 執行個體具有八個內建 GPU。它們是最新一代 GPU 型執行個體。這些執行個體在 Amazon EC2 中為深度學習和高效能運算 (HPC) 提供最高的效能。
- Amazon EC2 G5 執行個體 由 AWS Graviton2 處理器提供支援，配備 NVIDIA T4G Tensor Core GPU。它們為 Android 遊戲串流等圖形工作負載提供 Amazon EC2 中最佳的高性價比。
立即建立帳戶，開始在 AWS 上使用 GPU。
