
你可能有這樣的經驗:買電腦時店員問你要不要「加裝獨立顯卡」,說是打遊戲或做設計會順很多。當時你可能點頭稱是,但心裡其實有個疑問:電腦不是已經有晶片了嗎,為什麼還要再裝一個?這次,我們就從這個問題出發,一路聊到為什麼 AI 公司連 GPU 都不夠用,還要自己設計一種叫 ASIC 的晶片。
🔔 不錯過任何精彩內容
立即訂閱我們的 LINE 或將本站設為 Google 偏好來源,掌握最新資訊!
CPU 是什麼?
CPU(中央處理器)是電腦的「大腦」,負責處理所有類型的運算任務,從開瀏覽器到跑試算表,通通都靠它。實際上,CPU 的設計哲學是「萬用」,它能應付各式各樣的指令,彈性非常高。對一般使用者來說,CPU 就像一個全能的工頭,什麼事情都能處理,而且反應快、決策準。
不過,這種萬用設計也有代價。CPU 的運算單元數量相對少,通常只有幾個到幾十個,每個都很強,但一次能同時處理的事情有限。這在跑一般應用程式時完全夠用,但當任務需要同時處理幾千、幾萬筆資料的時候,CPU 就開始吃力了。
以 Intel Core 或 AMD Ryzen 這類常見的消費級 CPU 為例,它們在文書、網頁、輕度遊戲上表現很好,但如果你要跑 AI 模型或做 3D 渲染,你就會感覺到它的極限在哪裡。
GPU 是什麼?為什麼玩遊戲要用它?
GPU(圖形處理器)原本是為了畫面渲染而生的晶片,它擁有數千個小型運算單元,能同時處理大量平行任務。你可以把它想像成工廠裡的生產線,雖然每個工人不如工頭聰明,但幾千個人同時作業,產量遠遠超過單打獨鬥的工頭。這次說的「平行運算」,就是這個概念。
遊戲畫面每秒需要更新幾十次,每一格畫面裡有幾百萬個像素要計算顏色、光影、深度,這種大量重複的計算,正是 GPU 最擅長的事。對喜歡打電動或做影片剪輯的使用者來說,加裝一張好的顯卡(也就是 GPU),體驗差異會非常明顯。
後來研究人員發現,AI 訓練需要的矩陣運算,跟畫面渲染的計算模式非常像,都是大量、重複、可以平行處理的計算。於是 NVIDIA 等公司開始把 GPU 推向 AI 領域,這也是為什麼現在講到 AI 硬體,幾乎都繞不開 NVIDIA 的名字。
ASIC 是什麼?為什麼 AI 公司要自己設計晶片?
ASIC 特定應用積體電路(Application-Specific Integrated Circuit)是為了某一種特定任務從零設計的晶片,不做其他事,但在那一件事上效能極致、能耗極低。你可能沒聽過這個名字,但你其實每天都在用:手機裡的 Apple Neural Engine、Google Tensor 晶片,都是 ASIC 的一種。它們不是通用處理器,而是專門為某些 AI 任務量身打造的。
對 AI 公司來說,用 GPU 跑模型雖然夠快,但 GPU 終究還是通用設計,裡面有很多功能對 AI 運算來說根本用不到,卻還是要耗電、占空間。根據公開技術資料的介紹,Google 自研的 TPU(張量處理器)就是 ASIC 的代表,專為 TensorFlow 的矩陣運算設計,在特定 AI 任務上的效率遠超同級 GPU,而且能耗更低。這對需要二十四小時不間斷跑模型的資料中心來說,是非常實際的成本考量。
當然,ASIC 也有明顯的缺點:開發成本極高,設計週期長,而且一旦做好就很難修改。如果 AI 演算法有重大更新,原本的 ASIC 可能就得整個重來。所以這條路通常只有 Google、Apple、Amazon 這種量級的公司才走得起。
三者有什麼具體差異?
直接用表格對比,看起來最清楚:
| 比較項目 |
CPU |
GPU |
ASIC |
| 設計目的 |
通用運算 |
平行運算(圖形/AI) |
單一特定任務 |
| 運算單元數量 |
少(但每個很強) |
多(幾千個) |
視設計而定 |
| 彈性 |
最高 |
中等 |
最低 |
| AI 效能 |
弱 |
強 |
最強(限定任務) |
| 能耗表現 |
中 |
高 |
最低(同任務下) |
| 開發成本 |
中 |
高 |
極高 |
| 代表產品 |
Intel Core、AMD Ryzen |
NVIDIA H100、RTX 系列 |
Google TPU、Apple Neural Engine |
| 一般使用者會用到嗎? |
是(每台電腦都有) |
是(遊戲、設計、AI PC) |
有(手機裡就有,但感覺不到) |
這三種晶片分別用在哪些場景?
CPU、GPU、ASIC 不是互相競爭的關係,而是在不同場景各有舞台。實際上,三者在現代運算架構裡常常同時出現,分工合作。CPU 負責調度和控制全局,GPU 負責大量平行計算,ASIC 則在需要極致效率的特定任務上登場。
對一般使用者來說,CPU 是日常主力,GPU 是提升遊戲或創作體驗的工具,ASIC 則是在你的手機或智慧音箱裡默默運作、讓 AI 功能更省電更快速的幕後功臣。對 AI 公司來說,GPU 是目前訓練大模型的主要工具,而 ASIC 則是他們為了降低長期成本和提升推論速度而押注的方向。
換句話說,你不需要選邊站,這三種晶片在不同的位置都有存在的理由,理解它們的差異,就能更看懂科技新聞裡「某公司自研 AI 晶片」或「NVIDIA 獨霸 AI 算力」這些說法背後的邏輯。
常見問題
CPU 跑 AI 模型真的很慢嗎?
對大型 AI 模型來說,是的。以 ChatGPT 這類大語言模型為例,訓練一次需要同時處理幾百億個參數的運算,CPU 的序列式設計在這種任務下速度差了幾十倍甚至幾百倍。不過對於一些小型的 AI 功能,例如語音辨識或簡單的圖片分類,現代 CPU 其實也能應付。
一般人買電腦需要考慮 ASIC 嗎?
不需要主動去選購 ASIC,因為它通常已經整合在你的裝置裡了。買手機時,Apple A 系列或 Google Tensor 晶片裡就包含了 ASIC 設計的 AI 加速單元。如果你買的是 AI PC,裡面的 NPU 也算是類似的概念。你不用另外選購,但可以留意裝置規格裡有沒有提到「AI 加速」或「Neural Engine」。
GPU 以後會被 ASIC 取代嗎?
短期內不太可能全面取代。GPU 的優勢在於彈性,AI 研究還在快速演進,演算法每隔一段時間就有大幅更新,這時候 GPU 的通用性反而是優點。ASIC 適合已知、固定的任務,在推論(也就是使用模型)階段很有優勢,但訓練階段目前還是 GPU 的天下。兩者更可能是長期共存、分工的關係。
NVIDIA 為什麼在 AI 時代這麼重要?
因為 NVIDIA 的 GPU 剛好符合 AI 訓練的需求,加上他們很早就推出 CUDA 這套開發工具,讓研究人員可以直接在 GPU 上寫 AI 程式。這個先發優勢讓 NVIDIA 的生態系非常成熟,目前大多數 AI 框架預設都支援 NVIDIA 的 GPU,這也是為什麼他們的市值在 AI 浪潮中快速攀升。
Google TPU 和 NVIDIA GPU 誰比較強?
這個問題沒有絕對答案,因為兩者的設計目標不同。TPU 在特定的 AI 推論任務上效率更高、能耗更低;但 GPU 的彈性更大,能支援更多種類的模型和框架。對大多數 AI 公司來說,GPU 仍是主力,TPU 則是 Google 自家產品的加速工具。如果你不在 Google Cloud 上跑模型,基本上不會直接用到 TPU。
未來還有哪些新型 AI 晶片值得關注?
除了 ASIC,NPU(神經網路處理器)也是近年快速崛起的方向,主要出現在手機和 AI PC 裡,專為推論任務設計,強調低功耗和即時反應。另外,Amazon 的 Trainium、Microsoft 的 Maia,以及各家新創公司的 AI 晶片也在陸續登場,這場晶片競賽遠遠還沒結束。
結語
從「要不要加裝顯卡」這個日常問題出發,其實可以看到一整個晶片產業的演進邏輯:通用性換彈性,專用性換效能,沒有哪一種是絕對的贏家。CPU、GPU、ASIC 代表的是三種不同的設計哲學,而 AI 時代的到來,只是讓這場競爭變得更加激烈、也更加有趣。對一般使用者來說,不需要深入鑽研每種晶片的技術細節,但能看懂這三者的差異,就等於掌握了理解 AI 硬體新聞的基本框架。