近兩年，你應該看到各家電腦廠商都在推出「AI PC」，緊接著微軟在 2024 又推出了「Copilot+ PC」，然後又聽到一堆 NPU、TOPS 算力或地端 AI 運算的名詞，覺得好混亂。本篇保證，帶你清楚了解 AI PC 與 Copilot+ PC 的定義，最後也讓你知道你是否真的需要 AI PC!
先搞懂雲端 AI 與地端 AI 的核心差異
在了解 AI PC 前，我們要先理解 AI 到底是怎麼來的，一切就會從這幾年最常被提到的 GPU 與 NPU 來開始。AI PC 的定義常在討論到底是要有 NPU 還是 GPU，因此我們要先理解這兩者的角色。
雲端 AI
唉唷我的 GPT 為什麼不能用了? 你看一下右下角，因為我把電腦 WIFI 網路關掉了。
伺服器原本指的就是，像你平常會用的網站服務: 網路銀行、Google Drive 雲端硬碟、Microsoft Office、Canva 設計工具，他們廠商都會建立非常多的伺服器，你在使用的過程中或是儲存的資料，都是交給伺服器去做運算還有儲存你的資料，這也是為什麼你用這些應用程式都需要連接網路。
這段過程你的電腦是不會幫你做運算也不會儲存資料，基本上這就算所謂的雲端服務，那因為在用 AI，我們可以把它理解成雲端 AI。
你的應用程式需要連接網路才能用，這些都屬於所謂的”雲端”
雲端跟地端差異只要理解成:
GPT、Copilot、Gemini，這些服務也要連接網路，我們可以將它理解成”雲端 AI”
前者要連接網路，後者是離線情況下使用的應用程式或服務。
而在訓練 GPT 這類 AI 大型語言模型時，模型必須從非常多的資料中不斷進行訓練等高密度的運算流程，這些運算與圖形渲染的邏輯類似，都是「大量資料、同時計算」。
而這時候 GPU 特別擅長處理這類 AI 訓練工作，成為深度學習領域不可或缺的關鍵角色，這也是為什麼現在 NVIDIA 顯示卡如此熱門的原因。需要記得 GPU 是十分擅長做 AI 訓練的!
想了解更多關於 AI 是怎麼訓練出來的可以看這篇: 10 分鐘了解 AI 發展歷史! 搞懂 AI 背後的運作原理!
地端 AI
有些 AI 模型從設計階段就定位為「地端部署 (放到離線不連網的環境)」，特別是小型語言模型或針對特定應用場景的 AI，例如視訊背景模糊、即時翻譯等功能。這類應用並不需要龐大的運算資源 (就是花好幾千萬蓋一堆伺服器)，而是追求即時性、低延遲與隱私保護。
(一個小規模 AI 運算並不需要花費幾千萬蓋一個伺服器來運算。)
這時候，廠商依然會先在資料中心使用 GPU 訓練出完整的 AI 模型，然後將訓練好的模型打包，讓使用者能夠下載並部署到自己的電腦或裝置上。接下來，這些地端的 AI 運算任務，就交由裝置內建的 NPU（Neural Processing Unit，神經網路處理器）來負責。
NPU 是專門為 AI 推論（Inference）設計的處理器，它優化了大量矩陣運算與神經網路計算，使裝置能在低功耗 (就是比較不耗電) 與有限資源條件下，快速且有效率地執行 AI 推論工作。
簡單來說 NPU 的主要任務是協助裝置完成 AI 應用的「實際執行應用的階段」，它不負責訓練 AI 。
NPU 就是是拿著訓練好的 AI 模型來負責應用 AI，並擔任 AI 運算的角色，像是即時視訊模糊、語音辨識、翻譯以及影像處理等。
Windows Live Caption 即時輔助字幕翻譯，就是將訓練好的 AI 模型部署到電腦上，讓裝置上的 NPU，當你使用翻譯功能時，就會交給 NPU 來進行 AI 運算。
我們接下來再用這張圖來總結雲端與地端 AI的差異:
AI 應用可以依照使用方式與位置分為「雲端 AI」與「地端 AI」兩種類型。
「雲端 AI」指的是部署在遠端伺服器上的 AI 模型，如 OpenAI 的 GPT、Google 的 Gemini 以及 Microsoft Copilot 等。使用者透過網路連線即可存取這些服務，背後依賴高效能的 GPU 顯示卡（圖形處理器）進行模型的訓練與推論。
而「地端 AI」則是將已訓練好的 AI 模型部署至裝置本機端，例如一般筆電、桌機或手機。在這類裝置上，可執行如 Microsoft Phi、Stable Diffusion、Meta LLaMA 等 AI 模型，並透過 NPU（神經網路處理器）進行 AI 應用的運算，主要負責推論（Inference）階段。(推論就是指將訓練好的 AI 要拿來做 AI 應用了)
這些模型可應用於像是 Windows Studio Effects、Stable Diffusion 本機生成等場景，不需仰賴雲端(連接網路) 即可執行 AI 功能，你再用這些功能前，已經先下載好了一些 AI 模型到電腦上，當你用這些功能時，AI 模型會在背後自己運作。
簡而言之，雲端 AI 著重於模型訓練與遠端服務，而地端 AI 則聚焦於已訓練模型的本地應用與即時運算。
那 AI PC 的定義?
當各家廠商開始推出整合 NPU 的處理器時，各家品牌與廠商對 AI PC 的定義不一致，有些廠商會把只支援幾個基本 AI 功能的裝置作為定義，有些則搭配自家優化的軟體平台來強調差異化，這也讓整體市場與消費者反而更混亂或是不清楚。
其實 AI PC 定義很簡單，廣義來說: 就是電腦上面要有 NPU。
NPU 是專門為 AI 應用 (推論) 所設計的晶片，能夠高效處理像是影像辨識、語音辨識、即時翻譯等地端 AI 工作。因此，只要裝置搭載 NPU，就具備執行 AI 應用的能力，也就符合「AI PC」的基本條件。
基本上最早由處理器廠商開始去定義 NPU 的 TOPS 算力是多少，TOPS（Tera Operations Per Second） 是衡量 AI 晶片運算能力的單位，表示每秒可以執行「一兆次運算」。這個指標常用來評估 NPU、GPU 等處理器在進行 AI 任務（如影像辨識、語音辨識、自然語言處理等）時的效能表現。數值越高，代表該晶片在處理 AI 推論時速度越快、可以同時處理更多任務。
我們用白話文解釋:
TOPS 可以理解成要執行 AI 運算工作時需要的算力強度
我們以此圖來解釋 TOPS 算力差異的應用，其實從前面我們在講雲端到地端 AI，你大概就會有個概念知道算力的差異點，此圖提供一些範例讓大家了解 TOPS 算力的實際 AI 應用有哪一些。
我知道，你又看到混合雲 AI，又會想這又是啥。
我簡單解釋一下，混合雲的概念就是有用到地端跟雲端就對了。
我們拿小畫家 Cocreator 舉例，當你像我一樣在畫布上面畫了可能連幼稚園程度都不到的架構 (所以我當年沒考上美術班)，這時候會交給 NPU 來做 AI 運算去思考你畫圖片的架構位置 (樹木與房子在哪裡)，當你在右側下指令選擇要繪圖的風格時，這時候就會再交給雲端 AI (背後應該是使用 OpenAI DALLE3 的繪圖模型)，由他來負責出圖上色完成。
混合雲 AI 的概念很重要，因為它能夠去降低初步 AI 運算的延遲，同時又可以使用到雲端 AI 更高強度的 AI 運算能力。
混合雲 AI 的定義:
一部分 AI 運算在地端機給 NPU 運算，另外一部分再交給雲端 AI 運算。
那 AI PC 是要有 NPU 還是 GPU？
這個問題的關鍵在於了解 NPU 與 GPU 的角色差異。雖然兩者都能執行 AI 任務，但定位與設計目標完全不同：
- GPU（圖形處理器）
能做 AI 模型訓練與高強度推理運算，包辦 AI 訓練與應用。它算力強大，但功耗高、發熱量大，且多數需要仰賴雲端或持續插電才能發揮完整效能。(用過電競筆電就知道) - NPU（神經網路處理器）
則是專門為 AI 推論而設計的低功耗晶片，擅長在地端（裝置上）即時執行語音辨識、影像處理、翻譯等 AI 應用。它不如 GPU 在 AI 推論運算強大，但非常節能、能幫助你的裝置延長電池續航力 (甚至讓你一天都不用充電)，非常適合筆電或行動裝置運行小型 AI 運算功能。
因此，雖然 GPU 很早以前就存在，並且擁有強大算力，但那時候的應用以圖像渲染或大型雲端 AI 伺服器訓練應用為主。但也因為 AI 的普及才是近幾年的事，過去即便有 GPU，也沒人談「AI PC」。
而今天所謂的 AI PC，其實就是一台裝有 NPU 的裝置，它能在本機端即時執行 AI 應用，像是即時字幕翻譯（Live Captions）、視訊模糊背景（Windows Studio Effects）等，當然有些功能可能會透過混合雲 AI 的方式來進行運算。
GPU 適合做「AI 訓練」也可以涵蓋 AI 推論 (應用)，可以提供超強的運算力，但功耗高、體積大，通常用在雲端或工作站。
NPU 專門用來執行「AI 推論 (應用)」，運算效率高又省電，適合在筆電或手機上即時執行 AI 功能。
簡單說：GPU 專用於訓練 AI，NPU 是拿到訓練完的 AI 來做應用。
Copilot+ PC 又是什麼?
相信大家，如果去了 2024 與 2025 都有看到各家電腦廠商攤位上有標示一個叫 Copilot+ PC 的區域，你一定又會有一個問題，不是有 AI PC? 怎麼又有 Copilot+ PC?
我們先來看一下微軟有定義的 Copilot+ PC 標準:
- NPU 算力至少超過 40 TOPS
- 16 GB RAM 記憶體
- 256 SSD 儲存空間
跟剛剛提到業界廣泛定義 AI 電腦只要有 NPU 是不同的。其實問題就在於最早當處理器廠商開始推廣搭載 NPU 的處理器或裝置時，每家廠商又開始說: 我的定義是要有 NPU 10 TOPS，另外一家的說法又不一樣。
其實最後就是由微軟作為作業系統廠商，直接由作業系統角度來定義，攜手與處理器廠商與品牌電腦商達到共識，去定義出真正的 AI PC標準。
(你可以理解微軟的定義就是 Copilot+ PC)
某方面你想一下，這家廠商這樣講，那家廠商這樣講，誰才能代表市場?
ㄟ，畢竟微軟是作業系統廠商，同時又是市值前三的公司，由他來定義可能力道會更強。
為什麼 Copilot+ PC 需要具備 NPU 至少 40 TOPS、16GB RAM 與 256GB SSD？
Copilot+ PC 被設計來支援更多地端 AI 功能與即時處理能力，甚至到後面是支援混合雲 AI 運算。這三項硬體需求，其實各自對應到 AI 應用運作時的核心資源需求：
16GB RAM：讓 AI 可以同時處理複雜任務
AI 應用（如即時字幕翻譯、影像強化、自然語言處理等）會大量佔用記憶體。如果只有 8GB 記憶體或更低，在多工或高強度任務下容易出現延遲或卡頓。16GB 是為了確保使用者在日常文書與 AI 工作之間可以順暢切換，不被效能瓶頸限制。
當你同時間開越多應用程式，電腦的 RAM 就要越大才能支援，不然就會開始當機。
256GB SSD：儲存地端 AI 模型與資料
許多 Copilot 功能（像是 Recall、AI 文字摘要、即時圖片分析等）都需要將資料暫存或儲存在本機。若儲存空間太小，會限制本地 AI 模型的部署以及資料都需要儲存在本地。256GB 是為了確保足夠空間支援 AI 模型與用戶檔案儲存。
NPU 至少 40 TOPS：為未來幾年的 AI 工作負載做好準備
TOPS 是衡量 NPU AI 運算能力的指標。微軟定義 40 TOPS 肯定是經過研究後，認為足以涵蓋大多數日常辦公、文書處理與小型 AI 模型的運算需求。這是一個「為未來而設」的門檻，確保 Copilot+ PC 至少在未來數年內，仍能順利執行主要小規模的 AI 功能。
Copilot+ PC 就是一由微軟定義的 AI PC，預先提高硬體條件，去滿足現階段或未來幾年本地裝置上小型 AI 的運算。
我真的需要 AI PC 或是 Copilot+ PC 嗎?
介紹到這邊相信大家應該可以理解兩者的定義了，然後最後就會有個問題。那我要換電腦的話，會需要買到這些規格嗎?
即便我本上是做 PC 銷售相關的工作，我還是會很客觀的先回答你: 看你需要求。
不過先給你一個趨勢觀念:
未來市面上大多數的電腦都會是 AI PC，甚至逐步朝 Copilot+ PC 規格邁進，因為各大處理器廠商的新一代 CPU 都會內建更強的 NPU，TOPS 數值也會越來越高，自然符合 Copilot+ PC 的標準，當然依然會有符合較低運算需求的電腦。
所以問題的重點不只是「要不要買」，而是：
你用的應用程式，有開始用到 AI 運算了嗎？
這裡建議你先做一件事：
列出你日常使用的應用程式，觀察它們有沒有內建 AI 功能，像是即時摘要、字幕翻譯、圖像優化、寫作建議等等，這些功能有沒有開始需要 NPU 幫你本地加速運算？
如果答案是「有，而且越來越多」，那你會發現：與其等應用程式開始有地端 AI 功能出現，不如主動升級，讓你的電腦先擁有運算能力。
我們拿幾個微軟官方宣布的應用程式案例來介紹本地 AI 的應用:
其中 Neural Mix 可透過 NPU 運算 AI，即時分離音樂元素，例如: 人聲、鼓點、和聲等，方便讓 DJ 更快去拆解音樂，這項功能可透過 NPU 進行 AI 運算，來提供更強大的 AI 混音體驗。
它的 Magic Mask 能使用 AI 自動識別並追蹤人物或物體，無需手動逐幀去抓取遮罩，可直接以 AI 抓取物體，用於調色、特效或背景替換，比起傳統使用 CPU 運算，NPU 能讓運算速度大幅提升。
它的 Auto Removal 移除背景功能能幫助使用者快速將物體背景去掉並套用新背景，
透過 Copilot+ PC 上的 40 TOPS NPU 比單純使用 CPU 運算效率更快。
防毒軟體大廠 McAfee，它的 McAfee Deepfake Detector 功能，能在數秒內即時發出警示，提醒該影片可能涉及 AI 合成語音，幫助有效分辨真實與虛假資訊，降低遭遇 AI 詐騙的風險。Deepfake Detector 會在裝置本地處理視訊資料，使用 NPU (40 TOPS 以上) 來進行 AI 運算，同時確保使用者的隱私不受侵犯或外洩。
從上面幾個案例其實你也可以發現在一些小規模 AI 圖像或是音訊上的確是很適合交給 NPU 來做 AI 運算。
但講到這裡，你可能會覺得：「目前官方強調的 Copilot+ PC 功能，好像就那幾個，例如我們前面提到的 Paint Cocreator，是 Windows 上專屬於 Copilot+ PC 的特色功能，算一算其他的 Windows Studio Effects、Live Captions 翻譯功能等等，其實看起來並不多？」
其實這很合理，微軟是作為 Windows 的作業系統廠商，職責是開發與維護作業系統，在這個層面它不是軟體商，Copilot+ PC 的那些功能是先打造出來並且利用到 NPU 運算，目的是為了讓軟體商看見。
因為當電腦有了 NPU，各大軟體商也會開始積極開發「在地端運算的小型 AI 功能」，直接讓使用者的電腦去跑 AI 運算。這不僅能大幅降低軟體廠商自己的雲端運算成本，也讓體驗更即時、反應更快。
事實上，雖然你會覺得現在好像才剛開始，但現在市面上已經有越來越多應用程式支援 NPU 運算，你可以去開啟 Zoom 或 Webex 的「背景模糊」功能，如果你的電腦有 NPU，軟體會自動偵測並把這個效果交給 NPU 處理。
你會發現模糊背景時的輪廓運算品質是更好的，因為過往憑藉廠商的伺服器雲端運算，在傳輸時可能會有延遲。所以，NPU 的應用程式在未來也會越來越多。未來你的各種日常軟體，可能都會陸續開始用上 NPU。
以上，就是帶你一步一步拆解，從「雲端 AI」到「地端 AI」的基本概念，深入理解 GPU 與 NPU 在 AI 運算中的不同角色。只要把這些觀念串聯起來，你就能快速釐清「AI PC」和「Copilot+ PC」真正的差異與核心價值。
若有任何問題，歡迎來信或是直接透過 IG 在詢問，有任何想法都可以交流!
發表迴響