一部AI PC如何分工

AI PC的競爭常被濃縮成一個數字：NPU有多少TOPS。然而，一部真正可用的AI PC，從來不是把一顆NPU放進既有筆電就完成。當語音、影像、生成式模型與智能代理同時進入個人電腦，CPU、GPU與NPU必須重新分工；記憶體要同時容納程式、模型與上下文；SSD從檔案倉庫變成模型及知識庫的資料層；電源、散熱與作業系統則要在效能、續航、隱私和成本之間持續取捨。真正的瓶頸，往往不在運算單元的峰值，而在資料能否及時送達，以及軟體是否知道該把工作交給誰。

圖一 : 利用太陽能等再生能源，也能夠自主發電用電。

這也意味著，AI PC不會只有一種標準答案。基本PC以雲端服務為主，端雲協作型AI PC強調每瓦效能與動態調度，本地Agent PC或個人AI 工作站則追求大容量記憶體、模型自主與長時間滿載能力。硬體分流的背後，其實是工作責任的重新配置：哪些推理在本地完成、哪些資料可以上雲、哪些動作必須由人確認。從零組件來看，這場變?不是單點升級，而是整部PC架構的全面重組。

CPU、GPU與NPU不是彼此取代，而是重新分工

系統控制與代理流程的指揮中心

CPU仍是PC的指揮中心。作業系統排程、程式邏輯、檔案管理、網路協定、裝置驅動、安全驗證與權限控制，都需要CPU處理。智能代理看似由大語言模型主導，但真正執行任務時，必須先拆解目標、呼叫工具、判斷例外、確認檔案位置，再把結果送回應用程式；這些分支多、資料型態不一、難以規則化的流程，正是通用 CPU 擅長的工作。即使模型由GPU或NPU推論，CPU仍要準備輸入、管理記憶體並統整輸出。

所以CPU不會被AI加速器取代，只是角色從『所有運算都自己做』，轉向『控制流程並指揮異質引擎』。對Agent PC 而言，CPU的單執行緒反應、多核心協調、虛擬化與資安能力，可能比單純增加AI TOPS 更關鍵。當代理可以代表使用者寄信、修改檔案或操作企業系統時，權限檢查與稽核也不能交給一個只追求矩陣吞吐量的加速器。

GPU：生成式運算與高吞吐量核?

GPU以大量平行核?處理相似計算，適合圖像與影音生成、3D渲染、大型矩陣運算、模型推論、模型微調及科學工程模擬。與NPU相比，GPU通常具備較成熟的開發工具、更廣的模型支援及較高的可程式化彈性；代價則是功耗、散熱與記憶體需求較高。

當工作從視訊降噪升級為Stable Diffusion影像生成，以及長上下文語?模型或LoRA微調，GPU往往仍是主要引擎。但GPU效能不能只看核心數。獨立GPU受限於顯示記憶體容量，本地大型模型若超過VRAM，就必須在系統記憶體與GPU之間交換資料，速度可能急遽下降；整合式GPU雖可共享系統記憶體，卻又受限於頻寬與整體功耗。

因此，Agent PC開始重視大容量統一記憶體，目的不是讓GPU 變成CPU，而是減少資料複製，讓模型可以在更大的共同記憶體池內運作。

NPU：低功耗、持續運作的AI引擎

NPU針對神經網路中的張量、向量與資料流進行最佳化，主要價值不是永遠跑得比GPU快，而是能以較低功耗持續執行固定型態的推論。語音辨識、背景降噪、視線校正、即時字幕、人臉辨識、文件分類及持續感知，都不應長時間占用高功率GPU。Qualcomm便強調，將?勢或臉部偵測等神經網路移到Hexagon NPU，可讓CPU與GPU保留給傳統程式及圖形工作；Intel 的OpenVINO文件也將NPU界定為低功耗的神經網路卸載裝置。

圖二 : CPU負責控制與代理編排，GPU承擔高吞吐量生成及矩陣運算，NPU處理低功耗持續推論；三者共同受記憶體容量、f頻寬、資料搬移與軟體排程制約。(製圖：CTIMES)

NPU因而特別適合筆電：它不是只在使用者下指令時短暫爆發，而是可能在視訊會議、語音喚醒與安全監測中長時間待命。然而，NPU通常支援的運算子、模型格式與精度範圍較受限制；若模型含有未支援的運算，仍要回到CPU或GPU。這也是為什麼硬體數字之外，編譯器、驅動程式和模型轉換工具同樣重要。

TOPS不是唯一評估指標

TOPS是每秒可完成多少兆次運算的峰值指標，但只有在相同資料格式、相近工作負載與測試條件下才適合比較。INT8、INT4與FP4的精度、動態範圍和硬體利用率不同，不能把不同精度的TOPS或FLOPS直接排列。更重要的是，峰值算力不代表應用速度：模型若不被編譯器完整支援、記憶體頻寬不足、資料前處理卡在CPU，或部分運算必須在裝置間來回切換，理論算力就無法轉化成使用體驗。

評估AI PC應同時觀察首個token延遲、每秒token數、持續功耗、模型載入時間、記憶體占用、軟體相容性及電池模式下的效能。TOPS仍有價值，它可以標示NPU的級距；但它更像引擎的最大馬力，而不是整車抵達目的地的時間。PC廠商若只宣傳TOPS，卻不說模型、精度、記憶體與運行環境，就仍停留在規格行銷，而不是工作負載設計。

記憶體成為AI PC真正的分水嶺

從容量需求重新定義PC層級

傳統PC的記憶體主要容納作業系統、應用程式與使用中的資料；AIPC還要加入模型權重、KV cache、向量資料庫、影像張量與多個代理的上下文。8GB 仍可處理基本應用，但多工與本地AI 空間有限；16GB適合主流PC及雲端AI；32GB逐漸成為端雲協作型AI PC較穩健的配置；64GB可支援專業創作和中型本地模型；96GB至128GB則進入大型模型與Agent PC範圍。128GB以上並不代表一般?都需要，而是AI工作站與模型開發的專業級距。

DDR5仍是主流，但不會是唯一選項

DDR5 DIMM與SODIMM保有成本、供應成熟及可升級優勢，對桌機、商用PC與維修週期較長的設備仍很重要；LPDDR5X以低功耗和高頻寬適合輕薄筆電，但通常焊接在主機板上。LPCAMM2則試圖把兩者的優點結合：採用LPDDR5X的低功耗與128-bit介面，同時保留模組化、維修及升級能力。Micron在2026年資料中列出LPCAMM2最高9,600MT/s，並強調更小面積與較低待機功耗，顯示AI PC的記憶體競爭已從容量延伸到能效及模組形式。

第四條路線是封裝式統一記憶體，讓CPU、GPU與AI引擎共享同一記憶體池，縮短資料路徑並提高可用容量。這類架構有利於輕薄化及高頻寬設計，卻也把容量決定提前到購機時，降低升級與維修彈性。未來市場不會由單一記憶體形式勝出，而會依產品定位分流：可維修商用PC偏好模組化，輕薄AI PC追求低功耗，Agent PC則更重視大容量與資料共享。

表一 AI PC記憶體容量分級

容量級距	較合適的工作負載	採購判斷
8GB	基本文書、瀏覽與雲端服務	不利多工本地AI
16GB	主流PC、雲端生成式AI	一般商務起點
32GB	端雲協作、輕量本地模型	主流AI PC較佳平衡
64GB	專業創作、中型本地模型	注意頻寬與散熱
96–128GB	大型本地模型、多代理工作	偏向Agent PC
128GB以上	模型開發、AI工作站	高成本專業配置

註：AI PC記憶體容量分級為工作負載示意，實際需求仍受模型精度、上下文長度及平台可用記憶體影響。

統一記憶體是否會成為AgentPC標準？

統一記憶體最大的吸引力，是CPU與GPU不必各自保存一份資料。大型模型可直接使用較大的共同容量，減少PCIe或其他互連上的複製，對本地推論尤其有利。NVIDIADGX Spark 便以128GB coherentunified system memory作為個人AI系統的核?，讓模型開發者在桌面上處理過去需要工作站或伺服器才能容納的模型。這說明Agent PC的關鍵資源正在從『獨立GPU有多少VRAM』，轉向『整個系統能提供多少高效率共享記憶體』。

可是，統一不等於沒有代價。焊接或封裝整合會提高主機板及維修成本，容量無法日後擴充，也容易形成平台封閉。對企業而?，設備折舊週期往往長於模型演進速度；若三年後模型容量增加，不能升級的高價設備可能提早失去經濟性。因此，統一記憶體可能成為高整合Agent PC的重要方向，卻未必成為唯一標準；LPCAMM2與可擴充桌機仍會保有市場。

記憶體頻寬比容量更容易被忽略

模型能放進記憶體，只代表『可以啟動』，不代表『可以有效率地運作』。生成每一個token時，處理器必須反覆讀取權重與快取；當運算單元等待資料，增加TOPS也無法同比增加速度。因此，本地模型表現取決於參數量、量化精度、上下文長度、快取大小、記憶體頻寬及資料搬移效率。雙通道配置、記憶體時脈、控制器與封裝距離，都可能比容量標籤更直接地影響token輸出。

這也改變記憶體廠商在PC供應鏈中的角色。過去DRAM常被視為容量與價格零組件，未來必須與CPU、GPU、NPU及模型共同驗證。對PC品牌而?，標示『32GB AI PC』仍不夠，還要說明記憶體類型、通道、頻寬與可用容量；否則同樣容量的兩部電腦，可能呈現完全不同的本地AI體驗。

SSD從儲存裝置變成AI資料層

本地模型推高SSD容量需求

Agent PC不只保存一個模型。使用者可能同時保留不同參數量的基礎模型、量化版本、影像生成模型、embedding模型、向量資料庫、企業文件、訓練資料、影音素材、模型快取及代理執行紀錄。單一模型可能從數GB到數?GB，資料庫與素材則持續成長，因此2TB逐漸成為專業AI PC的合理起點，而非容量終點。若企業要求本地保留版本、離線備份與稽核紀錄，實際需求還會更高。

SSD也會參與工作流程：模型啟動時要從NAND載入記憶體，RAG查詢要讀取索引與文件，記憶體不足時還可能使用儲存作為暫存層。SSD再快也不能取代DRAM，因為延遲與耐寫度不同；但容量太小、隨機讀取太慢或熱降速嚴重，都會拖慢代理反覆載入模型和知識庫的速度。

SSD效能不能只看讀寫速度

消費型SSD常以最高順序讀寫速度作為賣點，但AI資料層還要關注隨機讀取、佇列深度、長時間持續寫入、SLC快取耗盡後的速度、控制器溫度、NAND耐寫度與垃圾回收。模型檔屬大型連續資料，向量索引與大量小文件則可能形成不同的存取型態；代理若同時記錄日誌、建立索引並載入模型，混合讀寫能力比單一峰值更具代表性。

專業AI PC因此應把SSD視為系統設計，而不是最後才選的容量零件。散熱片與風道要避免長時間降速，韌體必須兼顧延遲穩定性，企業設備還要評估斷電保護與壽命監控。未來若儲存控制器能在近資料端協助壓縮、搜尋或索引，SSD甚至可能從被動儲存?向資料處理元件。

儲存安全與資料刪除

本地AI保護了資料不必離開裝置，卻也把風險集中到裝置本身。AgentPC可能保存企業機密、客戶文件、embedding、提示詞、帳號權杖與代理操作紀錄；一旦筆電遺失或轉售，資料外洩可能比傳統文件更完整。因此SSD需要自我加密、安全抹除、 TPM協同、分區權限、備份與版本管理，企業管理平台也要能遠端鎖定或撤銷金鑰。

NVIDIA DGX Spark的4TB NVMe即列出self-encryption，顯示專業本地AI系統已把儲存安全納入硬體規格。但加密只是起點：RAG 資料刪除後，向量索引與快取是否同步清除？代理日誌要保存多久？模型微調後是否仍可能帶出敏感資料？這些問題跨越SSD、作業系統與AI治理，不能只靠一次『刪除檔案』完成。維持，峰值便沒有意義。電源、散熱與外觀設計也將分流Agent PC：接近行動工作站的熱設計。

基本PC：追求低成本與長續航

以雲端AI為主的基本PC，本地仍以文書、瀏覽、視訊與企業軟體為核心，適合低功耗CPU、整合式GPU、單風扇或無風扇設計，以及USB-C充電。它不需要為少數高負載情境配置龐大散熱能力，價值在價格、輕薄、續航與可管理性。當複雜模型由雲端執行，網路連線及身分安全比高瓦數GPU更重要。

混合式AI PC：追求每瓦AI效能

端雲協作型AI PC的難題，是在有限電池與薄型機身中同時容納CPU、GPU、NPU和高速記憶體。系統必須以細緻的電源閘控關閉閒置單元，利用高效率VRM降低轉換損耗，並在視訊、生成與傳統程式間動態分配功率。LPDDR5X 或LPCAMM2、均熱板與雙風扇不只是高階配備，而是維持持續AI效能的基礎。若NPU規格很高，卻因散熱或記憶體供料不足而無法長時間。

本地大型模型需要長時間讀取大容量記憶體，GPU或大型SoC也可能維持高負載，Agent PC因此更接近行動工作站。多風扇、均熱板、高瓦數USB-C PD或專用電源，都會增加重量與成本；若追求靜音，機身體積又必須放大。這也是小型桌機可能比輕薄筆電更適合專業本地AI的原因：它可以提供穩定電力、較完整風道與更高容量儲存，並避免電池老化成為瓶頸。

電池續航與本地AI的矛盾

本地推理可降低網路延遲與資料傳輸，也不必為每次API呼叫付費，但它不一定更省電。小型固定模型交給NPU可能非常有效率；大型生成模型若持續占用GPU，電池消耗可能遠高於把請求送往雲端。真正合理的系統不應預設『本地永遠優先』，而要根據模型大小、資料敏感度、網路狀態、電池、溫度與服務成本動態選擇。這種調度能力，正是AI PC能否兼顧自主與續航的關鍵。

軟體層才是三種處理器能否真正整合的關鍵

作業系統的異質運算排程

硬體具備CPU、GPU與NPU，不代表應用程式會自動用對裝置。作業系統與運行環境必須知道模型支援哪些運算?、各引擎目前負載、電池採用何種模式，以及多個AI應用是否同時競爭NPU。Microsoft 在2026年的Windows ML文件中，已將其定位為以ONNX Runtime為基礎的本地AI推論框架，可透過硬體廠商執行提供者在CPU、GPU與NPU上加速；官方比較?也顯示，新Windows ML 是現行發展方向，DirectML則進入維護階段。

圖三 : AI PC的端雲調度不只比較算力，還要綜合權限、隱私、延遲、電池、溫度、模型大小及軟體相容性；結果回傳後仍須保留人工確認與稽核紀錄。(製圖：CTIMES)

這個變化很重要：AI PC的價值將逐漸從每家應用綁定特定SDK，轉向由共同運行環境管理硬體提供者、驅動與模型部署。ONNX Runtime的Execution Provider架構，就是把模型的節點或?圖分派給不同硬體後端；OpenVINO 亦支援CPU、GPU、NPU、自動選擇與異質執行。理想狀態下，開發者可以撰寫一次應用，再由系統依平台選擇最佳裝置；現實中，仍需處理模型轉換、量化與未支援運算的回退。

模型與運行環境決定硬體利用率

AI PC的軟體堆疊正在形成多層結構：PyTorch負責模型開發，ONNX提供交換格式，Windows ML、ONNX Runtime、OpenVINO、Ryzen AI Software與Qualcomm AIStack 負責部署到不同CPU、GPU、NPU；CUDA與TensorRT深耕NVIDIA GPU，llama.cpp 與Ollama則降低本地語言模型的使用?檻。工具愈多，選擇愈豐富，但版本、驅動、量化格式與模型授權也更複雜。

因此，PC品牌不能只出售硬體，還要提供可持續更新的模型管理、驅動與應用驗證。企業採購更應測試自?的軟體，而不是只看展示程式：舊版外掛是否支援Arm？NPU能否執行指定模型？切換執行提供者後輸出品質是否一致？若一個標稱AI PC的平台缺乏模型及應用生態，高TOPS就只是一座沒有道路連接的高速引擎。

表二 x86 PC與Arm PC比較

比較項目	x86 PC	Arm PC
傳統軟體	相容性與企業驗證較完整	持續改善，仍須逐項測試
功耗效率	新平台快速進步	SoC整合具優勢
企業舊系統	導入阻力較低	外掛、驅動與管理工具須驗證
通訊整合	可外掛或平台整合	通常高度整合Wi-Fi／行動通訊
AI加速	CPU、GPU、NPU生態多元	CPU、GPU、NPU緊密整合
升級彈性	桌機與模組化平台較佳	多為高度整合設計

註：x86與Arm的差異正在由指令集競爭，轉向軟體相容性、SoC整合度、每瓦效能及企業部署成本的整體比較。

x86與Arm的兩條架構路線

x86 PC 的優勢是傳統Windows 軟體、企業管理工具及周邊相容性成熟，桌機也保有較高升級彈性；Arm PC則以SoC高度整合、通訊能力與每瓦效能?長，CPU、GPU、NPU、影像與連線模組可以在單一平台內協同。兩者的差距正在縮小：x86持續改善功耗和NPU整合，Windows on Arm也透過原生應用與模擬層擴大相容性。

未來並不是Arm必然取代x86，也不是x86只靠相容性守成，而是兩條路線彼此吸收：x86學習行動SoC的低功耗與整合，Arm 則補強桌面軟體、驅動與企業治理。對使用者而?，真正的問題仍是工作負載：若高度依賴既有企業系統，x86較穩健；若重視輕薄續航、常時連線與本地感知，Arm可能更有吸引力。架構名稱只是入?，軟硬體生態才決定能否完成工作。

結語

一部AI PC的成熟度，不應只看它擁有多少運算單元，而要看它能否在正確時間，把正確資料交給正確引擎。CPU維持流程、權限與例外處理，GPU 擴大生成與平行運算，NPU承擔低功耗持續推論；記憶體與SSD形成資料基礎，電源和散熱決定效能能維持多久，軟體排程則把所有零件組成一套可用的系統。

當Agent開始替人行動，這種分工還必須接受權限、稽核與人工確認。PC的重組，表面是硬體異質化，深層則是能力與責任的重新安排。

特別企劃〉

Smart Energy：數位電錶除了量測電壓和電流外，還需要什麼強大的功能？

Microchip 推出的全新加強型智能電錶解決方案，擁有複雜且精準的計量韌體，並支持基礎的電錶應用。此方案在數位電錶數據傳輸方面，既可以通過電力線傳輸，也可以使用藍牙…

Microchip 推出的全新加強型智能電錶解決方案，擁有複雜且精準的計量韌體…